In de wereld van AI, modellen en algoritmes, kom je soms het begrip black box tegen. Dit beschrijft systemen waar data ingaan en waar data uitkomen, maar waarvan je niet exact weet hoe ze werken.
Het is bij dit soort systemen vaak onduidelijk of ze bedoeld/onbedoeld negatieve neveneffecten hebben.
Door dit soort systemen zijn er allerlei discussies gaande:
- Op welke manieren kunnen we de werking van black box systemen zichtbaar maken?
- Zijn er contexten waarin black box systemen niet wenselijk zijn?
- Moeten we black box systemen überhaupt wel willen gebruiken?
Goed.
De gesprekken gaan dus over de wenselijkheid van een black box en het duiden van de black box, het zichtbaar maken van de innerlijke werking van een (data)systeem.
De discussie wordt extra interessant als we de zwarte doos van onze digitale machines afzetten tegen de zwarte doos van fysieke machines.
Toen de industriële revolutie goed en wel aan de gang was, namen machines steeds meer werk van ons over. Die machines zette functie boven vorm en stonden vaak kaal in de fabrieksruimte. De werking van de machine, met alle bewegende onderdelen, was duidelijk zichtbaar.
Maar de machines met bewegende delen vormden een veiligheidsrisico: fabrieksarbeiders konden ertussen komen en zo verwondingen oplopen.
Na enige tijd kwamen er daarom maatregelen: beschermende omhulsels (dozen) om de machine en diens bewegende onderdelen moeilijker bereikbaar te maken. Dit beschermt de mens, resulteert in minder ongelukken op de werkvloer én maakt de innerlijke werking van de machine minder zichtbaar.
De black box ontstond hier dus om de mens te beschermen.
Bij onze digitale machines vormt de zwarte doos juist het risico: de onbekende werking kan onbedoelde effecten hebben die de mens schade kan toebrengen.
En dat is de black box paradox: dat wat we ooit hebben geïntroduceerd om de mens te beschermen, zorgt nu juist voor risico’s.
Het is interessant om stil te staan bij het aantal zwarte dozen dat je tegenwoordig gebruikt. Als ik kijk naar de digitale producten en diensten waar ik mee werk, zijn er maar heel weinig waarvan ik de innerlijke werking kan bekijken, laat staan begrijpen.
Wil je meer leren over de invloed van AI? Bekijk dan de serie Ophef van Nieuwsuur. Aflevering 2 gaat o.a. over de effecten van een black box op social media.