Het gevaar van kunstmatige Intelligentie is de dystopie du jour. En het zijn niet de minsten die de verdoemenis prediken: knappe koppen die aan de wieg stonden van deze technologie smeken om maatregelen die ons behoeden voor een catastrofe.

AI die de mensheid uitroeit – is dat niet wat overdreven? En zijn er niet al genoeg andere rampen die een stuk urgenter zijn, en waar we beter onze energie in kunnen steken?

In deze aflevering van de Tegenlicht podcast is Alix Rübsaam te gast. Zij gelooft niet zo in de doemdenk-hype. Want in alle Matrix-achtige horrorverhalen worden de reële, dagelijkse risico’s van AI ondergesneeuwd.

Rübsaam werkt momenteel voor de Singularity University. In deze Silicon Valley-denktank onderzoekt ze de maatschappelijke impact van nieuwe technologie, en geeft ze les over AI aan bestuurders en zakenmensen.

Een van de belangrijkste zaken die ze haar studenten wil meegeven is dat het aura van objectiviteit bij AI niet klopt. Vooroordelen zitten ingebakken in elk kunstmatig intelligent systeem.

En het wordt in de toekomst steeds moeilijker om deze vooroordelen te ontdekken want de ontwikkeling van kunstmatige intelligentie wordt steeds meer geautomatiseerd. Programma’s struinen het web af voor data om AI mee te voeden. En het geautomatiseerd voeden en trainen van AI brengt het risico met zich mee dat vooroordelen worden versterkt en nog sneller in de wereld komen.

Maar als vooroordelen zijn ingebakken in de AI en die vooroordelen steeds meer versterkt worden, hoe betrouwbaar is dan de meest populaire AI-toepassing van dit moment: ChatGTP? Het algoritme van de baanbrekende AI waar Microsoft miljarden in heeft gestoken en die de wereld heeft overrompeld. Welke bias zit er in Chat GTP verscholen? En waarom zijn er zoveel serieuze wetenschappers die het einde van de wereld proclameren?

Om de reële risico’s goed in kaart te brengen is het belangrijk een beter begrip te hebben van wat AI nu echt is. AI is geen alwetende kracht. Het is een rekenkundige truc. Een hele knappe truc dat wel, maar het is belangrijk om AI te demythologiseren en te zien voor wat het is. Media- onderzoeker Vladan Joler noemt AI ook wel een ‘statistische illusie.’ Het is een model gebouwd op onvoorstelbare hoeveelheid data.