Onbewust super slim

We zijn snoeihard op weg richting kunstmatige superintelligentie, maar kunnen alleen maar speculeren over wat die superintelligentie inhoudt. Een machine die straks in alle aspecten beter is dan jij en zich ervan bewust is: het bestaat nu nog niet, maar wat gebeurt er als het er wel komt? Wat we wel hebben, is beperkte kunstmatige intelligentie (BKI's of weak A.I.'s). De technische specialisten die hun taak uitvoeren zonder enige vorm van zelfbewustzijn. De BKI is de voorloper van de vooralsnog hypothetische hyperintelligentie (strong A.I.) en heeft zo zijn eigen voor- en nadelen.

Toonaangevende ondernemers, wetenschappers en denkers als Ray Kurzweil, Nick Bostrom, Stephen Hawking en Elon Musk hebben allemaal uitspraken gedaan over de komst van sterke A.I. Er is vooral veel onzekerheid. Zal de mens zoals we die kennen verdwijnen? Zal een technologische utopie aanbreken?

Voordat het zover is hebben we te maken met systemen die tegelijkertijd zowel hyperintelligent zijn als geheel onwetend, en deze brengen hun eigen uitdagingen en mogelijkheden met zich mee. 

Toezicht houden, selecties maken aan de hand van voorbedachte criteria of een archief bijhouden en aanvullen. Dit zijn taken waar de systematische robot bij uitstek geschikt voor is. Online doen zoekdiensten zoals Google dit al jaren. Met steeds verfijndere algoritmes schat Google in wat de gebruiker wil vinden of zou moeten zien. Fysieke robots kunnen ook op steeds geraffineerdere manieren bibliothecarissen en bezoekers bijstaan in bibliotheken zoals blijkt uit het onderstaande filmpje en dit artikel van Gizmodo (in 360 Magazine).
 

De schaduwzijde van archiveren en zoeken op basis van algoritmen (een vorm van beperkte kunstmatige intelligentie) zijn de zogenaamde filter bubbels waar we door de algoritmen van Google en Facebook in worden gevangen. Zo waarschuwt Evgeny Morozov al jaren voor de vrijheidsbeperkende tendenzen van sociale media en zoekmachines. En digitaal antropoloog Zeynep Tufekci kwam eind vorig jaar met de voorspelling dat 2015 het jaar zou worden dat we ons meer bewust worden van de griezelige kant van algoritmen.

De volledig autonoom rijdende auto is nog toekomstmuziek, maar inmiddels is bijna elk model in de showroom uitgerust met een indrukwekkende hoeveelheid sensoren. De huidige vervoersmiddelen kunnen heel veel randzaken van het rijden bijhouden en aanpassen terwijl de bestuurder zich op de weg richt. Zo kunnen automatische remmen in werking treden wanneer iets zich plots op de weg bevindt en kunnen navigatiesystemen veel meer bijhouden dan alleen de route. De techniek ontwikkelt zich snel en Google zegt de autonome auto over ongeveer tien jaar volledig te hebben doorontwikkeld.
 

Sociale robots die mensen te woord kunnen staan en gezelschap kunnen geven. Wel zo prettig want ze zijn het gesprek nooit zat. Altijd welwillend om de ander een plezier te doen. Ze zullen nooit moedwillig een nare opmerking maken of sarcastisch doen, tenzij dat is wat de makers hebben ingeprogrammeerd. Voorbeelden van sociale (huis)robots zijn de al wat verouderde AIBO, Pepper en Jibo (video hieronder).
 

Sociale robots kunnen wellicht een goede functie vervullen als receptionisten en om senioren en kinderen te vermaken, maar er is nog geen robot waar een goed gesprek mee kan worden gevoerd. Zodra we als mensen doorhebben dat we met een beperkt intelligent wezen spreken haken we al snel af. Een goed gesprek vereist minimaal twee zelfbewuste wezens die goed weten hoe te luisteren. De huidige BKI's leveren deze ervaring nog niet en het is de vraag wat er gebeurd als de sterke A.I.'s er eenmaal zijn.

Binnen enkele jaren zou het zo ver kunnen zijn. Dan wint de eerste kunstmatige intelligentie in de Verenigde Staten een van die felbegeerde Pulitzers. Twee bedrijven die al hard aan de weg timmeren zijn Automated Insights en Narrative Science. Zij specialiseren zich in algoritmes die op basis van data door mensen te lezen verhalen construeren. Hun aanbod beperkt zich vooralsnog vooral tot artikelen gebaseerd op kwantitatieve data zoals sportuitslagen en financiële rapporten. De diensten van de twee algoritmische schrijvers worden al afgenomen door onder andere Forbes (Narrative Science), Associated Press en verscheidene andere nieuwssites (Automated Insights).

In de toekomst zouden deze virtuele journalisten gebruikmakend van Big Data het web kunnen afspeuren om met een scoop te komen die geen enkel mens had kunnen voorzien. Dit was in zekere zin al gebeurd toen een algoritme van de L.A. Times een aardbeving beschreef nog voordat deze door mensen werd gevoeld. Dat een "journobot" op een gegeven moment een prestigieuze prijs binnen sleept is dus geen gek idee. Maar zou de betreffende bot trots zijn? Zou hij voor zichzelf gaan beginnen als een sterk merk? Voorlopig zeker nog niet, want als het aan een ding ontbreekt bij alle kunstmatige intelligentie dan is het wel zelfbewustzijn. Maar misschien is het ontbreken van subjectiviteit bij deze journobots juist goed. Nog nooit eerder werd nieuws zo accuraat en neutraal gebracht.
 

Al deze BKI's kunnen specifieke dingen heel erg goed. Ze zijn in die zin slimmer dan mensen en maken, zonder te klagen, het leven van mensen eenvoudiger. Tegelijkertijd zijn de BKI's niet in staat te overzien wat ze doen. Ze kunnen dan ook niet ter verantwoording worden geroepen als er iets fout gaat. Met alle wettelijke consequenties van dien.

Omdat BKI's niet ter verantwoording kunnen worden geroepen, vormen ze een risicofactor. De autonome systemen handelen razend slim, zonder na te denken over waar ze mee bezig zijn. Terwijl experts en ondernemers waarschuwen voor de komende sterke A.I., moeten we eerst nog zien om te gaan met de zwakke A.I. Of zoals één wetenschapper claimt zou kunstmatige intelligentie best wel eens een bedreiging kunnen vormen voor de mensheid zonder dat deze intelligenter is dan wij. Juist door de beperkingen.