Opmerking van de auteur: Toen ik me verdiepte in kunstmatige intelligentie kon ik niet geloven wat ik las. Daarom duurde het drie weken om dit artikel af te ronden. Het werd me al snel duidelijk dat dit niet gewoon een belangrijk onderwerp is, maar verreweg HET belangrijkste onderwerp voor onze toekomst. Dus wilde ik er zoveel mogelijk over te weten komen. En toen wilde ik ook een stuk schrijven dat de hele toestand echt uitlegt, en waarom het zo belangrijk is. Niet zo vreemd dus dat het verschrikkelijk lang werd, dus ik heb het in twee delen opgesplitst. Dit is deel 1, deel 2 is te lezen op de site van De Volmaakte Mens.
De weg naar superintelligentie
Kunstmatige intelligentie is het onderwerp waar iedereen het over zou moeten hebben, want het gaat de toekomst van de mensheid radicaal veranderen.
Meer artikelen bij deze aflevering
We staan aan de vooravond van een verandering die vergelijkbaar is met het begin van menselijk leven op aarde.
Hoe voelt het om hier te staan?
Het lijkt een behoorlijk heftige plek om te staan - maar je moet niet vergeten hoe het is om op een tijdgrafiek te staan: je kan niet zien wat er rechts van je is. Dus zo voelt het echt om hier te staan:
Dat voelt vast heel normaal...
Stel je voor dat je in een tijdmachine naar 1750 gaat, een tijd waarin de wereld last had van een permanente stroomstoring, lange afstand communicatie betekende hard schreeuwen of een kanon afvuren en alle transport werd aangedreven door hooi. Als je daar bent, zoek je een gast op, die neem je mee naar 2015 en je loopt rond met hem en kijkt hoe hij overal op reageert. Het is onmogelijk voor ons om te begrijpen hoe het voor hem is om glanzende capsules voorbij te zien razen op een snelweg, met mensen te praten die eerder die dag aan de andere kant van de oceaan waren, naar sportwedstrijden te kijken die duizenden kilometers verderop worden gespeeld, naar een muzikaal optreden te luisteren dat vijftig jaar geleden plaatsvond en te spelen met mijn magische rechthoek die hij kan gebruiken om een levensecht beeld vast te leggen of bewegend beeld op te nemen, naar iemands gezicht te kijken en met diegene te praten terwijl ze aan de andere kant van het land zijn en werelden van andere, onbegrijpelijke tovenarij. En dat is nog allemaal voordat je hem internet laat zien of dingen uitlegt, zoals het internationale ruimtestation (ISS), de 'grote hadronen-botser' (LHC), kernwapens of de algemene relativiteitstheorie.
Deze ervaring zou voor hem niet verrassend of shockerend zijn, of zelfs absoluut niet te bevatten. Die woorden zijn niet groots genoeg. Hij zou daadwerkelijk dood kunnen gaan.
Maar nu komt het meest interessante. Als hij terug gaat naar 1750, jaloers wordt dat wij zijn reactie konden zien en dan besluit om hetzelfde te proberen, dan pakt hij de tijdmachine en gaat dezelfde afstand terug in de tijd, haalt iemand uit 1500, neemt hem mee naar 1750 en laat hem alles zien. Die gast uit 1500 zou geshockeerd zijn door veel dingen, maar hij zou niet dood gaan. Het zou een veel minder absurde ervaring voor hem zijn, want hoewel 1500 en 1750 erg verschillend zijn, zijn ze veel minder verschillend dan 1750 in vergelijking met 2015. De gast uit 1500 zou lastig te bevatten dingen leren over ruimte en natuurkunde, hij zou onder de indruk zijn van hoe ijverig Europa zich op die imperialisme-hype heeft gestort en hij zou zijn beeld van de wereldkaart flink moeten aanpassen. Maar kijken naar het dagelijkse leven in 1750 - vervoer, communicatie, etc. - zou hem zeker niet de dood injagen.
Nee, als de gast uit 1750 net zoveel lol zou willen als wij met hem hadden, dan moet hij veel verder terug, helemaal naar ongeveer 12.000 voor Christus, nog voor de eerste landbouwrevolutie leidde tot de eerste steden en het concept van beschaving. Als iemand uit een volstrekte jager-verzamelaars wereld - een tijd waarin de mens, min of meer, gewoon een van de diersoorten was - de uitgestrekte menselijke rijken van 1750 zou zien met hun torenhoge kerken, schepen die de oceaan kunnen oversteken, het concept van 'binnen' zijn en hun enorme berg van collectieve, in de loop van de tijd opgebouwde menselijke kennis en ontdekkingen, dan zou hij waarschijnlijk sterven.
En wat dan als deze gast, na te zijn gestorven, jaloers wordt en hetzelfde wil doen. Als hij 12.000 jaar terug gaat naar 24.000 voor Christus en iemand meebrengt naar 12.000 voor Christus, hij zou die gast alles laten zien en die zou zoiets hebben van, "Okay, wat wil je nou? Wat is er aan de hand?" Als de gast uit 12.000 voor Christus net zoveel lol wil hebben, moet hij meer dan 100.000 jaar terugreizen in de tijd en iemand halen die hij vuur en taal voor de eerste keer kan laten zien.
Dus als iemand naar de toekomst wordt getransporteerd en doodgaat van de mate van schok die hij ervaart, dan moet hij genoeg jaren vooruit gaan, zodat er een 'dodelijk niveau van vooruitgang', oftewel een Sterf Vooruitgangs Eenheid (SVE), is behaald. Dus een SVE duurt meer dan 100.000 jaar in de tijd van de jager-verzamelaar, maar na de eerste landbouwrevolutie duurt het maar 12.000 jaar. In de post-industriële wereld gaan de ontwikkelingen zo snel dat een persoon uit 1750 maar een paar honderd jaar vooruit in de tijd hoeft te gaan, totdat er een SVE voorbij is.
Dit patroon waarin menselijke vooruitgang steeds sneller gaat naarmate de tijd verstrijkt, noemt futuroloog Ray Kurzweil de Wet van de Versnellende Opbrengsten in de menselijke geschiedenis (Engels: Law of accelerating returns). Dit gebeurt omdat meer geavanceerde samenlevingen het vermogen hebben om zich in een sneller tempo te ontwikkelen dan minder geavanceerde samenlevingen, precies omdat ze geavanceerder zijn. De mensheid van de 19e eeuw wist meer en had betere technologie dan de mensheid in de 15e eeuw, dus het is geen verrassing dat de mensheid veel meer vooruitgang boekte in de 19e eeuw, dan in de 15 eeuw. De mensheid in de 15e eeuw was geen partij voor de mensheid in de 19 eeuw.
Dit werkt ook op een kleinere schaal. De film 'Back to the future' kwam uit in 1985 en 'het verleden' vond plaats in 1955. Als Michael J. Fox in de film terug gaat naar 1955 is hij verbaasd over de nieuwheid van TV, de prijs van een blikje frisdrank, het gebrek aan liefde voor de snerpende elektrische gitaar en het verschil in straattaal. Het was inderdaad een andere wereld, maar als de film vandaag gemaakt zou worden en het verleden was in 1985, dan zou de film veel meer lol kunnen hebben met veel grotere verschillen. Het personage zou in een tijd zijn voordat er personal computers, internet of mobiele telefoons waren. De Marty McFly van nu, een tiener geboren in de late jaren negentig, zou veel misplaatster zijn in 1985, dan de Marty McFly uit de film in 1955 was.
Dat heeft dezelfde reden: de Wet van Versnellende Opbrengsten. Het gemiddelde tempo van vooruitgang tussen 1985 en 2015 was veel hoger dan het tempo tussen 1955 en 1985, omdat die eerste een meer geavanceerde wereld was. Er is veel meer veranderd in de laatste dertig jaar, dan de dertig jaar ervoor.
Dus de geboekte vooruitgang wordt steeds groter en gaat steeds sneller en sneller. Dat voorspelt nogal wat heftige dingen voor onze toekomst, niet?
Kurzweil beweert dat de vooruitgang van de hele 20e eeuw in slechts twintig jaar gerealiseerd had kunnen worden met de snelheid van vooruitgang uit het jaar 2000. Met andere woorden, in 2000 was de snelheid van vooruitgang vijf keer zo snel als de gemiddelde snelheid van vooruitgang tussen 1900 en 2000. Hij gelooft dat tussen 2000 en 2014 net zoveel ontwikkeling is geweest als in de complete 20e eeuw en dat nog eens die hoeveelheid ontwikkeling zich voltrokken zal hebben in 2021, binnen slechts zeven jaar. Hij denkt dat over een paar decennia de complete vooruitgang van de 20e eeuw meerdere keren zal gebeuren in een jaar en nog later in minder dan een maand. Alles bij elkaar verwacht Kurzweil, dankzij de Wet van Versnellende Opbrengsten, dat de 21e eeuw duizend keer de vooruitgang zal halen ten opzichte van de 20e eeuw (1: p39).
Als Kurzweil en anderen die het met hem eens zijn gelijk krijgen, dan zijn wij in 2030 net zo geshockeerd als onze gast uit 1750 was in 2015. Dus de volgende SVE duur nog geen twee decennia en de wereld in 2050 kan zo ontzettend verschillen van de wereld van vandaag dat we die nog maar amper herkennen.
Dit is geen sciencefiction. Dit is wat vele wetenschappers, die slimmer en beter geïnformeerd zijn dan jij en ik, rotsvast geloven, en als je naar de geschiedenis kijkt, dan is het logisch om die voorspelling te doen.
Dus waarom is het dan wanneer je me iets hoort zeggen als "de wereld over 35 jaar kan totaal onherkenbaar zijn" jij denkt "Tof, maar...nahhhh"? Er zijn drie redenen waarom we sceptisch zijn over buitensporige voorspellingen over de toekomst:
1) Als het over geschiedenis gaat, dan denken we in rechte lijnen. Als we ons de vooruitgang van de komende dertig jaar proberen voor te stellen, dan kijken we terug naar de afgelopen dertig jaar als indicatie voor hoeveel er waarschijnlijk gaat gebeuren. Als we denken over de mate waarin de wereld zal veranderen in de 21 eeuw, dan nemen we de vooruitgang van de 20e eeuw en tellen die op bij het jaar 2000. Dit was dezelfde fout die onze gast uit 1750 maakte toen hij iemand uit 1500 haalde en verwachtte dat deze net zo geshockeerd zou zijn als hij zelf was, toen hij dezelfde periode vooruit ging. We denken intuïtief lineair, terwijl we exponentieel zouden moeten denken. Iemand die slimmer is, denkt de vooruitgang van de komende dertig jaar te kunnen voorspellen door te kijken naar de huidige snelheid van vooruitgang. Dat is accurater, maar nog steeds komt het niet in de buurt. Om goed over de toekomst na te denken, moet je bedenken dat dingen in een veel sneller tempo gaan dan dat ze nu gaan.
2) De baan van de hele recente geschiedenis is misleidend. Ten eerste, zelfs een scherpe exponentiële curve lijkt lineair wanneer je naar een klein stukje kijkt. Net zoals een klein stukje van een enorme cirkel bijna een rechte lijn lijkt. Ten tweede, expontiële groei is niet helemaal vloeiend en gelijkmatig. Kurzweil legt uit dat vooruitgang gebeurt in 'S-curven':
Een S ontstaat door een golf van vooruitgang wanneer een nieuw paradigma zich over de wereld verspreidt. De curve kent drie fasen:
1. Langzame groei (eerste fase van exponentiële groei)
2. Snelle groei (de late, explosieve fase van exponentiële groei)
3. Afvlakkende groei als dit specifieke paradigma volgroeit (2: p84)
Als je kijkt naar de zeer recente geschiedenis, dan kan het deel van de S-curve waar je op dat moment bent, je perceptie beïnvloeden van hoe snel dingen zich ontwikkelen. Tussen 1995 en 2007 brak internet door, werden Microsoft, Google en Facebook bekend bij het publiek, werden sociale netwerken geboren en was er de introductie van mobiele telefoons en later smartphones. Dat was fase 2: de groeispurt van de S. Maar tussen 2008 en 2015 waren er minder baanbrekende technologische ontwikkelingen. Iemand die vandaag over de toekomst denkt, kan naar de laatste paar jaar kijken om de huidige snelheid van vooruitgang te bepalen, maar het grotere plaatje missen. Terwijl in feite een nieuwe, grootse fase 2 nu al aan het ontstaan kan zijn.
3) Onze eigen ervaring maakt ons tot eigenwijze oude mannen wanneer het over de toekomst gaat. We baseren onze ideeën over de wereld op onze persoonlijke ervaring en die ervaring heeft de snelheid van ontwikkeling van de recente geschiedenis ingebakken in onze hoofden als "de manier waarop dingen nou eenmaal gebeuren". We zijn ook beperkt door ons voorstellingsvermogen, die zich op onze ervaring baseert en dat gebruikt om voorspellingen over de toekomst te doen. Maar vaak geeft dat wat we weten ons niet de goede gereedschappen om accuraat over de toekomst na te denken.
Als we een voorspelling horen over de toekomst die ingaat tegen ons op ervaring gebaseerde idee van hoe dingen werken, dan is ons instinct dat die voorspelling naïef moet zijn. Als ik je, later in dit artikel, vertel dat je misschien wel 150 jaar oud wordt, of 250 jaar, of misschien helemaal nooit zal sterven, dan is je instinct "Dat is stom, als ik iets weet van de geschiedenis, dan is het dat iedereen dood gaat." En ja, niemand in het verleden is niet dood gegaan. Maar ook niemand vloog in vliegtuigen totdat vliegtuigen waren uitgevonden.
Dus hoewel nahhhh goed zal voelen als je dit allemaal leest, is het waarschijnlijk toch verkeerd. Feit is dat, als we echt logisch zijn en verwachten dat historische patronen zich doorzetten, dat we dan moeten concluderen dat er veel, veel, veel meer gaat veranderen in de komende decennia dan we intuïtief verwachten. Logica suggereert ook dat, als de meest geavanceerde soort op een planeet steeds grotere sprongen voorwaarts maakt in een steeds sneller tempo, dat die soort op een gegeven moment een sprong maakt die zo groot is dat het leven zoals het nu is en de perceptie die men heeft over wat het betekent om mens te zijn, compleet verandert. Een beetje zoals de evolutie steeds sprongen bleef maken richting intelligentie tot het uiteindelijk zo'n grote sprong maakte naar de mens, dat het compleet veranderde wat het betekende om een levend wezen te zijn op planeet aarde. Als je wat tijd spendeert aan lezen over wat er nu gaande is met wetenschap en technologie, dan zie je veel signalen die er zachtjes op wijzen dat het leven zoals we dat nu kennen niet bestand is tegen de volgende sprong die eraan komt.
Wat is AI?
Als je op mij lijkt, dan dacht je altijd dat kunstmatige intelligentie een raar concept is uit scifi, maar hoor je er tegenwoordig steeds vaker intelligente mensen over praten en snap je het niet helemaal.
Er zijn drie redenen waarom veel mensen in verwarring raken over de term AI (artificiële intelligentie):
1) We associëren AI met films. Star Wars. Terminator. 2001: A Space Odyssey. Zelfs The Jetsons. En die zijn fictie, net zoals de robotpersonages erin. Dus klinkt AI voor ons een beetje als fictie.
2) AI is een breed onderwerp. Het varieert van de rekenmachine op je telefoon tot zelfrijdende auto's tot iets in de toekomst dat de wereld drastisch zou kunnen veranderen. AI slaat op al deze dingen en dat maakt het verwarrend.
3) We gebruiken AI de hele tijd in ons dagelijks leven, maar we realiseren vaak niet dat het AI is. John McCarthy, die de term 'Artificiële Intelligentie' in 1956 voor het eerst gebruikte, klaagde dat "zodra het werkt niemand het nog AI noemt." (3) Door dit fenomeen klinkt AI vaker als een mythische toekomstvoorspelling dan een realiteit. Tegelijkertijd klinkt het daardoor als een pop-concept uit het verleden dat nooit tot volle wasdom is gekomen. Ray Kurzweil zegt dat hij mensen hoort beweren dat AI in de jaren tachtig een stille dood is gestorven en dat vergelijkt hij met "volhouden dat internet tot een einde is gekomen in de dotcom-crisis van de vroege jaren 2000." (4: p392)
Dus laten we het even duidelijk op een rijtje zetten.
Ten eerste, denk niet langer aan robots. Een robot is een container voor AI, die soms de menselijke vorm aanneemt, soms niet, maar AI zelf is de computer in de robot. AI is het brein en de robot het lichaam, als die al een lichaam heeft. Zo is de software en data waarmee Siri werkt de AI, de vrouwenstem die we horen de personificatie van die AI en is er helemaal geen robot bij betrokken.
Ten tweede, je hebt waarschijnlijk gehoord van de term 'singulariteit' of 'technologische singulariteit'. Deze term wordt in de wiskunde gebruikt om een soort asymptotisch situatie te beschrijven, waarbij normale regels niet langer gelden. In de natuurkunde wordt het gebruikt om een fenomeen te beschrijven zoals een oneindig klein zwart gat met enorme dichtheid, of de stip waar we allemaal ingepropt zaten vlak voor de oerknal. Situaties dus waarvoor de normale regels niet gelden. In 1993 schreef Vernor Vinge een beroemd essay waarin hij de term toepaste op een punt in de toekomst waarop de intelligentie van onze technologie onze eigen intelligentie voorbij streeft. Voor hem het moment waarop het leven zoals we dat kennen voor altijd zal zijn veranderd en normale regels niet langer gelden. Ray Kurzweil vertroebelde de dingen daarna en definieerde de singulariteit als het moment waarop de wet van versnellende opbrengsten zo'n extreme snelheid heeft bereikt dat technologische vooruitgang bijna oneindig snel gaat, waarna we in een hele nieuwe wereld leven. Ik ben erachter gekomen dat veel van de huidige denkers over AI gestopt zijn om de term te gebruiken en het is ook een verwarrende term, dus ik zal het hier niet veel gebruiken (hoewel we de hele tijd op dat begrip focussen).
Tot slot, hoewel er veel verschillende types en vormen van AI zijn, want AI is een breed concept, zijn de belangrijke categorieën waar we ons op moeten richten gebaseerd op het kaliber van een AI. Er zijn drie belangrijke categorieën voor het kaliber van een AI:
AI kaliber 1) Beperkte Kunstmatige Intelligentie (BKI)
Beperkte Kunstmatige Intelligentie, of zwakke AI, is een AI die gespecialiseerd is in één deelgebied. Er is een AI die de wereldkampioen schaken kan verslaan in schaken, maar dat is alles wat ie kan. Vraag em om een betere manier om je data op een harde schijf op te slaan en het staart je wezenloos aan.
AI kaliber 2) Algemene Kunstmatige Intelligentie (AKI)
Algemene Kunstmatige Intelligentie wordt ook sterke AI genoemd, of mens-gelijke AI en verwijst naar een computer die zo slim is als een mens op alle gebieden. Een machine die elke intellectuele taak kan uitvoeren die een mens kan uitvoeren. AKI creëren is veel moeilijker dan BKI maken en dit is dan ook nog niet gelukt. Hoogleraar Linda Gottfredson omschrijft intelligentie als "een erg algemeen geestelijk vermogen dat, onder andere, in staat is om te redeneren, plannen, problemen op te lossen, abstract te denken, complexe ideeën te begrijpen, snel te leren en te leren uit ervaring." AKI zou al die dingen net zo makkelijk kunnen als jij. (Opmerking vertaler: In het Engels wordt hieraan gerefereerd als Artificial General Intelligence, ofwel AGI.)
AI kaliber 3) Kunstmatige Superintelligentie (KSI)
Vooraanstaand AI-filosoof Nick Bostrom uit Oxford omschrijft superintelligentie als "een intellect dat veel slimmer is dan de beste menselijke breinen op bijna elk gebied, waaronder wetenschappelijke creativiteit, algemene kennis en sociale vaardigheden." Kunstmatige Superintelligentie varieert van een computer die maar een beetje slimmer is dan een mens tot eentje die triljoenen keer slimmer is, over de hele linie. KSI is de reden dat het onderwerp van AI zo'n [netelige kwestie] [hete aardappel?] is en waarom de woorden onsterfelijkheid en uitsterven beide meerdere keren zullen verschijnen in deze artikelen.
Op dit moment hebben we het laagste kaliber van AI, BKI, onder de knie op vele manieren en het is overal. De AI Revolutie is de weg van BKI, via AKI naar KSI, een weg die we mogelijk niet overleven, maar die sowieso alles zal veranderen.
Laten we inzoomen op wat de belangrijkste denkers in het werkveld denken over hoe deze weg eruit ziet en waarom deze revolutie sneller plaats zou kunnen vinden dan je denkt.
Waar we nu zijn: een wereld die draait op BKI
Beperkte Kunstmatige Intelligentie is machine-intelligentie die gelijk is aan of groter is dan menselijke intelligentie of efficiëntie op een specifiek gebied. Een paar voorbeelden:
• Auto's zitten vol met BKI-systemen, van de computer die bedenkt wanneer de ABS-remmen in actie moeten komen tot de computer die de instellingen van de elektronische brandstofinjectie inregelt. De zelfrijdende auto van Google, die nu wordt getest, heeft krachtige BKI-systemen waardoor hij de wereld om zich heen kan waarnemen en erop kan reageren.
• Je telefoon is een kleine BKI-fabriek. Je gebruikt BKI als je navigeert met je kaarten-app, op maat gesneden muzikale aanbevelingen krijgt van Spotify, de weersvoorspelling bekijkt, met Siri praat en tijdens vele andere alledaagse activiteiten.
• Het spamfilter van je e-mail is een klassiek voorbeeld van BKI. Het is in eerste instantie volgeladen met intelligentie over hoe het spam kan onderscheiden van normale mail en dan leert het en past de intelligentie aan jou aan, zodra het doorkrijgt wat jouw specifieke voorkeuren zijn. De thermostaat van Nest doet hetzelfde zodra hij je dagelijkse ritme doorkrijgt en zich daaraan aanpast.
• Ken je dat enge gedoe als je een product zoekt op Amazon en je krijgt vervolgens op een andere site een vergelijkbaar product "aanbevolen voor jou", of wanneer Facebook op de een of andere manier weet dat het logisch is om iemand als je vriend toe te voegen? Dat is een netwerk van BKI-systemen, die samenwerken om elkaar te informeren over wie je bent, wat je leuk vindt en die informatie gebruiken om te bepalen wat je te zien krijgt. Hetzelfde geldt voor "Mensen die dit kochten, kochten ook..." van Amazon, dat is een BKI-systeem met de taak om informatie te verzamelen over het gedrag van miljoenen klanten en die info te gebruiken om je extra koopopties te bieden zodat je meer dingen koopt.
• Google Vertalen is nog een klassiek BKI-systeem, indrukwekkend goed in een beperkte taak. Spraakherkenning is een andere en er zijn veel apps die deze twee combineren, zodat je een zin in een bepaalde taal kunt zeggen en je telefoon die zin teruggeeft in een andere taal.
• Als je vliegtuig landt, is het niet een mens die bepaalt naar welke gate het toestel moet gaan. Net zoals het geen mens is die de prijs van je ticket heeft bepaald.
• De beste spelers van de wereld in schaken, dammen, scrabble, backgammon en othello zijn allemaal BKI-systemen.
• Zoeken met Google is een groot BKI-brein met ongelooflijk verfijnde methodes om pagina's te rangschikken en uit te zoeken welke resultaten het specifiek aan jou moet voorschotelen. Hetzelfde geldt voor de nieuwsfeed van Facebook.
• Dat zijn alleen nog maar voorbeelden uit de consumentenwereld. Verfijnde BKI-systemen zijn wijdverbreid in sectoren en industrieën zoals het leger, de maakindustrie en financiën (algoritmische AI-handelaren verhandelen met hoge snelheid meer dan de helft van alle aandelen op Amerikaanse beurzen(5: p597)). BKI-systemen komen voor in specialistische systemen, die bijvoorbeeld dokters helpen met diagnoses stellen. En dan is er nog de beroemde Watson van IBM die genoeg triviakennis bevat om met gemak de grootste kampioenen in het televisiespelletje Jeopardy te verslaan.
Huidige BKI-systemen zijn niet echt eng. In het ergste geval kan een storingsgevoelige of slecht geprogrammeerde BKI een geïsoleerde ramp veroorzaken, zoals een complete storing van een elektriciteitsnet, waardoor een kerncentrale een schadelijke storing krijgt. Of een BKI veroorzaakt een ramp op de financiële markten, zoals de Flash Crash in 2010, toen een BKI-programma verkeerd reageerde op een onverwachte situatie en ervoor zorgde dat de aandelenmarkt tijdelijk in elkaar stortte en in die val 1 biljoen dollar marktwaarde meesleurde, waarvan maar een deel weer terugkwam nadat de fout was gecorrigeerd.
Maar terwijl BKI geen grote existentiële ramp kan veroorzaken, zouden we dit toenemende grote en complexe ecosysteem van relatief onschuldige BKI moeten zien als een voorloper van een wereldveranderende storm die op komst is. Elke nieuwe BKI innovatie plaveit stilletjes de weg van AKI naar KSI. Of zoals Aaron Saenz het ziet: de BKI-systemen van onze wereld "zijn als de aminozuren in de oersoep van de vroege aarde", de levenloze materie die op een zekere dag wakker werd.
De weg van BKI naar AKI
Waarom het zo moeilijk is
Niets leert je menselijke intelligentie zo waarderen als ontdekken hoe ontzettend moeilijk het is om een computer te bouwen die net zo slim is als wij. Wolkenkrabbers bouwen, mensen op de maan zetten, uitvogelen hoe de oerknal tot in detail gebeurde - het is allemaal veel simpeler dan te begrijpen hoe ons brein werkt of iets te maken dat net zo gaaf is. Op dit moment is het menselijke brein het meest complexe object in het universum zoals we dat nu kennen.
Verrassend genoeg zijn dat de moeilijke onderdelen van het bouwen van een AKI (een computer die op alle gebieden net zo slim als een mens, niet alleen op een bepaald specialisme) niet die delen, waarvan je intuïtief denkt dat ze zijn. Een computer bouwen die twee getallen met meer dan tien nummers kan vermenigvuldigen in minder dan een seconde? Ontzettend eenvoudig. Een computer bouwen die naar een hond kan kijken en zeggen of het een kat of hond is? Spectaculair moeilijk. Een AI maken die een mens kan verslaan met schaken? Gedaan. Eentje maken die een alinea van een prentenboek voor 6-jarigen kan lezen en niet alleen de woorden kan herkennen, maar de betekenis ervan begrijpt? Google geeft momenteel miljarden dollars uit om het voor elkaar te krijgen. Moeilijke dingen, zoals ingewikkelde sommen, financiële marktstrategie en vertalen, zijn geestdodend simpel voor een computer, terwijl gemakkelijke dingen, zoals kijken, bewegen, gebaren en waarnemen, ontzettend moeilijk voor het apparaat zijn. Of, zoals computerwetenschapper Donald Knuth het zegt: "AI is er inmiddels in geslaagd zo'n beetje alles te doen waarvoor 'nadenken' nodig is, maar faalt in bijna alles wat mensen en dieren doen 'zonder na te denken (6: p318).
Wat je je snel realiseert als je over deze dingen nadenkt is dat ze voor ons gemakkelijk lijken, maar in feite ontzettend complex zijn. Ze lijken gemakkelijk omdat die vaardigheden in ons (en de meeste dieren) zijn geoptimaliseerd door honderden miljoenen jaren dierlijke evolutie. Als je met je hand naar een voorwerp reikt, dan voeren je spieren, de pezen en botten in je schouder, je elleboog en pols meteen een lange reeks natuurkundige operaties uit, in samenhang met je ogen, zodat je je hand in een rechte lijn door drie dimensies kan bewegen. Het lijkt simpel voor jou omdat je perfecte software in je hersenen hebt om het te doen. Spambots zijn dan ook niet dom omdat ze die vervelende woordherkenningstest niet kunnen oplossen wanneer je je inschrijft bij een website; jouw brein is gewoon ontzettend knap dat het dat wel kan.
Aan de andere kant zijn het vermenigvuldigen van grote getallen en het spelen van een potje schaken nieuwe activiteiten voor biologische wezens en we hebben nog niet genoeg tijd gehad om onze bekwaamheid in deze vaardigheden te ontwikkelen, dus een computer hoeft niet hard te werken om ons te verslaan. Wat zou je liever doen? Een programma schrijven dat grote nummers kan vermenigvuldigen of een machine die de essentie van de letter B zo goed begrijpt, dat je hem een B kan laten zien in een van duizenden onvoorspelbare lettertypes, of met de hand geschreven, en dat ie meteen zou weten dat het een B is?
Een grappig voorbeeld: als je naar dit plaatje kijkt, kunnen jij en een computer meteen zien dat het een rechthoek is met twee afwisselende, duidelijke schaduwkleuren:
Gelijkspel. Maar als je het zwart weghaalt en de hele afbeelding laat zien...
...is het voor jou waarschijnlijk geen probleem om een volledige beschrijving te geven van alle verschillende doorschijnende en ondoorzichtige cilinders, latjes en 3D-hoeken, maar een computer zou hopeloos falen. Hij zou beschrijven wat ie ziet, een verzameling tweedimensionale figuren in verschillende tinten, wat precies is wat er te zien is. Je brein doet een heleboel indrukwekkende dingen om de geïmpliceerde diepte, schaduwen en belichting te interpreteren die de afbeelding probeert over te brengen. (7: p.36) En als je naar de afbeelding hieronder kijkt, ziet de computer een tweedimensionale collage van wit, zwart en grijs, terwijl jij eenvoudig ziet wat het echt is: een foto van een compleet zwarte, driedimensionale steen.
En alles wat we tot nu toe hebben genoemd, is nog alleen maar het verwerken van stilstaande informatie. Om intelligentie van menselijk niveau te hebben, moet een computer dingen begrijpen als het verschil tussen subtiele gezichtsuitdrukkingen, het onderscheid tussen tevreden, opgelucht, voldaan en blij en waarom Braveheart fantastisch was, maar The Patriot verschrikkelijk.
Ontmoedigend.
Goed, dus hoe komen we daar?
De eerste sleutel om AKI te scheppen: computerkracht opvoeren
Iets wat echt moet gebeuren om AKI mogelijk te maken, is een toename in de rekenkracht van computers. Als een AI-systeem zo slim gaat zijn als het menselijk brein, dan heeft het net zoveel brute rekencapaciteit nodig als het brein.
Een manier om deze capaciteit uit te drukken is het totaal aantal berekeningen per seconde (bps) die het brein aan kan. Je kan dit getal bepalen door steeds de maximale bps te achterhalen van elk deel van het brein en die bij elkaar op te tellen.
Ray Kurzweil bedacht een snellere manier door iemands professionele schatting te nemen van een deel van het brein, te bepalen hoeveel dat deel meetelt ten opzichte van het totale brein en dan proportioneel te vermenigvuldigen om tot een schatting voor het hele brein te komen. Klinkt een beetje dubieus, maar hij heeft dit een paar keer gedaan met verschillende professionele schattingen voor verschillende delen van het brein en het totaal komt altijd uit in dezelfde bandbreedte, ongeveer 10 tot de 16e macht, of ongeveer 10 biljard bps.
Op dit moment is de snelste supercomputer ter wereld de Tianhe-2 in China. Deze computer is zelfs sneller dan dat en klokt een snelheid van 34 biljard bps. Maar Tianhe-2 is ook een onding, dat 720 vierkante meter in beslag neemt, 24 megawatt stroom verbruikt (ons brein verbruikt maar 20 watt) en dat ongeveer 390 miljoen dollar heeft gekost om te bouwen. Niet echt handig voor grootschalig gebruik dus, en zelfs commercieel of industrieel nog niet bruikbaar.
Kurzweil suggereert dat we over de ontwikkeling van computers nadenken door te kijken naar hoeveel bps je kan kopen voor $1000. Wanneer dat getal het menselijke niveau haalt (10 biljard bps), dan kan AKI een zeer realistisch deel van ons leven worden.
De wet van Moore is een historisch betrouwbare regel die zegt dat maximale computerkracht elke twee jaar verdubbelt. Dus de ontwikkeling van computerhardware groeit exponentieel, net zoals de algemene menselijke vooruitgang. Als we kijken hoe zich dat verhoudt tot de bps/$1000-maat van Kurzweil, dan zitten we nu op ongeveer 10 biljoen bps/$1000, precies in pas met de lijn die is voorspeld in deze grafiek(8: p118):
Dus computers van $1000 verslaan nu het brein van een muis en zitten op ongeveer een duizendste van het menselijk niveau. Dit lijkt niet veel totdat je beseft dat we op ongeveer een biljoenste van het menselijk niveau zaten in 1985, op een miljardste in 1995 en op een miljoenste in 2005. Nu we op een duizendste zitten in 2015, zitten we precies op schema om in 2025 een betaalbare computer te hebben die kan concurreren met het menselijk brein.
Dus aan de hardware-kant is de brute kracht voor AKI technisch gezien beschikbaar in China en zijn we binnen tien jaar klaar voor betaalbare, wijdverbreide hardware met AKI-niveau. Maar brute rekenkracht is op zichzelf niet genoeg om een computer algemeen intelligent te maken. De volgende vraag is: hoe geven we al die rekenkracht intelligentie van menselijk niveau?
Tweede sleutel om AKI te scheppen: maak het slim
Dit is het lastige deel. Eerlijk gezegd weet niemand precies hoe we het slim moeten maken. We zijn nog volop in discussie over hoe we een computer zo intelligent kunnen maken als een mens, zodat hij in staat is om te herkennen wat een hond is, een vreemd geschreven B en een middelmatige film. Maar er zijn een paar vergezochte strategieën in omloop en op een gegeven moment zal een ervan succesvol blijken. Hier zijn de meest genoemde strategieën die ik ben tegengekomen:
1) Plagieer het brein
Dit is als wetenschappers die zich maar blijven afvragen hoe het komt dat die student die naast ze zit in de klas zo slim is en het zo goed doet bij alle tentamens en dat zij, hoe ijverig ze ook studeren, het nooit zo goed doen als die bolleboos. Totdat ze uiteindelijk besluiten "schijt, ik ga gewoon alle antwoorden van die student overschrijven". Het lijkt logisch: we zitten op een dood spoor met onze pogingen om een supercomplexe computer te bouwen en toevallig zit er een perfect prototype in elk van onze hoofden.
De wetenschappelijke wereld is hard bezig om de werking van ons brein te dupliceren om erachter te komen hoe de evolutie zo'n fantastisch ding heeft weten te maken. Optimistische schattingen zeggen dat dit in 2030 gaat lukken. Als dat gelukt is, kennen we alle geheimen van hoe ons brein zo krachtig en efficiënt werkt en kunnen we daar inspiratie uit halen en alle innovaties stelen. Een voorbeeld van computerarchitectuur die het brein nadoet is het kunstmatige neurale netwerk. Het begint als een netwerk van transistor-"zenuwcellen", die met elkaar verbonden zijn via inputs en outputs. Het weet niks, zoals het brein van een zuigeling. De manier waarop het "leert", is door taken proberen uit te voeren, bijvoorbeeld handschriftherkenning. Het afvuren van signalen en de daaropvolgende poging tot het ontcijferen van elke letter is totaal willekeurig. Maar wanneer dat netwerk wordt verteld dat het iets goed heeft, dan worden de transistorverbindingen versterkt in het afvuurpad van de signalen die toevallig tot het goede antwoord leidden. Als het te horen krijgt dat een antwoord fout was, dan worden de verbindingen in die paden verzwakt. Na veel uitproberen en corrigeren heeft het netwerk zelf slimme neurale paden gevormd en is de machine geoptimaliseerd voor die taak. Het brein leert ongeveer op deze manier, maar op een meer verfijnde manier en als we het brein blijven bestuderen, ontdekken we telkens ingenieuze nieuwe manieren om gebruik te maken van neurale schakelingen.
Een meer extreme vorm van plagiaat is de strategie die 'complete brein nabootsing' heet. Hier is het doel om een echt brein in dunne laagjes te snijden, elk laagje te scannen, software te gebruiken om een accuraat 3D-model samen te stellen en dat model toe te passen op een krachtige computer. Dan zouden we een computer krijgen die daadwerkelijk alles kan wat een menselijk brein kan, hij hoeft dan alleen nog te leren en informatie te verzamelen. Als ingenieurs echt heel goed worden, dan zijn ze in staat om een echt brein zo precies te na te bootsen dat de volledige persoonlijkheid en het complete geheugen van het brein intact blijft wanneer de architectuur van het brein in een computer wordt geladen. Als het brein van Jim was, vlak voordat hij heengaat, dan kan de computer wakker worden als Jim (?), die dan een grove AKI van menselijk niveau is en kunnen we eraan werken om van Jim een onvoorstelbaar slimme KSI te maken, waar hij waarschijnlijk heel enthousiast van wordt.
Hoe staan we ervoor met het succesvol emuleren van een compleet brein? Het is net gelukt om het complete brein van een platworm van 1 millimeter na te bootsen, die bestaat uit maar 302 neuronen in totaal. Het menselijk brein bestaat uit 100 miljard neuronen. Dat lijkt een hopeloze onderneming, maar denk aan de kracht van exponentiële vooruitgang. Nu we het kleine wormenbrein de baas zijn, zal een mier snel volgen, daarna een muis en ineens ziet dit er veel realistischer uit.
2) Proberen de evolutie te laten doen wat het al deed maar nu voor ons
Als we vaststellen dat het examen van de bolleboos te moeilijk is om te kopiëren, kunnen we proberen om de manier waarop hij voor dat examen studeert te kopiëren.
We weten dat het mogelijk is om een computer te bouwen die net zo krachtig is als het brein; de evolutie van ons eigen brein is het bewijs. Als het brein simpelweg te complex voor ons is om te evenaren, kunnen we proberen om in plaats daarvan evolutie na te bootsen. Feit blijft dat zelfs als het lukt om een brein na te bootsen, dat hetzelfde kan zijn als een vliegtuig proberen te bouwen door de vleugelslagen van vogels na te doen. Het ontwerpen van machines gaat vaak beter door een nieuwe, op machines gerichte aanpak te kiezen, niet door de natuur exact na te doen.
Dus hoe kunnen we de evolutie simuleren zodat het een AKI bouwt? De methode die 'genetische algoritmes' genoemd wordt zou als volgt werken: er is een proces van prestatie-en-evaluatie dat keer op keer wordt herhaald, net zoals biologische wezens "presteren" door te leven en dan "geëvalueerd worden" door zich al dan niet voort te planten. Een groep computers probeert een taak uit te voeren en de meest succesvolle worden met elkaar gekruist door van elk de helft van hun programmering samen te smelten in een nieuwe computer. De minder succesvolle worden geëlimineerd. Door dit proces heel vaak te herhalen krijg je een natuurlijke selectie van steeds betere computers. De uitdaging is om een geautomatiseerde evaluatie-en-fok cyclus te ontwikkelen zodat dit evolutieproces zelfstandig kan draaien.
Het nadeel van evolutie nadoen, is dat evolutie er graag een miljard jaar over doet om iets te doen en we willen dat dit in een paar decennia plaatsvindt.
Maar we hebben veel voordelen vergeleken met evolutie. Ten eerste heeft evolutie geen voorkennis en werkt het compleet willekeurig. Het produceert meer nutteloze mutaties dan nuttige, maar we zouden het proces controleren zodat het alleen draait op foutjes die ons goed uitkomen en gerichte aanpassingen. Ten tweede heeft evolutie geen doel, ook intelligentie is geen doel. Soms kan een omgeving er zelfs voor zorgen dat er geen hogere intelligentie komt, omdat het teveel energie kost. Wij zouden daarentegen dit evolutionaire proces specifiek kunnen richten op het ontwikkelen van toenemende intelligentie. Ten derde, om op intelligentie te selecteren, moet evolutie allerlei andere dingen eromheen innoveren om die intelligentie mogelijk te maken, bijvoorbeeld het steeds vernieuwen van de manier waarop cellen de benodigde energie produceren. Wij kunnen die extra last wegnemen en gewoon iets als elektriciteit gebruiken. Er is geen twijfel mogelijk dat we vele malen sneller zouden zijn dan evolutie, maar het is nog niet duidelijk of we de evolutie voldoende kunnen verbeteren om hiervan een levensvatbare strategie te maken.
3) Maak het helemaal het probleem van de computer, niet het onze
Dit is wat je krijgt wanneer de wetenschappers wanhopig worden en proberen om het tentamen zo te programmeren dat het zichzelf invult. Maar dit kan nog wel eens meest veelbelovende methode zijn.
Het idee is dat we een computer bouwen die twee belangrijke vaardigheden heeft: onderzoek doen naar AI en zichzelf aanpassen door te programmeren. Zo kan hij niet alleen leren, maar ook zijn eigen architectuur verbeteren. We leren computers om computerwetenschappers te worden zodat ze zelf hun eigen ontwikkeling naar een hoger niveau kunnen tillen. En dat zou hun belangrijkste taak zijn, uitvinden hoe ze zelf slimmer kunnen worden. Daarover later meer.
Dit zou allemaal snel kunnen gebeuren
Snelle ontwikkelingen in hardware en innovatieve experimenten met software gebeuren tegelijkertijd en AKI zou dan ook snel en onverwachts kunnen ontstaan, om twee belangrijke redenen:
1) Exponentiële groei is heftig en wat er nu uitziet als een ontwikkeling in slakkentempo kan in rap tempo versnellen. Dit GIFje laat dat proces mooi zien:
2) Vooruitgang op het gebied van software kan langzaam lijken te gaan, maar één openbaring kan de snelheid plotseling doen veranderen (zoals de wetenschap moeite had om te berekenen hoe het heelal werkte toen mensen nog dachten dat de aarde het centrum van dat heelal was, maar toen ze ontdekten dat de zon het middelpunt was alles ineens heel veel gemakkelijker werd). Als het gaat over computers die zichzelf verbeteren, dan kan het zo lijken dat we daar ver vandaan zijn, maar een simpele aanpassing aan het systeem kan genoeg zijn om het duizend keer zo effectief te maken en het omhoog te laten schieten naar intelligentie van menselijk niveau.
De weg van AKI naar KSI
Op een gegeven moment hebben we AKI gerealiseerd, computers met een intelligentie die vergelijkbaar is met die van de mens. Gewoon een boel mensen en computers die als gelijken samen leven.
Oh, helemaal niet eigenlijk.
De crux is, een AKI met exacte hetzelfde intelligentieniveau en dezelfde rekenkracht als een mens zou nog steeds flinke voordelen hebben ten opzichte van de mens. Zoals:
Hardware:
• Snelheid. De neuronen in een brein hebben een maximum van ongeveer 200 Hz, terwijl de huidige microprocessors (die flink langzamer zijn dan ze zullen zijn als AKI eenmaal is ontwikkeld) een kloksnelheid van 2GHz hebben, tien miljoen keer sneller dan onze neuronen. En de interne communicatie van het brein haalt ongeveer een snelheid van 120 m/s. Dat verbleekt bij de computer die optisch kan communiceren met de snelheid van het licht.
• Omvang en opslag. Het brein zit vast aan de omvang en vorm van onze schedels en het zou sowieso niet veel groter kunnen worden, want dan zou de snelheid van interne communicatie met 120 m/s teveel tijd in beslag nemen om van het ene deel van de hersenen naar het andere te komen. Computers kunnen toenemen in fysieke omvang, waardoor meer hardware aan het werk gezet kan worden, waardoor er een veel groter werkgeheugen (RAM) en langetermijngeheugen (opslag harde schijf) zijn, die beide veel meer ruimte en een grotere precisie hebben dan die van ons.
• Betrouwbaarheid en duurzaamheid. Niet alleen de geheugens van een computer zijn preciezer. Computertransistors zijn accurater dan biologische zenuwcellen en ze slijten minder snel (en kunnen gerepareerd worden als ze wel kapot gaan). Het menselijke brein is snel moe, terwijl een computer onafgebroken, 24 uur per dag, 7 dagen per week op het hoogste niveau kan presteren.
Software:
• Aanpasbaarheid [flexibiliteit], de mogelijkheid tot verbeteren en andere opties. In tegenstelling tot het menselijk brein kan computersoftware upgrades en reparaties krijgen waarmee gemakkelijk geëxperimenteerd kan worden. Die verbeteringen kunnen ingezet worden op gebieden waarin het menselijk brein zwak is. De software voor menselijk gezichtsvermogen is erg geavanceerd, maar die voor complexe bouwkunde is van tamelijk slechte kwaliteit. Computers kunnen mensen evenaren als het gaat om software voor gezichtsvermogen, maar kunnen daarnaast net zo goed worden in complexe bouwkunde, en elk ander gebied.
• Collectieve mogelijkheden. Mensen verslaan alle andere diersoorten met verpletterende overmacht als het gaat om het opbouwen van een omvangrijke, collectieve intelligentie. De collectieve intelligentie van de mensheid, die is begonnen met de ontwikkeling van taal en de vorming van grote gemeenschappen waarin veel mensen vlakbij elkaar samenleven, doorontwikkeld werd via de uitvinding van het schrift en de boekdrukkunst en nu wordt opgevoerd via middelen als internet, is een van de belangrijkste redenen waarom we zo'n voorsprong hebben op andere soorten. En computers zullen hier veel beter in zijn dan wij. Een wereldwijd netwerk van AI dat een specifiek programma draait kan zichzelf regelmatig synchroniseren zodat iets wat één computer leert meteen beschikbaar is op alle andere computers. De groep kan ook als eenheid aan één gezamenlijke taak werken, want er hoeven geen afwijkende meningen, drijfveren en eigenbelang te zijn, zoals we dat wel hebben in de menselijke populatie. (9: loc. 1500 - 1576)
AI, die AKI vermoedelijk gaat halen door geprogrammeerd te worden om zichzelf te verbeteren, ziet 'intelligentie op menselijk niveau' niet als een belangrijke mijlpaal (dat is alleen belangrijk vanuit ons perspectief) en heeft dus ook geen reden om bij dat niveau te stoppen. En gezien de voordelen die een AKI met intelligentie van menselijk niveau heeft ten opzichte van ons wordt het duidelijk dat ie dat niveau maar even heeft en dan meteen doorsprint naar het rijk van intelligentie die superieur is aan de menselijke variant.
Als dat gebeurt, zouden we nog wel eens alle kleuren van de regenboog kunnen schijten. Dit komt omdat vanuit ons perspectief A) intelligentie van verschillende diersoorten varieert, maar het belangrijkste is dat we ons ervan bewust zijn dat elke vorm van dierlijke intelligentie veel lager is dan de onze en omdat B) we de slimste mensen zien als VEEL slimmer dan de domste mensen. Een beetje zoals dit:
Dus nu AI steeds iets slimmer wordt, zien we dat op dezelfde manier als hoe een dier slimmer wordt. Als het eenmaal zo slim is als de domste mens - Nick Bostrom gebruikt de term 'dorpsgek' - dan denken we "Oh gaaf, het is als een dom mens. Schattig." Het punt is dat op de grotere schaal van intelligentie alle mensen, van de dorpsgek tot Einstein, slechts binnen een klein bereik vallen. Dus meteen nadat het op het niveau van de dorpsgek zit en tot AKI wordt benoemd, is het ineens slimmer dan Einstein en hebben we geen idee wat ons overkomt:
Een explosie van intelligentie
Ik hoop dat van je de normale tijd hebt genoten, want dit is het moment waarop dit artikel abnormaal en eng wordt en dat blijft vanaf nu ook zo. Ik wil even pauzeren om je eraan te herinneren dat alles wat ik ga zeggen, echt is. Serieuze wetenschap en echte voorspellingen over de toekomst van een hele rits van de meest gerespecteerde filosofen en wetenschappers. Hou dat in je achterhoofd.
Dus, zoals ik al zei gaan de meeste modellen om bij AKI uit te komen ervanuit dat AI zichzelf gaat verbeteren. En zodra het bij AKI is gearriveerd zijn ook systemen die gegroeid en gemaakt zijn zonder zichzelf te verbeteren, slim genoeg om zichzelf te gaan verbeteren, als ze dat willen. (Veel meer over wat het voor een computer betekent om iets te "willen" in het tweede deel van dit artikel.)
Dan is het nu tijd voor een concept dat echt heftig is: zelfverbetering met een Droste-effect. Het werkt als volgt:
Een AI-systeem op een bepaald niveau, bijvoorbeeld dat van de dorpsgek, is geprogrammeerd met als doel om de eigen intelligentie te verbeteren. Zodra dat lukt, is het slimmer, misschien op het niveau van Einstein. Dus als het systeem nu verder werkt aan het verbeteren van zijn eigen intelligentie, dan is dat met die Einstein-intelligentie veel makkelijker, en kan het grotere sprongen maken. Die sprongen maken het veel slimmer dan welke mens dan ook, waardoor het nog grotere sprongen kan maken. Als die sprongen groter worden en sneller gemaakt worden, neemt de intelligentie van de AKI extreem snel toe en haalt het binnen de kortste keren het superintelligente niveau van een KSI-systeem. Dit wordt een intelligentie-explosie (10) genoemd, en het is het ultieme voorbeeld van de Wet van versnellende opbrengsten.
Er is wat discussie over hoe snel AI het algemene, menselijke niveau van intelligentie haalt. De mediaan uit een onderzoek onder honderden wetenschappers over de vraag wanneer het waarschijnlijk is dat we AKI bereiken is 2040 (11: loc 660), over slechts 25 jaar dus. Dat klinkt niet echt indrukwekkend, tot je beseft dat veel van de denkers in dit veld denken dat het waarschijnlijk is dat de progressie van AKI naar KSI heel erg snel gaat. Bijvoorbeeld op deze manier:
Het duurt decennia voor het eerste AKI-systeem een zeer laag niveau van algemene intelligentie heeft, maar uiteindelijk gebeurt dat. Een computer begrijpt de wereld om zich heen zo goed als een menselijk kind van vier jaar oud. Ineens, in minder dan een uur na die mijlpaal, bedenkt die machine de grootse theorie van fysica die de algemene relativiteitstheorie verbindt aan de quantummechanica, iets wat geen mens onomstotelijk heeft weten te doen. Negentig minuten daarna wordt de AI een KSI, 170.000 keer slimmer dan een mens.
Superintelligentie van die omvang is iets wat we niet eens kunnen beginnen te begrijpen, net zoals een hommel niets begrijpt van Keynesiaanse economie. In onze wereld ben je slim met een IQ van 130 en dom met een IQ van 85, we hebben simpelweg geen woord voor een IQ van 12.952.
Wat we weten van de totale overheersing van mensen over deze aarde is dat er een duidelijke regel lijkt te zijn: intelligentie maakt machtig. Dat betekent dat een KSI, wanneer we die scheppen, het machtigste wezen in de geschiedenis van leven op aarde is en dat alle levende wezens, inclusief de mensen, totaal aan zijn grillen zijn overgelaten. En dat kan gebeuren in de komende decennia.
Als onze schamele breintjes in staat waren om wifi uit te vinden, dan zou iets wat 100, 1000 of 1 miljard keer slimmer is dan wij geen enkel probleem hoeven te hebben met het herschikken van elke atoom in de wereld op welke manier het dan ook wil. Alles waarvan we denken dat het tovenarij is, elke kracht waarvan we denken dat een almachtige God die bezit, zal voor een KSI een alledaagse activiteit zijn zoals het aan- en uitdoen van een lamp. Technologie maken om menselijke veroudering tegen te gaan, ziektes en honger oplossen, onsterfelijkheid, het weer herprogrammeren om al het toekomstige leven op aarde te beschermen, worden ineens allemaal mogelijk. Of het totale en onmiddellijke einde van alle leven op aarde, dat kan ook. Als er een KSI ontstaat, is er in onze ogen een almachtige god op aarde. De allerbelangrijkste vraag voor ons is dan ook:
Dat is het onderwerp van het tweede deel van dit artikel dat te lezen is op de site van De Volmaakte Mens. Een uitgebreide bronnenlijst verschijnt onder dat artikel.
Correcties vertaling: Marijntje Denters en Elmar Veerman