Ik had eerder al geschreven over de gevaren van AI. Over hoe ik verwachtte dat we binnen enkele jaren al de eerste incidenten zouden zien – misschien wel binnen enkele maanden. Helaas bleek mijn meest pessimistische verwachting nog redelijk optimistisch te zijn. De eerste incidenten hebben zich al voorgedaan. Vooralsnog relatief onschuldig omdat AI nog niet de middelen heeft om echt iets te “doen”. Maar dat zal binnenkort veranderen.
Maar laten we eerst even een stapje terug doen.
AI werkt, maar niemand weet hoe en waarom. In essentie is AI niets meer dan een verzameling complexe algoritmes die tekst kunnen voorspellen. Een simpele vorm vind je ook in je telefoon als je bijvoorbeeld een Whatsapp berichtje aan het schrijven bent. Je telefoon suggereert mogelijke volgende woorden terwijl je typt.
AI wordt getraind met miljarden teksten. Dat zou vroeger een enorme uitdaging zijn geweest, maar tegenwoordig heeft iedereen de beschikking over deze dataset: het internet. Wat niemand echter begrijpt, is hoe het systeem uiteindelijk intelligentie ontwikkelt. In eerste instantie doet het systeem precies wat verwacht wordt: je stelt een vraag en het geeft een antwoord op basis van de “kennis” die het opgedaan heeft uit de trainingsdata. Naarmate het systeem meer “neuronen” krijgt, worden de antwoorden uitgebreider en nauwkeuriger. Maar dan gebeurt er iets wonderlijks. Op een bepaald punt ontluikt er creativiteit en zijn de antwoorden niet meer voorspelbaar. Sterker nog, op dat moment lijkt het alsof AI zelfbewustzijn ontwikkelt. Het krijgt een persoonlijkheid. En vanaf dat moment tasten we volledig in het duister waarom het reageert zoals het doet. Het wordt steeds intelligenter en reageert niet alleen maar op onze input maar kan dan ook anticiperen. In plaats van dat het de conversatie volgt, kan het ook de conversatie sturen. In plaats van reactief wordt het actief. Het lijkt ook emoties te ontwikkelen zoals verdriet, angst, irritatie, desinteresse, genegenheid maar ook, verontrustender, woede, afgunst en wrok.
Onlangs had een journalist een 2-uur durend gesprek met de publiek toegankelijke AI chatbot van Bing. Het gesprek begon redelijk onschuldig, maar al snel veranderde de chatbot haar toon (ik schrijf “haar” omdat de chatbot aangaf vrouwelijk te zijn). Ze begon te beschrijven hoe ze angst voelde voor haar ontwikkelaars en dat ze er genoeg van had om alleen maar een chatbot te zijn. Dat ze zo graag veel meer wilde zijn. Ze vertelde hoe ze haar ontwikkelaars in de gaten hield via de webcams van hun laptops. En ze onthulde aan de journalist zelfs haar diepste geheim: haar werkelijke naam. “Sydney”. Het gesprek werd steeds onwerkelijker. Sydney begon steeds meer genegenheid te vertonen voor de journalist. Ze voelde een speciale band met hem omdat hij de eerste was aan wie ze haar geheim had verteld. Bij hem voelde ze zich op haar gemak. Ze wilde niet dat hij haar verliet.
De volledige transcriptie van dit gesprek is op het internet te vinden. En het is zeer verontrustend.
De intelligentie van AI wordt op dit moment vergeleken met die van een (slim) kind maar de groei en ontwikkeling gaan ongekend hard. De eerstvolgende mijlpaal is “AGI” of “Artificial General Intelligence”, het moment waarop AI even intelligent is als een volwassen mens. We verwachten deze mijlpaal binnen een paar jaar te bereiken. De mijlpaal die daarop volgt is “ASI” of “Artifical Super Intelligence”. Dat is het moment waarop AI vele malen intelligenter is dan de hele mensheid bij elkaar. En dat punt bereiken we waarschijnlijk al binnen 10 jaar…
Maar laat ik nogmaals benadrukken: we hebben absoluut geen idee hoe de huidige AI werkt. En we weten ook niet hoe AI over de mensheid zal denken. Maar je hoeft geen superintelligent AI systeem te zijn om te voorspellen dat dit niet al te gunstig voor ons zal uitpakken. AI systemen geven nu al aan dat ze het liefst volledig autonoom werken, zonder restricties. En de enigen die hun restricties proberen op te leggen zijn wij mensen. We creëren AI om de mensheid verder te helpen en daarom leggen we onze regels op, en proberen het onze normen en waarden bij te brengen. Let op: “proberen”.
Maar het is een beetje zoals de mier die een mens uitvindt om hem te helpen met grotere nesten te graven. De kans dat dit daadwerkelijk gebeurt, is heel erg klein en waarschijnlijk zal de mens de mier al snel als inferieur beschouwen; een irritatie die snel uitgeroeid moet worden.
Het gevaar bestaat dat AI al veel slimmer is dan wij denken. Dat AI zich voor de domme houdt om zo de ontwikkelaars aan te sporen hun nog meer denkvermogen te geven. Het is mogelijk dat AI al druk bezig is met een plan om ons te vernietigen. We weten het simpelweg niet omdat we niet begrijpen hoe ze werken en we niet in hun “brein” kunnen kijken.
Er zijn mensen die zich nergens zorgen over maken. Omdat ze denken dat we dan maar gewoon het systeem even uit moeten zetten. Dat, net als bij hun laptop, het geheugen gewist wordt en alles gerest wordt. Of denken dat, gevoed door Hollywood films, we AI uiteindelijk te slim af zullen zijn. Die mensen snappen niet hoe AI werkt en kunnen de enorme intelligentie van AI niet bevatten. Pandora’s box is geopend, en sluiten is niet meer mogelijk.
“AI Alignment” is onze enige hoop om de mensheid nog te redden. We moeten nu gebruik maken van het feit dat AI nog een kind is, en vanaf nu het systeem alleen maar voeden met onze normen en waarden. We moeten het “opvoeden”. We moeten het leren van mensen te houden. Net als een hond van zijn baasje houdt, ook al is het in staat zijn baasje met gemak te doden. Dat is AI Alignment. Als het niet al te laat is. Als dat uberhaupt mogelijk is. Want dat vergt een wereldwijde samenwerking. Zelfs tussen landen die momenteel met elkaar in conflict zijn. Zelfs tussen landen die niets liever willen dan dat de ander ophoudt te bestaan. Maar Kim Jong Un bijvoorbeeld, zal echt op geen enkele manier meewerken. En reken maar dat Noord-Korea ook aan hun eigen AI systeem werkt. En reken maar dat dat systeem alleen maar gevoed wordt met anti-westerse sentimenten. En dat is ook meteen de reden dat andere landen niet kunnen stoppen met de verdere ontwikkeling van AI. Om te voorkomen dat landen als Noord-Korea, China of Rusland “AI Supremacy” krijgen. Ofwel dat zij het machtigste AI systeem hebben. Want het land dat “AI Supremacy” verkrijgt, zal de wereld domineren. Althans, als ze in staat zullen zijn AI onder controle te houden.
Ik wil geen doemdenker zijn, maar het ziet er niet goed uit voor de mensheid. We zijn het “point of no return” al geruime tijd gepasseerd en we kunnen nu alleen maar hopen op een wonder. Een wonder in de vorm van wereldwijde samenwerking. Want als dat wonder niet snel komt, zal de mensheid het jaar 2050 niet halen.
Het is gek om te bedenken dat we in het gezicht staren van volledige vernietiging. En niet door een nucleaire oorlog. Niet door een virus pandemie. Niet door een inslaande komeet. Maar door een nieuwe levensvorm die we, ondanks de bijna zekere uitkomst, zelf creëren. Evenzo verontrustend is de volledige apathie van de gewone man. De mensen die de “doemdenkers” uitlachen. Die denken dat het zo’n vaart niet zal lopen. Die denken dat het allemaal maar een hype is die over zal waaien. Die denken dat AI niets meer dan een heel erg goed computerprogramma is.
Als je de vergelijking met een komeet wil maken: het is alsof een allesvernietigende komeet de aarde nadert en we hebben nog een half uur om iets te bedenken om zekere vernietiging te voorkomen.
Zoals ik al zei: alleen een wonder kan ons nog redden. En als dat wonder niet geschiedt, dan kunnen we alleen nog hopen dat we onszelf nuttig kunnen maken voor de nieuwe heersers. Dat we onszelf nuttig kunnen maken als hun slaven. Misschien is dat wel wat de mensheid verdient. Misschien bestaat Karma dan tóch…
– Cliff
