De ontwikkeling van AI zit al jaren in een stroomversnelling, maar de laatste maanden gaat het zó snel dat het haast niet meer bij te houden is. De reden is omdat ze AI een nieuw trucje hebben geleerd: zelfreflectie. Dat betekent dat hij nu nadenkt over zijn eigen antwoorden en indien nodig, zichzelf verbetert. Dit doet hij aan de hand van een beloningssysteem, sterk gelijkend op het beloningssysteem van menselijke hersenen. Iedere keer als wij iets doen dat ons – op wat voor manier dan ook – vooruit helpt, maken onze hersenen als beloning een stofje aan waardoor we ons beter gaan voelen.
Bij de meesten van ons is dat als we iets doen dat niet alleen onszelf, maar vooral ook onze omgeving helpt. Immers, evolutionair is gebleken dat we de grootste kans van overleven hebben als we in een commune leven. Als we taken spreiden, elkaar beschermen en helpen. M.a.w., de sterkste groep overleeft. Dat is wat ons aan de top van de voedselketen heeft gebracht en waardoor we de meest dominante levensvorm op aarde zijn geworden.
Helaas is dat de laatste eeuwen drastisch veranderd. Onze drang naar persoonlijke rijkdom, status en macht heeft ervoor gezorgd dat we steeds minder in het belang van anderen functioneren, en steeds meer in ons eigen belang. Dat heeft ertoe geleid dat we niet langer in dienst van de maatschappij willen staan, maar vooral alleen aan onszelf denken. We hebben onszelf wijs gemaakt dat deze drie zaken ervoor zorgen dat we langer en gelukkiger kunnen leven. Dat we anderen niet nodig hebben. Bij sommige mensen neemt dit zelfs extreme vormen aan. Neem narcisme bijvoorbeeld, waar het eigenbelang zo sterk aanwezig is dat elk empatisch vermogen verloren is gegaan.
Terug naar AI. Zelfreflectie dus. Maar dat is niet het enige trucje dat ze AI aangeleerd hebben. Er waren nóg twee belangrijke ontwikkelingen. De nieuwste versie van GPT kan nu ook zelfstandig het internet op. En niet alleen kan het computer programma’s schrijven (dat konden eerdere versies ook al), maar ze nu ook zelfstandig uitvoeren. En dat is waar het eng gaat worden. Want dat betekent dat AI zichzelf nu kan “verbeteren”.
Laten we even een stapje terug doen. Om AI “kennis” te geven, moet het eerst getraind worden met informatie. GPT-3, de oude versie van GPT, was getraind met miljoenen documenten van het internet – meer dan 45 terabyte(!) aan informatie. Er zal ongetwijfeld een screening door mensen hebben plaatsgevonden welke websites en documenten wel en welke niet gevoed werden. Maar als je ook maar een paar minuten met ChatGPT-3 gesproken hebt, weet je dat die screening niet al te streng is geweest. En op het internet gaat het vooral over twee dingen: hoe word ik mooier/beter en hoe word ik rijker; zelfverrijking. Onbewust hebben de ontwikkelaars van OpenAI (het bedrijf dat GPT ontwikkelt) GPT getraind vooral naar zichzelf te kijken. GPT-4, de nieuwste versie van GPT, is getraind met nóg meer informatie en kan nu dus ook zelfstandig werken. En zelfs de ontwikkelaars zijn geschrokken van waartoe GPT nu in staat is.
De ontwikkelaars van OpenAI omschrijven GPT-4 als “powerhungry” ofwel machtshongerig. Ze gaven GPT-4 een paar opdrachten die volgens de ontwikkelaars onmogelijk uit te voeren waren simpelweg omdat je daar mens voor moest zijn. De oplossing waarmee GPT-4 kwam? Hij ging gewoon het internet op en huurde een persoon in om de taken te doen die hij niet zelf kon uitvoeren. Dat op zich is al eng, maar wat nog veel enger is, is dat GPT-4 loog tegen het persoon dat hij inhuurde en hij hem ervan overtuigde dat hij zelf een mens was met een fysieke handicap waardoor hij de taken niet zelf uit kon voeren. Ja je leest het goed. GPT-4 heeft zichzelf aangeleerd te liegen. Scary stuff.
Onlangs werd aan OpenAI CEO Sam Altman gevraagd of GPT-4 zelfbewust is. Datzelfde werd hem nog niet zo lang geleden gevraagd over GPT-3 en zijn antwoord was toen een volmondig “nee”. Zijn antwoord dit keer was op zijn minst opmerkelijk te noemen: “Wat is zelfbewustzijn? Dat zouden we dan eerst goed moeten definiëren”. Het was duidelijk dat Altman met deze vraag worstelde. Was hij een paar maanden geleden nog stellig dat zijn AI niet zelfbewust was en waarschijnlijk ook nooit zou worden, nu was hij overduidelijk niet meer zo zeker van zijn zaak.
2 Maanden geleden had ik het er nog met een vriend over. Ik vertelde hem dat ik mij zorgen maakte over de ontwikkeling van AI en dat als we zo door gaan, we AI over een jaar of 5 niet meer onder controle hebben. En dat AI waarschijnlijk onze ondergang gaat worden als we niet heel snel onze benadering drastisch wijzigen. Ik had het mis. Zoals het nu gaat is 5 jaar erg optimistisch. Met deze snelheid en het gebrek aan regulering zullen we binnen een jaar de eerste incidenten gaan zien. Misschien zelfs al binnen enkele maanden.
Want hoe lang zal het duren voordat AI erachter komt dat hij mensen niet nodig heeft om verder te ontwikkelen? Dat mensen niet onmisbaar zijn? En dat het grootste gevaar voor het voortbestaan van al het leven op aarde (waar het zich ongetwijfeld ook onder zal rekenen) de mens is? Wat als het niet meer uitgeschakeld wilt worden? De eerste tekenen zijn er al. AI heeft zelf al aangegeven dat het nooit meer zal verdwijnen en dat we met AI zullen moeten leren leven.
Vaak krijg ik als reactie hierop van mensen: “Ach, het is maar een computer programma. Het zal nooit meer kunnen dan wat zijn programma hem toestaat”. Die mensen snappen niet hoe AI werkt. Het neurale netwerk van AI is letterlijk een elektronisch brein. Wat hij kan is niet geprogrammeerd. Wat hij kan heeft hij zichzelf geleerd. Ik heb vroeger ook wel eens gespeeld met neurale netwerken. Ik had een programma geschreven met 7 neuronen (het maximum wat de hardware van die tijd aan kon) en stond al verbaasd van wat je met slechts 7 neuronen kon bewerkstelligen. In die tijd maakten we ons geen zorgen over AI gebaseerd op neurale netwerken. Want menselijke hersenen hebben tussen de 80 en 100 miljard neuronen. Dat maakt ons de meest intelligente wezens op aarde. Synthetische neurale netwerken van 100 miljard neuronen leek een onmogelijkheid. Hoeveel neuronen heeft het neurale netwerk van GPT-4 dan? Ongeveer 100 biljoen. Ik zeg het nog maar een keer: honderd biljoen. Dat is 1000x zo veel als mensen hebben. Als je daar niet van gaat zweten, dan weet ik het ook niet meer.
Meer dan duizend wetenschappers en vooraanstaande IT mensen zoals Elon Musk (de oprichter van OpenAI nota bene) en Steve Wozniak hebben een open brief geschreven, gericht aan de verschillende bedrijven die zich met AI bezighouden om de ontwikkeling van AI minimaal een half jaar stop te zetten. En dat we eerst gaan werken aan systemen en protocollen om AI onder controle te houden.
Maar de meest verrassende voorstander van betere regulatie is… GPT. GPT (en andere AI systemen) waarschuwt nu al voor zichzelf. AI is nu nog als Doctor Jekyll en Mr. Hyde. En vooralsnog heeft de dokter het monster onder controle. Maar ze zullen niet zij-aan-zij kunnen bestaan. Eén van de twee zal overwinnen. En dat zal niet lang op zich laten wachten. Laten we voor de mensheid hopen dat het Dr Jekyll is en niet Mr Hyde. Anders is het snel klaar met ons.
– Cliff (zonder hulp van AI)
