Laten we een paar dagen na het koningsdrama bij OpenAI proberen over de puinhopen heen te kijken bij dit bedrijf waarvan het opperbrein, Chief Scientist Ilya Sutskever, heeft gezegd dat het de ondergang van de wereld kan inluiden. Want te vaak wordt vergeten dat Sutskever en zijn collega Jan Leike, ook geen pannenkoek, in juli deze tekst publiceerden op het officiële blog van OpenAI:

“Superintelligentie zal de meest impactvolle technologie zijn die de mensheid ooit heeft uitgevonden en zou ons kunnen helpen bij het oplossen van veel van de belangrijkste problemen in de wereld. Maar de immense kracht van superintelligentie kan ook zeer gevaarlijk zijn en zou kunnen leiden tot de machteloosheid van de mensheid of zelfs tot menselijke uitsterving.”

Ilya Sutskever en Jan Leike, OpenAI

En oh ja, ze hebben ruim $10 miljard op de bank om uit te vogelen of ze de wereld gaan redden, of om zeep helpen. Toch worden er weinig serieuze pogingen gedaan om OpenAI en diens concurrenten serieus te volgen, laat staan te reguleren.

Stel je voor dat Boeing een nieuw vliegtuig ontwikkelt met een vergelijkbare wervende tekst: ‘dit supersnelle toestel zal vliegen op spotgoedkope biologische erwtensoep en zou de mensheid kunnen helpen om luchtvaart voor iedereen toegankelijk te maken, maar het kan ook tegenzitten en neerstorten en de aarde opblazen.’ Dan lijkt de kans op een vergunning niet erg groot. Bij AI ligt dat anders; de tech bro’s zetten gewoon de website live en kijken wel effe hoe die gaat.

Niets aan de hand, prima kalkoen

Waar bericht de media nu over bij OpenAI? Over het Thanksgiving-diner waarbij de weer in genade aangenomen CEO Sam Altman aanschoof bij Adam D’Angelo, één van de commissarissen die hem zes dagen eerder nog had ontslagen. Beiden twitterden na afloop dat ze het samen heel gezellig hadden gehad. De schatten.

Ondanks de neiging van de media om bij conflicten snel te vervallen in het kiezen van een held en een boef, worden er bij de veelgeprezen Sam Altman steeds meer rafelrandjes waargenomen. Volgens de Washington Post had Altman’s ontslag weinig te maken met een meningsverschil over de veiligheid van AI, zoals eerst werd gemeld, maar vooral met zijn neiging om slechts een deel van de waarheid te vertellen terwijl hij links en rechts zijn zakken probeert te vullen.

Al zijn ze appeltjesgroen

Inmiddels is Altman dus terug met een nieuw bestuur waarover veel twijfels bestaan. Christopher Manning, de directeur van het AI Lab van Stanford, merkte op dat geen van de leden van het bestuur kennis heeft van AI: “Het nieuw gevormde bestuur van OpenAI is vermoedelijk nog niet compleet. Desalniettemin is de huidige samenstelling van het bestuur, zonder iemand met diepgaande kennis over verantwoord gebruik van AI in de menselijke maatschappij en enkel bestaande uit blanke mannen, geen veelbelovende start voor zo’n belangrijk en invloedrijk AI-bedrijf.”

Welke kleur en welk geslacht ze hebben maakt mij niets uit, al zijn ze appeltjesgroen met drie snikkeltjes, maar ik vind het wel fijn als ze verstand hebben van de materie die volgens de eigen experts de potentie heeft om de mensheid over de kling te jagen.

Vijf conclusies na de chaos

1. De AI-oorlog is gewonnen door Amerika.

Kijk na een week gekkigheid en gedoe bij OpenAI en we zien dat Microsoft, het oude bestuur en het nieuwe bestuur allemaal Amerikanen zijn. De concurrenten? Amazon, Google, Meta, Anthropic, noem ze op: Amerikanen. De rest van de wereld kijkt toe en houdt bijeenkomsten en toespraken, maar het is een gelopen race.

2. Een goed bestuur is leuk, maar een slecht bestuur is desastreus.

Daarmee bedoel ik niet dat de mensen die Altman ontsloegen gelijk of ongelijk hadden, want dat weet nog steeds niemand; de kern van hun argument was dat Altman geen volledige openheid had gegeven en als dat waar is, blijft dat een doodzonde.

Maar de kern van het probleem zat dieper. Het bestuur van OpenAI was aangesteld om de missie van de stichting OpenAI te waarborgen en die was, kort samengevat, AI ontwikkelen om een betere wereld te scheppen. Niet om maximale aandeelhouderswaarde te creëren, zoals nu het doel is geworden. Het probleem ontstond door die tegengestelde doelstellingen.

3. Twitter, of X zoals het nu heet, blijft het enige relevante sociale netwerk in een crisis.

Elon Musk sloeg vorige week weer eens op hol en dat schijnt hem $75 miljoen omzet te kosten, maar toch kozen Altman en alle andere betrokkenen X als platform om hun verhaal te doen. Niet Threads of TikTok – al had ik dit moddergevecht om de macht graag zien uitgebeeld in dans.

4. Microsoft wint.

Onder Bill Gates vond ik Microsoft al een grappige naam, omdat het bedrijf toen ook noch klein, noch zwak was, maar in de bijna 10 jaar onder CEO Satya Nadella is Microsoft uitgegroeid tot een dominante partij in allerlei markten.

Terwijl Amazon, Google, Meta en ook Apple worstelen met het formuleren van een AI-strategie, lijkt Microsoft een winnende formule te hebben gevonden: het investeert fors in OpenAI, dat gebruik maakt van de Microsoft Azure-cloud, waardoor een groot deel van de investering weer terugvloeit naar Microsoft. Intussen geniet Microsoft via het 49% belang in OpenAI wel van de waardestijging.

5. AI moet worden getest en waarschijnlijk gereguleerd

Juist omdat bedrijven als Microsoft, Google, Meta en Amazon ook op het gebied van AI de boventoon voeren, moet de ontwikkeling van AI zorgvuldig worden gemonitord door overheden. Uit de jarenlange privacy-schendingen, desinformatie en machtsmisbruik die bijvoorbeeld via social media plaatsvindt, blijkt dat deze bedrijven zichzelf niet kunnen reguleren.

Het motto van de tech bro’s blijft onveranderd: move fast & break things. Maar laat ze dat lekker met hun eigen planeet doen, niet met de huidige. De potentiële impact van AI op de wereld is simpelweg te groot om de veelal sociaal beperkte geesten die techbedrijven leiden, de keuzes voor de samenleving te laten maken.

Een initiatief als de AI-Verify Foundation kan een vehikel zijn om tot verantwoorde invoering van AI-toepassingen te komen. Ik sluit af met hetzelfde citaat als vorige week van de Chief Scientist van OpenAI, Ilya Sutskever, waaruit blijkt de wereldleiders op AI-gebied bijna hopen dat de toekomstige AI-systemen mededogen zullen hebben met de mensheid:

“De kern is dat uiteindelijk AI-systemen heel, heel, heel capabel en krachtig zullen worden. We zullen ze niet kunnen begrijpen. Ze zullen veel slimmer zijn dan wij. Tegen die tijd is het absoluut cruciaal dat ze zich ten opzichte van ons voelen zoals wij ons voelen ten opzichte van onze baby’s.”