Play it again, Sam?

Dat ging snel. The Verge meldt zojuist: “De raad van bestuur van OpenAI is in gesprek met Sam Altman om terug te keren naar het bedrijf als CEO, volgens meerdere personen die bekend zijn met de zaak. Eén van hen zei dat Altman, die plotseling op vrijdag zonder enige kennisgeving werd ontslagen, ‘ambivalent’ is over een terugkeer en significante wijzigingen in het bestuur zou willen zien.”

Update: “Volgens The Verge heeft een bron dicht bij Altman aangegeven dat het bestuur in principe had ingestemd met aftreden om Altman en Brockman terug te laten keren, maar is later gaan twijfelen en heeft een belangrijke deadline van 17:00 uur Californische tijd gemist. Dit was een keerpunt voor veel OpenAI-medewerkers die overwogen om ontslag te nemen. Als Altman besluit te vertrekken en een nieuw bedrijf te starten, zullen deze medewerkers hem vrijwel zeker volgen.”

Ik vermoed dat Altman nog wel even wacht tot het bestuur is opgezouten, want hij heeft heus geen zin om weer helemaal opnieuw te beginnen en de voorsprong die OpenAI momenteel heeft, op te geven. Vooral omdat er miljarden in kas zitten en er geen zeggenschap van de investeerders is. Intussen is Mira Murati alweer hartjes aan het plaatsen onder de tweets van de man die ze vrijdag nog opvolgde.

Paniek bij het overgebleven bestuur

Het is duidelijk dat de paniek bij de resterende bestuurders groot is nadat vrijdag president Greg Brockman opstapte vanwege het ontslag van Altman, waarna gisteren een drietal gerenommeerde medewerkers van OpenAI vertrok en gerenommeerde investeerders in het bedrijf zoals Ron Conway en ex-Google CEO Eric Schmidt hun steun uitspraken voor Altman.

Vooral de uitgebreide tweet van Brockman, die hij overduidelijk met Altman samen had opgesteld omdat hij daarin over zowel Altman als zichzelf spreekt in de derde persoon, moet pijnlijk zijn geweest voor alle werknemers, investeerders en bestuurders van OpenAI. De aangekondigde financieringsronde staat daarmee op losse schroeven en zonder geld en zonder personeel blijft er weinig over van een technologiebedrijf, zelfs van OpenAI. Het verzoek aan Altman om terug te keren, binnen 48 uur na zijn ontslag, moet in dit perspectief worden gezien.

Kort wedstrijdverslag van OpenAI tegen Sam Altman

Er is sinds vrijdag een vrijwel onuitputtelijke stroom berichten, theorieën en vooral geruchten los gekomen over het ontslag van Sam Altman als CEO van OpenAI, bekend als de maker van ChatGPT, de verbluffende service die AI aan een wereldwijd publiek introduceerde. Ik zal proberen zo kort mogelijk de gebeurtenissen samen te vatten en vervolgens mijn eerste gedachten te delen.

Vorige week had ChatGPT nog een topweek. De DevDay voor ontwikkelaars met het nieuwe Doe Het Zelf ChatGPT product bleek wereldwijd een groot succes. Het verhaal ging rond, ongetwijfeld vakkundig gelekt vanuit OpenAI zelf om de druk op mogelijke financiers te verhogen, dat de nieuwe financieringsronde zal plaatsvinden op een waardering rond de $90 miljard; het drievoudige van begin dit jaar, toen Microsoft een slordige $10 miljard investeerde en na een eerdere investering in 2019 van een miljard in totaal 49% van de aandelen van OpenAI in handen kreeg op een waardering van $30 miljard.

En toen verscheen op vrijdagmiddag Californische tijd opeens dit bericht op de site van OpenAI, waarin Sam Altman zonder enige beleefdheidsfrasen per direct op straat werd gezet. Al snel lekte uit dat Microsoft van niets wist en pas enkele minuten was ingelicht voordat het nieuws van het ontslag bekend werd gemaakt.

Microsoft CEO woedend

Microsoft kwam snel met een bizarre verklaring van een paar regels waarin de steun werd uitgesproken aan OpenAI; het kon niets anders doen nadat het in totaal al ruim $11 miljard investeerde in het bedrijf waarvan de applicaties ook nog eens geheel draaien in de cloud-omgeving van Microsoft. Het absurde was dat Microsoft de naam van Altman geen enkele keer noemde; het is alsof je rond deze tijd een artikel schrijft over een kinderfeest waarbij op 5 december kinderen kadootjes krijgen van een oude bisschop op een paard, maar je angstvallig de naam Sinterklaas vermijdt.

De nieuwe interim CEO Mira Murati werd door Microsoft alleen aangehaald als ‘Mira.’ Want ach, mensen worden wel op straat gesmeten als oude kranten, we blijven wel West Coast cool dus we doen voornamen, weetjewel. Deze Mira deed zelf wel iets vreemds: ze verwijderde haar LinkedIn-profiel, waarheen ik in juli nog had gelinked toen ik voor het eerst over haar schreef.

Voor ik verval in een chronologische samenvatting van deze absurde vrijdag alsof het een Tour de France etappe betreft, verwijs ik de liefhebbers van deze machtsstrijd naar twee uitstekende artikelen:

• allereerst is er dit stuk van Ars Technica, dat ervan is overtuigd dat er een geloofsstrijd gaande is binnen OpenAI tussen aan de ene kant de fundamentalisten, geleid door Chief Scientist Ilya Sutskever, die een voorzichtig te introduceren vorm van AGI (Artificial Generative Intelligence, ‘mensachtige’-intelligentie) voorstaan; en aan de andere kant de commerciële rakkers, geleid door Sam Altman, die Google willen onttronen met een continu updatend ChatGPT volgens het aloude techbro-principe ‘move fast and break things.’
• Techcrunch maakte een fraaie timeline die niet zou hebben misstaan op de dag dat Caesar op de trappen van de Romeinse senaat zijn einde vond. Inmiddels meldt Techcrunch ook dat Microsoft CEO Satya Nadella de terugkeer van Altman zou verwelkomen.

Structuur van OpenAI even slecht als van Ajax

De kernvraag is wat mij betreft niet of Altman terugkomt of wie er gelijk heeft in de stammenstrijd binnen OpenAI, want daarvoor rust de berichtgeving nog teveel op vage geruchten. De vraag die moet worden gesteld is: hoe kan een bedrijf dat blijkbaar richting de $100 miljard waard is en zo’n fundamenteel belangrijk product ontwikkelt voor onze samenleving, wereldwijd, zo onvoorstelbaar knullig opereren? Het antwoord ligt in de organisatiestructuur.

OpenAI heeft een ongebruikelijke structuur waarbij haar commerciële tak eigendom is van en wordt beheerd door een non-profit liefdadigheidsorganisatie. Tot vrijdag werd die non-profit gecontroleerd door een raad van bestuur die bestond uit CEO Sam Altman, president Greg Brockman, Chief Scientist Ilya Sutskever en drie anderen die geen werknemers van OpenAI zijn: Adam D’Angelo, de CEO van Quora; Tasha McCauley, een adjunct senior managementwetenschapper bij RAND Corporation; en Helen Toner, directeur strategie en fundamenteel onderzoek subsidies bij het Center for Security and Emerging Technology van Georgetown. Op dit moment zijn alleen Sutskever, D’Angelo, McCauley en Toner over.

Net als CEO Altman en president Brockman hebben Sutskever, D’Angelo, McCauley en Toner geen aandelen in OpenAI. Investeerders vinden dat onprettig, want dat betekent dat ze bij OpenAI vrijwel altijd minder verdienen dan in elke andere baan waar ze wel aandelen krijgen. Maar die investeerders, waaronder absolute legendes als Vinod Khosla (Sun Microsystems, Juniper), Reid Hoffman (oprichter LinkedIn) en Eric Schmidt (ex-CEO Google), hebben net zoveel te vertellen bij OpenAI als het paard van Sinterklaas.

Ongetwijfeld zijn ze alleen akkoord gegaan met dit gebrek aan inspraak omdat OpenAI zo overduidelijk de strijd in de AI-markt aan het winnen was, dat ze bereid waren elke deal te accepteren. Met deze structuur, waarbij een stichtingsbestuur de directie benoemt, blijkt OpenAI vanuit exact dezelfde wanorde te opereren als Ajax, die er nog een vereniging bij hebben. Daar kiest een deel van die vereniging een bestuur, die benoemen de raad van commissarissen (RvC) van het beursgenoteerde bedrijf, en die RvC benoemt de directie. En die directie benoemt dan de verkeerde trainer en een mogelijk frauderende technisch directeur, maar ik dwaal af.

Et tu, Ilya?

Een complicerende factor is de Amerikaanse bestuursvorm ‘Board of Directors’ die in het Nederlands altijd wordt vertaald als de Raad van Bestuur. Een simplificatie die de dagelijkse ellende van die bestuursvorm maskeert. Want de Amerikaanse Board of Directors bestaat meestal uit een combinatie van directieleden (soms de Management Board genoemd), die full time bij het bedrijf werken, en een aantal externe mensen (soms de Supervisory Board genoemd); en die twee boards samen vormen dan de Board of Directors.  

Bij OpenAI waren er dus zes Directors, drie van OpenAI en drie externen, en omdat Altman werd ontslagen zonder dat Brockman ervan wist, was direct duidelijk dat Chief Scientist Ilya Sutskever zich ofwel van stemming had onthouden, zoals laffe landen plegen te doen in de Verenigde Naties, of had meegestemd voor het ontslag van zijn eigen collega en CEO Sam Altman. Dat wordt nog gezellig, als Altman terugkeert en ze elkaar tegenkomen bij de koffie-automaat. Maar wie is Ilya Sutskever eigenlijk?

Ilya Sutskever is een AI-fundamentalist en dat is goed

De naam Ilya Sutskever en zijn achtergrond (Russisch-Israelisch-Canadees) wijzen op een dubbelleven als schurk in een oude James Bond-film inclusief creepy cat op schoot, maar dat valt mee. Ik houd van zo’n gortdroge persoonlijke homepage. Ik ken hem niet persoonlijk, maar wat ik van en over Sutskever lees is vele malen interessanter dan wat ik tot nu toe uit de mond van Sam Altman heb horen komen. Lees bijvoorbeeld dit uitstekende recente stuk van Nirit Weiss-Blatt, die met Sutskever sprak op een bijeenkomst. Een paar citaten:

‘Bij vragen over specifieke beroepen – schrijvers, artsen, rechters, ontwikkelaars, therapeuten – en of ze binnen een jaar, vijf jaar, een decennium, of nooit zullen uitsterven, antwoordde Ilya Sutskever (na het voorbeeld van ontwikkelaars):

“Het zal, denk ik, behoorlijk wat tijd kosten voordat deze baan echt verdwijnt. Maar het andere wat opgemerkt moet worden is dat naarmate de AI vordert, elk van deze banen zal veranderen. AI zal die banen veranderen totdat de dag zal komen waarop ze inderdaad allemaal zullen verdwijnen. Mijn vermoeden zou zijn dat voor banen zoals deze, om daadwerkelijk te verdwijnen, dus volledig geautomatiseerd te worden, het allemaal ongeveer tegelijkertijd zal gebeuren, technologisch gezien. En ja, denk na over hoe monumentaal dat is qua impact. Dramatisch.”

Weiss-Blatt concludeerde:

‘He freaked the hell out of people there. En we hebben het over AI-professionals die werken in de grootste AI-labs in de Bay Area. Ze verlieten de kamer, zeggend: “Holy shit.” Het punt is dat Ilya Sutskever de ideologie die je in de media ziet, de “AGI-utopie versus potentiële apocalyps”, naar een hoger niveau tilde. Het was traumatiserend.’

Die gedachte van AI als veroorzaker van een totale economische apocalypse, waarbij alle banen verdwijnen die zijn gebaseerd op informatie-analyse en besluitvorming, is op zich niet nieuw en vaker verkondigd door science fiction schrijvers, techno utopisten en mensen die verward in het Vondelpark een blikje bier vasthouden.

Alleen is Ilya Sutskever geen mafklapper, alcoholist of schurk uit een James Bond-film; hij is de Chief Scientist van OpenAI. En die baan krijg je niet door een belletje van je pa naar een vrindje. Na zijn tijd op de universiteit van Toronto en werk bij Google begon hij al in 2016 bij OpenAI en in alles lijkt Sutskever doordacht en verantwoordelijk. Noem het de anti-Zuckerberg.

De wereld heeft niets aan een OpenAI van een biljoen

Ondanks alle mogelijke inspanningen om de winst van OpenAI te beperken en de daaruit voortkomende kromme organisatiestructuur, geloof ik wel in de missie die Sutskever voor OpenAI ziet weggelegd. Meer dan in de warrige visie van lobbyist Altman, die de wereld rondreist langs politici en dan praat over verantwoordelijkheid en regelgeving, maar in de praktijk alles doet om Google te onttronen.

Maar hoe wordt de wereld daar beter van? Wat hebben wij aan weer een Amerikaans bedrijf met een enorme macht en invloed over de wijze waarop we kennis, informatie en communicatie tot ons nemen en die op termijn onze banen kan overnemen? Hebben we dan niets geleerd van Facebook en Cambridge Analytica?

AI moet van mensen houden, zoals wij van babies

Volgens Sutskever moet AI leren van mensen te houden. In AI wordt het proces waarbij AI-systemen dingen wordt aangeleerd, ‘imprinting’ genoemd, met name de fase waarin het systeem bepaalde waarden, doelen of gedragingen moet leren te herkennen en zich hieraan leren conformeren.

AI-systemen zoals ChatGPT moeten volgens Sutskever leren zich op een voor mensen voordelige of niet-schadelijke manier te gedragen, zelfs als het systeem intelligenter en autonomer wordt. Het is een strategie die wordt voorgesteld om risico’s geassocieerd met geavanceerde AI te beperken door vanaf het begin een positieve, beschermende relatie met mensen te vestigen.

Sutskever: “De kern is dat uiteindelijk AI-systemen heel, heel, heel capabel en krachtig zullen worden. We zullen ze niet kunnen begrijpen. Ze zullen veel slimmer zijn dan wij. Tegen die tijd is het absoluut cruciaal dat de imprinting heel sterk is, zodat ze zich ten opzichte van ons voelen zoals wij ons voelen ten opzichte van onze baby’s.”

Denk hieraan als in de media Sutskever wordt afgeschilderd als de kwade genius die de malle schat Sam Altman stiekem het bedrijf uitwerkte.

En dan is het nu tijd voor de Formule 1 race in Las Vegas. Een absurdistisch spektakel in de woestijn, met kaarten van $15.0000 voor de Paddock Club die wordt omschreven op een manier die geen AI-systeem had kunnen verzinnen: “Come and enjoy a recovery brunch, with aerial champagne pours and silent meditation.” Mijn favoriete Formule 1 analist is een gehanekamde Engelsman die teveel suiker in z’n thee doet voor hij zijn videos opneemt.