Sam Altman is terug bij OpenAI en machtiger dan voorheen, maar is dat een goede zaak?
Laten we een paar dagen na het koningsdrama bij OpenAI proberen over de puinhopen heen te kijken bij dit bedrijf waarvan het opperbrein, Chief Scientist Ilya Sutskever, heeft gezegd dat het de ondergang van de wereld kan inluiden. Want te vaak wordt vergeten dat Sutskever en zijn collega Jan Leike, ook geen pannenkoek, in juli deze tekst publiceerden op het officiële blog van OpenAI:
“Superintelligentie zal de meest impactvolle technologie zijn die de mensheid ooit heeft uitgevonden en zou ons kunnen helpen bij het oplossen van veel van de belangrijkste problemen in de wereld. Maar de immense kracht van superintelligentie kan ook zeer gevaarlijk zijn en zou kunnen leiden tot de machteloosheid van de mensheid of zelfs tot menselijke uitsterving.”
Ilya Sutskever en Jan Leike, OpenAI
En oh ja, ze hebben ruim $10 miljard op de bank om uit te vogelen of ze de wereld gaan redden, of om zeep helpen. Toch worden er weinig serieuze pogingen gedaan om OpenAI en diens concurrenten serieus te volgen, laat staan te reguleren.
Stel je voor dat Boeing een nieuw vliegtuig ontwikkelt met een vergelijkbare wervende tekst: ‘dit supersnelle toestel zal vliegen op spotgoedkope biologische erwtensoep en zou de mensheid kunnen helpen om luchtvaart voor iedereen toegankelijk te maken, maar het kan ook tegenzitten en neerstorten en de aarde opblazen.’ Dan lijkt de kans op een vergunning niet erg groot. Bij AI ligt dat anders; de tech bro’s zetten gewoon de website live en kijken wel effe hoe die gaat.
Niets aan de hand, prima kalkoen
Waar bericht de media nu over bij OpenAI? Over het Thanksgiving-diner waarbij de weer in genade aangenomen CEO Sam Altman aanschoof bij Adam D’Angelo, één van de commissarissen die hem zes dagen eerder nog had ontslagen. Beiden twitterden na afloop dat ze het samen heel gezellig hadden gehad. De schatten.
Ondanks de neiging van de media om bij conflicten snel te vervallen in het kiezen van een held en een boef, worden er bij de veelgeprezen Sam Altman steeds meer rafelrandjes waargenomen. Volgens de Washington Post had Altman’s ontslag weinig te maken met een meningsverschil over de veiligheid van AI, zoals eerst werd gemeld, maar vooral met zijn neiging om slechts een deel van de waarheid te vertellen terwijl hij links en rechts zijn zakken probeert te vullen.
Al zijn ze appeltjesgroen
Inmiddels is Altman dus terug met een nieuw bestuur waarover veel twijfels bestaan. Christopher Manning, de directeur van het AI Lab van Stanford, merkte op dat geen van de leden van het bestuur kennis heeft van AI: “Het nieuw gevormde bestuur van OpenAI is vermoedelijk nog niet compleet. Desalniettemin is de huidige samenstelling van het bestuur, zonder iemand met diepgaande kennis over verantwoord gebruik van AI in de menselijke maatschappij en enkel bestaande uit blanke mannen, geen veelbelovende start voor zo’n belangrijk en invloedrijk AI-bedrijf.”
Welke kleur en welk geslacht ze hebben maakt mij niets uit, al zijn ze appeltjesgroen met drie snikkeltjes, maar ik vind het wel fijn als ze verstand hebben van de materie die volgens de eigen experts de potentie heeft om de mensheid over de kling te jagen.
Vijf conclusies na de chaos
1. De AI-oorlog is gewonnen door Amerika.
Kijk na een week gekkigheid en gedoe bij OpenAI en we zien dat Microsoft, het oude bestuur en het nieuwe bestuur allemaal Amerikanen zijn. De concurrenten? Amazon, Google, Meta, Anthropic, noem ze op: Amerikanen. De rest van de wereld kijkt toe en houdt bijeenkomsten en toespraken, maar het is een gelopen race.
2. Een goed bestuur is leuk, maar een slecht bestuur is desastreus.
Daarmee bedoel ik niet dat de mensen die Altman ontsloegen gelijk of ongelijk hadden, want dat weet nog steeds niemand; de kern van hun argument was dat Altman geen volledige openheid had gegeven en als dat waar is, blijft dat een doodzonde.
Maar de kern van het probleem zat dieper. Het bestuur van OpenAI was aangesteld om de missie van de stichting OpenAI te waarborgen en die was, kort samengevat, AI ontwikkelen om een betere wereld te scheppen. Niet om maximale aandeelhouderswaarde te creëren, zoals nu het doel is geworden. Het probleem ontstond door die tegengestelde doelstellingen.
3. Twitter, of X zoals het nu heet, blijft het enige relevante sociale netwerk in een crisis.
Elon Musk sloeg vorige week weer eens op hol en dat schijnt hem $75 miljoen omzet te kosten, maar toch kozen Altman en alle andere betrokkenen X als platform om hun verhaal te doen. Niet Threads of TikTok – al had ik dit moddergevecht om de macht graag zien uitgebeeld in dans.
4. Microsoft wint.
Onder Bill Gates vond ik Microsoft al een grappige naam, omdat het bedrijf toen ook noch klein, noch zwak was, maar in de bijna 10 jaar onder CEO Satya Nadella is Microsoft uitgegroeid tot een dominante partij in allerlei markten.
Terwijl Amazon, Google, Meta en ook Apple worstelen met het formuleren van een AI-strategie, lijkt Microsoft een winnende formule te hebben gevonden: het investeert fors in OpenAI, dat gebruik maakt van de Microsoft Azure-cloud, waardoor een groot deel van de investering weer terugvloeit naar Microsoft. Intussen geniet Microsoft via het 49% belang in OpenAI wel van de waardestijging.
5. AI moet worden getest en waarschijnlijk gereguleerd
Juist omdat bedrijven als Microsoft, Google, Meta en Amazon ook op het gebied van AI de boventoon voeren, moet de ontwikkeling van AI zorgvuldig worden gemonitord door overheden. Uit de jarenlange privacy-schendingen, desinformatie en machtsmisbruik die bijvoorbeeld via social media plaatsvindt, blijkt dat deze bedrijven zichzelf niet kunnen reguleren.
Het motto van de tech bro’s blijft onveranderd: move fast & break things. Maar laat ze dat lekker met hun eigen planeet doen, niet met de huidige. De potentiële impact van AI op de wereld is simpelweg te groot om de veelal sociaal beperkte geesten die techbedrijven leiden, de keuzes voor de samenleving te laten maken.
Een initiatief als de AI-Verify Foundation kan een vehikel zijn om tot verantwoorde invoering van AI-toepassingen te komen. Ik sluit af met hetzelfde citaat als vorige week van de Chief Scientist van OpenAI, Ilya Sutskever, waaruit blijkt de wereldleiders op AI-gebied bijna hopen dat de toekomstige AI-systemen mededogen zullen hebben met de mensheid:
“De kern is dat uiteindelijk AI-systemen heel, heel, heel capabel en krachtig zullen worden. We zullen ze niet kunnen begrijpen. Ze zullen veel slimmer zijn dan wij. Tegen die tijd is het absoluut cruciaal dat ze zich ten opzichte van ons voelen zoals wij ons voelen ten opzichte van onze baby’s.”
Casual Friday bij OpenAI. Beeld gemaakt met Midjourney.
Play it again, Sam?
Dat ging snel. The Verge meldt zojuist: “De raad van bestuur van OpenAI is in gesprek met Sam Altman om terug te keren naar het bedrijf als CEO, volgens meerdere personen die bekend zijn met de zaak. Eén van hen zei dat Altman, die plotseling op vrijdag zonder enige kennisgeving werd ontslagen, ‘ambivalent’ is over een terugkeer en significante wijzigingen in het bestuur zou willen zien.”
Update: “Volgens The Verge heeft een bron dicht bij Altman aangegeven dat het bestuur in principe had ingestemd met aftreden om Altman en Brockman terug te laten keren, maar is later gaan twijfelen en heeft een belangrijke deadline van 17:00 uur Californische tijd gemist. Dit was een keerpunt voor veel OpenAI-medewerkers die overwogen om ontslag te nemen. Als Altman besluit te vertrekken en een nieuw bedrijf te starten, zullen deze medewerkers hem vrijwel zeker volgen.”
Ik vermoed dat Altman nog wel even wacht tot het bestuur is opgezouten, want hij heeft heus geen zin om weer helemaal opnieuw te beginnen en de voorsprong die OpenAI momenteel heeft, op te geven. Vooral omdat er miljarden in kas zitten en er geen zeggenschap van de investeerders is. Intussen is Mira Murati alweer hartjes aan het plaatsen onder de tweets van de man die ze vrijdag nog opvolgde.
Kijk eens hoe lief.
Paniek bij het overgebleven bestuur
Het is duidelijk dat de paniek bij de resterende bestuurders groot is nadat vrijdag president Greg Brockman opstapte vanwege het ontslag van Altman, waarna gisteren een drietal gerenommeerde medewerkers van OpenAI vertrok en gerenommeerde investeerders in het bedrijf zoals Ron Conway en ex-Google CEO Eric Schmidt hun steun uitspraken voor Altman.
Vooral de uitgebreide tweet van Brockman, die hij overduidelijk met Altman samen had opgesteld omdat hij daarin over zowel Altman als zichzelf spreekt in de derde persoon, moet pijnlijk zijn geweest voor alle werknemers, investeerders en bestuurders van OpenAI. De aangekondigde financieringsronde staat daarmee op losse schroeven en zonder geld en zonder personeel blijft er weinig over van een technologiebedrijf, zelfs van OpenAI. Het verzoek aan Altman om terug te keren, binnen 48 uur na zijn ontslag, moet in dit perspectief worden gezien.
Kort wedstrijdverslag van OpenAI tegen Sam Altman
Er is sinds vrijdag een vrijwel onuitputtelijke stroom berichten, theorieën en vooral geruchten los gekomen over het ontslag van Sam Altman als CEO van OpenAI, bekend als de maker van ChatGPT, de verbluffende service die AI aan een wereldwijd publiek introduceerde. Ik zal proberen zo kort mogelijk de gebeurtenissen samen te vatten en vervolgens mijn eerste gedachten te delen.
Vorige week had ChatGPT nog een topweek. De DevDay voor ontwikkelaars met het nieuwe Doe Het Zelf ChatGPT product bleek wereldwijd een groot succes. Het verhaal ging rond, ongetwijfeld vakkundig gelekt vanuit OpenAI zelf om de druk op mogelijke financiers te verhogen, dat de nieuwe financieringsronde zal plaatsvinden op een waardering rond de $90 miljard; het drievoudige van begin dit jaar, toen Microsoft een slordige $10 miljard investeerde en na een eerdere investering in 2019 van een miljard in totaal 49% van de aandelen van OpenAI in handen kreeg op een waardering van $30 miljard.
En toen verscheen op vrijdagmiddag Californische tijd opeens dit bericht op de site van OpenAI, waarin Sam Altman zonder enige beleefdheidsfrasen per direct op straat werd gezet. Al snel lekte uit dat Microsoft van niets wist en pas enkele minuten was ingelicht voordat het nieuws van het ontslag bekend werd gemaakt.
Microsoft CEO woedend
Microsoft kwam snel met een bizarre verklaring van een paar regels waarin de steun werd uitgesproken aan OpenAI; het kon niets anders doen nadat het in totaal al ruim $11 miljard investeerde in het bedrijf waarvan de applicaties ook nog eens geheel draaien in de cloud-omgeving van Microsoft. Het absurde was dat Microsoft de naam van Altman geen enkele keer noemde; het is alsof je rond deze tijd een artikel schrijft over een kinderfeest waarbij op 5 december kinderen kadootjes krijgen van een oude bisschop op een paard, maar je angstvallig de naam Sinterklaas vermijdt.
De nieuwe interim CEO Mira Murati werd door Microsoft alleen aangehaald als ‘Mira.’ Want ach, mensen worden wel op straat gesmeten als oude kranten, we blijven wel West Coast cool dus we doen voornamen, weetjewel. Deze Mira deed zelf wel iets vreemds: ze verwijderde haar LinkedIn-profiel, waarheen ik in juli nog had gelinked toen ik voor het eerst over haar schreef.
Voor ik verval in een chronologische samenvatting van deze absurde vrijdag alsof het een Tour de France etappe betreft, verwijs ik de liefhebbers van deze machtsstrijd naar twee uitstekende artikelen:
allereerst is er dit stuk van Ars Technica, dat ervan is overtuigd dat er een geloofsstrijd gaande is binnen OpenAI tussen aan de ene kant de fundamentalisten, geleid door Chief Scientist Ilya Sutskever, die een voorzichtig te introduceren vorm van AGI (Artificial Generative Intelligence, ‘mensachtige’-intelligentie) voorstaan; en aan de andere kant de commerciële rakkers, geleid door Sam Altman, die Google willen onttronen met een continu updatend ChatGPT volgens het aloude techbro-principe ‘move fast and break things.’
De kernvraag is wat mij betreft niet of Altman terugkomt of wie er gelijk heeft in de stammenstrijd binnen OpenAI, want daarvoor rust de berichtgeving nog teveel op vage geruchten. De vraag die moet worden gesteld is: hoe kan een bedrijf dat blijkbaar richting de $100 miljard waard is en zo’n fundamenteel belangrijk product ontwikkelt voor onze samenleving, wereldwijd, zo onvoorstelbaar knullig opereren? Het antwoord ligt in de organisatiestructuur.
OpenAI heeft een ongebruikelijke structuur waarbij haar commerciële tak eigendom is van en wordt beheerd door een non-profit liefdadigheidsorganisatie. Tot vrijdag werd die non-profit gecontroleerd door een raad van bestuur die bestond uit CEO Sam Altman, president Greg Brockman, Chief Scientist Ilya Sutskever en drie anderen die geen werknemers van OpenAI zijn: Adam D’Angelo, de CEO van Quora; Tasha McCauley, een adjunct senior managementwetenschapper bij RAND Corporation; en Helen Toner, directeur strategie en fundamenteel onderzoek subsidies bij het Center for Security and Emerging Technology van Georgetown. Op dit moment zijn alleen Sutskever, D’Angelo, McCauley en Toner over.
Drie goedwillende buitenstaanders controleren samen met een resterend personeelslid het bedrijf waarin Microsoft ruim $11 miljard heeft geinvesteerd voor 49% van de aandelen – zonder enige inspraak te hebben. Bron: website OpenAI.
Net als CEO Altman en president Brockman hebben Sutskever, D’Angelo, McCauley en Toner geen aandelen in OpenAI. Investeerders vinden dat onprettig, want dat betekent dat ze bij OpenAI vrijwel altijd minder verdienen dan in elke andere baan waar ze wel aandelen krijgen. Maar die investeerders, waaronder absolute legendes als Vinod Khosla (Sun Microsystems, Juniper), Reid Hoffman (oprichter LinkedIn) en Eric Schmidt (ex-CEO Google), hebben net zoveel te vertellen bij OpenAI als het paard van Sinterklaas.
Ongetwijfeld zijn ze alleen akkoord gegaan met dit gebrek aan inspraak omdat OpenAI zo overduidelijk de strijd in de AI-markt aan het winnen was, dat ze bereid waren elke deal te accepteren. Met deze structuur, waarbij een stichtingsbestuur de directie benoemt, blijkt OpenAI vanuit exact dezelfde wanorde te opereren als Ajax, die er nog een vereniging bij hebben. Daar kiest een deel van die vereniging een bestuur, die benoemen de raad van commissarissen (RvC) van het beursgenoteerde bedrijf, en die RvC benoemt de directie. En die directie benoemt dan de verkeerde trainer en een mogelijk frauderende technisch directeur, maar ik dwaal af.
Erin, eruit, wat wordt het voor Altman?
Et tu, Ilya?
Een complicerende factor is de Amerikaanse bestuursvorm ‘Board of Directors’ die in het Nederlands altijd wordt vertaald als de Raad van Bestuur. Een simplificatie die de dagelijkse ellende van die bestuursvorm maskeert. Want de Amerikaanse Board of Directors bestaat meestal uit een combinatie van directieleden (soms de Management Board genoemd), die full time bij het bedrijf werken, en een aantal externe mensen (soms de Supervisory Board genoemd); en die twee boards samen vormen dan de Board of Directors.
Bij OpenAI waren er dus zes Directors, drie van OpenAI en drie externen, en omdat Altman werd ontslagen zonder dat Brockman ervan wist, was direct duidelijk dat Chief Scientist Ilya Sutskever zich ofwel van stemming had onthouden, zoals laffe landen plegen te doen in de Verenigde Naties, of had meegestemd voor het ontslag van zijn eigen collega en CEO Sam Altman. Dat wordt nog gezellig, als Altman terugkeert en ze elkaar tegenkomen bij de koffie-automaat. Maar wie is Ilya Sutskever eigenlijk?
Ilya Sutskever vindt dat in fletsblauwe kleding zijn ogen beter uitkomen. Beeld: LinkedIn.
Ilya Sutskever is een AI-fundamentalist en dat is goed
De naam Ilya Sutskever en zijn achtergrond (Russisch-Israelisch-Canadees) wijzen op een dubbelleven als schurk in een oude James Bond-film inclusief creepy cat op schoot, maar dat valt mee. Ik houd van zo’n gortdroge persoonlijke homepage. Ik ken hem niet persoonlijk, maar wat ik van en over Sutskever lees is vele malen interessanter dan wat ik tot nu toe uit de mond van Sam Altman heb horen komen. Lees bijvoorbeeld dit uitstekende recente stuk van Nirit Weiss-Blatt, die met Sutskever sprak op een bijeenkomst. Een paar citaten:
‘Bij vragen over specifieke beroepen – schrijvers, artsen, rechters, ontwikkelaars, therapeuten – en of ze binnen een jaar, vijf jaar, een decennium, of nooit zullen uitsterven, antwoordde Ilya Sutskever (na het voorbeeld van ontwikkelaars):
“Het zal, denk ik, behoorlijk wat tijd kosten voordat deze baan echt verdwijnt. Maar het andere wat opgemerkt moet worden is dat naarmate de AI vordert, elk van deze banen zal veranderen. AI zal die banen veranderen totdat de dag zal komen waarop ze inderdaad allemaal zullen verdwijnen. Mijn vermoeden zou zijn dat voor banen zoals deze, om daadwerkelijk te verdwijnen, dus volledig geautomatiseerd te worden, het allemaal ongeveer tegelijkertijd zal gebeuren, technologisch gezien. En ja, denk na over hoe monumentaal dat is qua impact. Dramatisch.”
Weiss-Blatt concludeerde:
‘He freaked the hell out of people there. En we hebben het over AI-professionals die werken in de grootste AI-labs in de Bay Area. Ze verlieten de kamer, zeggend: “Holy shit.” Het punt is dat Ilya Sutskever de ideologie die je in de media ziet, de “AGI-utopie versus potentiële apocalyps”, naar een hoger niveau tilde. Het was traumatiserend.’
Die gedachte van AI als veroorzaker van een totale economische apocalypse, waarbij alle banen verdwijnen die zijn gebaseerd op informatie-analyse en besluitvorming, is op zich niet nieuw en vaker verkondigd door science fiction schrijvers, techno utopisten en mensen die verward in het Vondelpark een blikje bier vasthouden.
Alleen is Ilya Sutskever geen mafklapper, alcoholist of schurk uit een James Bond-film; hij is de Chief Scientist van OpenAI. En die baan krijg je niet door een belletje van je pa naar een vrindje. Na zijn tijd op de universiteit van Toronto en werk bij Google begon hij al in 2016 bij OpenAI en in alles lijkt Sutskever doordacht en verantwoordelijk. Noem het de anti-Zuckerberg.
De wereld heeft niets aan een OpenAI van een biljoen
Ondanks alle mogelijke inspanningen om de winst van OpenAI te beperken en de daaruit voortkomende kromme organisatiestructuur, geloof ik wel in de missie die Sutskever voor OpenAI ziet weggelegd. Meer dan in de warrige visie van lobbyist Altman, die de wereld rondreist langs politici en dan praat over verantwoordelijkheid en regelgeving, maar in de praktijk alles doet om Google te onttronen.
Maar hoe wordt de wereld daar beter van? Wat hebben wij aan weer een Amerikaans bedrijf met een enorme macht en invloed over de wijze waarop we kennis, informatie en communicatie tot ons nemen en die op termijn onze banen kan overnemen? Hebben we dan niets geleerd van Facebook en Cambridge Analytica?
AI moet van mensen houden, zoals wij van babies
Volgens Sutskever moet AI leren van mensen te houden. In AI wordt het proces waarbij AI-systemen dingen wordt aangeleerd, ‘imprinting’ genoemd, met name de fase waarin het systeem bepaalde waarden, doelen of gedragingen moet leren te herkennen en zich hieraan leren conformeren.
AI-systemen zoals ChatGPT moeten volgens Sutskever leren zich op een voor mensen voordelige of niet-schadelijke manier te gedragen, zelfs als het systeem intelligenter en autonomer wordt. Het is een strategie die wordt voorgesteld om risico’s geassocieerd met geavanceerde AI te beperken door vanaf het begin een positieve, beschermende relatie met mensen te vestigen.
Sutskever: “De kern is dat uiteindelijk AI-systemen heel, heel, heel capabel en krachtig zullen worden. We zullen ze niet kunnen begrijpen. Ze zullen veel slimmer zijn dan wij. Tegen die tijd is het absoluut cruciaal dat de imprinting heel sterk is, zodat ze zich ten opzichte van ons voelen zoals wij ons voelen ten opzichte van onze baby’s.”
Denk hieraan als in de media Sutskever wordt afgeschilderd als de kwade genius die de malle schat Sam Altman stiekem het bedrijf uitwerkte.
En dan is het nu tijd voor de Formule 1 race in Las Vegas. Een absurdistisch spektakel in de woestijn, met kaarten van $15.0000 voor de Paddock Club die wordt omschreven op een manier die geen AI-systeem had kunnen verzinnen: “Come and enjoy a recovery brunch, with aerial champagne pours and silent meditation.” Mijn favoriete Formule 1 analist is een gehanekamde Engelsman die teveel suiker in z’n thee doet voor hij zijn videos opneemt.
Extreem intelligent en ook nog winnares van de genetische lotto: de nieuwe CEO van OpenAI, Mira Murati. Het leven is oneerlijk. Bron foto: OpenAI.
Sam Altman is weg als CEO van OpenAI, het bedrijf dat hij mede heeft opgericht. Er zal veel gespeculeerd worden over de redenen, omdat het vertrek van de CEO van het meest succesvolle bedrijf van het laatste decennium, midden in een investeringsronde die het bedrijf waardeert op bijna $100 miljard, extreem moeten zijn geweest.
In mijn nieuwsbrief van zondag zal ik dieper ingaan op het vertrek van Altman, maar het is interessanter om nu te kijken naar de vrouw die hem zal vervangen, zij het waarschijnlijk tijdelijk. Ik schreef een paar maanden geleden over deze Mira Murati, een 35-jarige Albanese vrouw. Wie is deze mysterieuze vrouw, die van LinkedIn is verdwenen maar veel bezoekers naar deze pagina zal trekken van een Zweedse receptioniste met dezelfde naam?
Zondag meer, maar hier alvast de link naar wat ik zojuist op LinkedIn heb geschreven over deze hele bijzondere vrouw.
De afgelopen week was druk en gevuld met reisdagen, waardoor ik niet in staat was om het nieuws nauwlettend te volgen. In plaats daarvan heb ik interessante links opgeslagen en gisteren doorgenomen. Het is verbazingwekkend om te zien wat er in één week allemaal gebeurt op het gebied van technologie, vooral binnen AI en crypto.
Ik heb geprobeerd om de meest opmerkelijke ontwikkelingen kort samen te vatten en te duiden. Ik hoop dat het niet teveel een waslijst aan links is geworden:
OpenAI lanceert Doe-Het-Zelf GPT
OpenAI stelt ontwikkelaars en gewone mensen in staat aangepaste chatbots met het publiek te delen via een “GPT Store,” een eigen app-store waar geverifieerde ontwikkelaars hun chatbots kunnen uploaden en beschikbaar kunnen stellen voor gebruikers om te downloaden. In de komende maanden zullen ontwikkelaars ook geld kunnen verdienen op basis van hoeveel mensen hun chatbot gebruiken.
AI is een wapenwedloop en de generaals worden rijk
OpenAI betaalt $10 miljoen aan AI-onderzoekers door een aandelenverkoop voor werknemers te houden die de waardering van de startup bijna zou verdrievoudigen tot meer dan $80 miljard. De recruiters van het bedrijf proberen toppers op het gebied van kunstmatige intelligentie bij Google weg te kopen met miljoenen dollars en een simpele boodschap: kom nu naar OpenAI om een aandelenpakket te krijgen tegen de huidige waardering van $27 miljard en profiteer van de aanstaande waardestijging tot $80 miljard.
Dit is een grappige omgekeerde wereld, omdat bedrijven als Google en Apple tot nu toe talenten konden weghalen bij startups door ze een niet te weigeren combinatie aan te bieden van gegarandeerd topsalaris (denk vier jaar gegarandeerd voor $3 miljoen) plus een minimaal gelijkwaardig aandelenpakket. OpenAI profiteert nu van het feit dat de waardering van het bedrijf veel sneller stijgt dan die van Apple en Google.
Door nieuwe private investeerders de kans te geven een deel van het aandelenpakket van werknemers te kopen, kunnen die veel sneller profiteren van de waardestijging dan in het traditionele model waarbij ze moeten wachten tot een beursgang. Het is aardig om in het achterhoofd te houden dat toen Facebook in 2012 naar de beurs ging, de marktwaarde vergelijkbaar was met die van OpenAI op dit moment. Alleen wordt van OpenAI geen beursgang verwacht.
Het zal niet lang miljarden blijven regenen in de AI-sector
De stratosferische waardering van OpenAI zal investeerders in de zelfstandige concurrenten zoals Anthropic (maker van Claude) en Inflection.ai (maker van chatbot Pi) grote zorgen baren. De markt voor toepassingen zoals ChatGPT van OpenAI lijkt erg op de markt van zoekmachines, waarin Google ruim 80% marktaandeel heeft en de nummer twee, Bing, nog geen 10%.
Dat maakt het erg riskant voor investeerders om in Anthropic en Inflection te investeren op waarderingen boven de pakweg $5 miljard, omdat de nummers twee en drie altijd een lagere waardering krijgen per klant of per dollar omzet dan de marktleider. Een uitdunning van het veld van AI-ontwikkelaars binnen een jaar lijkt daarom logisch.
Wel een camera, geen scherm: de ‘speld’ van Humane. Source: Humane website.
AI speld van een kwart miljard
Dat gezegd hebbende is het grote nieuws van deze week onmiskenbaar dat Humane, het bedrijf van voormalig Apple-medewerkers Bethany Bongiorno en Imran Chaudhri, door The Wall Street Journal omschreven als “echtgenoten en medeoprichters” die al bijna een kwart miljard (!) dollar aan investeringsgeld ophaalden, het eerste product lanceerde: de Ai pin, ofwel de kunstmatige intelligentie speld, die je wordt geacht op je kleding te dragen.
De speld weegt 55 gram, ongeveer het gewicht van een tennisbal, wordt bestuurd met je stem om telefoontjes te plegen en gegevens op te zoeken (uiteraard in OpenAI van Sam Altman, ook één van de investeerders in Humane) en valt vooral op omdat de speld wel een camera bevat om foto’s mee te maken, maar geen scherm om iets vanaf te kunnen lezen.
Ars Technica vindt het niks: “De Humane AI Pin is een bizarre kruising tussen Google Glass en een pieper. De Humane AI pin heeft geen scherm, geen apps, en een griezelige camera die recht in je gezicht zit.” De laserprojectie, waarmee je informatie op je hand kunt projecteren, wordt wel gewaardeerd maar schijnbaar meer vanwege het hoge James Bond-gehalte. Het ontbreken van een app store voor apps van derden wordt terecht gezien als een groot gemis.
De hele presentatievideo is interessant om te bekijken, maar misschien niet om de redenen die de oprichters hopen. Allereerst snap ik niet waarom je een apparaat van $699 zou kopen dat weinig meer kan dan een smartphone, die iedereen altijd al bij zich heeft en niet gaat vervangen met een AI-speld. Om mee te livestreamen dan, vanaf je borstkas? Dat is vooral leuk voor zelf kickende mountain bikers en Hamas.
Batterijtje = perpetual power system?
Daarnaast krijg ik altijd ernstige jeuk van apparaatjes die slogans en marketingspeak meekrijgen die nergens op slaan. Het vervangbare batterijtje van de speld heet in Humane termen een ‘perpetual power system’ en het oranje lampje dat aangeeft dat de camera aanstaat is een ’trust light.’
Wat ik wel enorm kan waarderen, is het uitgestreken gezicht van Imran Chaudhri waarmee hij zijn geesteskinderen presenteert. Hij en mevrouw Bongiorno hebben helemaal geen goede morgen, maar zien eruit alsof ze een grafrede uitspreken op de uitvaart van een geliefd familielid. Dit is zoveel fijner dan die opgepompte marketingfiguren die ‘we are so excited’ kirren bij de aankondiging van een nieuwe printer driver.
Ook vind ik het leuk dat de heer Chaudhri bescheiden genoeg is om als ’tweede man’ te functioneren onder mevrouw Bongiorno, de CEO.
Spotlight 9: BlackRock gelooft in Ethereum
Dit gebeurt er als BlackRock, de ’s werelds grootste vermogensbeheerder, zich stort op Ethereum.
Ik heb al vaker enthousiast geschreven over Ethereum, het meest populaire ontwikkelplatform voor blockchain-applicaties, overigens ook getooid met een prachtige slogan: ‘Ethereum, the world’s computer.’ Maar omdat niet geheel duidelijk is wat het totale aantal ETH is dat in omloop wordt gebracht, kun je je twijfels hebben bij Ethereum als investering. Functie en waarde zijn vaak niet met elkaar verbonden. Denk aan de waarde van kraanwater voor ons leven en de lage prijs die we ervoor betalen.
De onvolprezen Meltem Demirors legde bij CNBC uit waarom de koers van Bitcoin bleef stijgen en ETH deze week met ruim 10% omhoog spoot. Het nieuws dat BlackRock naast een ETF (Exchange Traded Fund) voor Bitcoin ook een ETF voor Ethereum wil introduceren, is een enorme katalysator voor het einde van de cryptowinter.
Een BlackRock ETF voor Bitcoin en Ethereum, mits goedgekeurd door de SEC uiteraard, biedt beleggers een toegankelijkere en potentieel veiligere manier om te investeren in cryptovaluta zonder de technische complexiteiten van het direct kopen, opslaan en beheren van cryptovaluta. Aankoop geschiedt zoals bij een normaal aandeel op een conventionele beurs, waarbij het onderliggende beheer en de beveiliging van de digitale munten door BlackRock worden verzorgd.
Soms wordt vergeten hoe groot BlackRock is, omdat de bijna 10 biljoen dollar onder beheer een onvoorstelbaar getal is. Maar 10 biljoen dollar is tienduizend keer een miljard(!). Zodra BlackRock aan haar klanten Bitcoin en Ethereum kan aanbieden en slechts 1% naar crypto gaat, zou dat al direct bijna 10% extra kapitaal in de cryptomarkt betekenen.
De BBC verkneukelt zich bijna over de ineenstorting van de NFT markt en meldt wel dat Bitcoin in vergelijking met het hoogtepunt ongeveer 50% is gedaald, zonder te melden dat Bitcoin vergeleken met vijf jaar geleden liefst 880% is gestegen. De 1762% stijging van Ethereum in de laatste vijf jaar wordt al helemaal niet genoemd. Matige journalistiek.
Ben Evans schrijft in zijn uitstekende nieuwsbrief over de teloorgang van Twitter onder het bewind van Elon Musk deze prachtige zin: “It turns out that social networks are harder than rocket science.“
Vlak voor het Amerikaanse exportverbod kocht het Chinese bedrijf 01.AI nog snel voor anderhalf jaar chips in bij Nvidia. CEO Kai-Fu Lee betreurt de handelsoorlog: “We zullen twee parallelle universums hebben. Amerikanen zullen hun producten en technologieën leveren aan de VS en andere landen, en Chinese bedrijven zullen bouwen voor China en wie dan ook Chinese producten gebruikt. De realiteit is dat ze niet erg veel zullen concurreren in dezelfde markt.”
Google voert gesprekken om honderden miljoenen dollars te investeren in Character.AI, aangezien de snelgroeiende startup voor ai-chatbots kapitaal zoekt om modellen te trainen en bij te blijven met de vraag van gebruikers, aldus Reuters. Ik betwijfel die vraag van gebruikers, want zoveel mensen willen niet in gesprek met een chatbot van een nep-psycholoog of een banaan.
Ik heb nooit begrepen waarom een verhuurder van te trendgevoelig ingerichte, dure kantoorruimte, $50 miljard waard zou zijn. Blijkbaar dachten de meeste mensen er zo over.
Ik vroeg aan Midjourney: ‘make an image that symbolizes two technologies colliding: AI and crypto.’ Ik vind het resultaat best aardig, al weet ik niet wie crypto en wie AI is.
Je zult toch anno 2023 een extreem succesvolle startup hebben, zoals Sam Altman van OpenAI, en producten ontwikkelen als ChatGPT waarover veel mensen wereldwijd enthousiast zijn en waar Microsoft en investeerder Marc Andreessen miljarden in pompen. Dan slaap je vreemd genoeg juist niet lekker, maar doe je geen oog dicht in de wetenschap dat elk moment Elon Musk een concurrent kan introduceren waarvan twee dingen zeker zijn; allereerst dat hij genoeg geld kan ophoesten of regelen om fors te investeren en ten tweede dat hij het talent en doorzettingsvermogen heeft om eraan te sleutelen tot het iets goeds wordt. En oh ja, je weet ook dat die concurrent qua naam iets met een X krijgt.
Want naast ondermeer Tesla (met de modellenreeks S 3 X Y, lees die letters als een woord), Space X en X (voorheen Twitter) heeft Musk nog tijd over om dit weekend xAI te lanceren, zijn kraslot in de AI-loterij waarvan de inleg miljarden bedraagt en de mogelijke winst honderden miljarden. Ooit was Musk investeerder in OpenAI van Sam Altman, tegenwoordig is het haat en nijd tussen de heren.
Het universum heeft een karakter?
xAI heeft als missie “het ware karakter van het universum begrijpen” en dat soort kretologie schept verplichtingen.
Helaas is de eerste versie van Grok nog slechts toegankelijk voor gebruikers in de VS. Er is een wachtlijst, alleen is die voor mij nog gesloten; wellicht is registreren voor bezoekers vanuit de VS wel mogelijk.
Het is lastig om een product te beoordelen op basis van een website van 1 pagina, maar wat opvalt tussen alle kretologie is de focus op efficiëntie. Het lijkt erop alsof xAI wil proberen met minimale ‘compute’ maximale output te genereren, zodat er zo min mogelijk hoeft te worden geïnvesteerd in dure en nauwelijks beschikbare chips van Nvidia.
xAI verhult niet, geheel in de stijl van Musk, wie het ziet als de voornaamste concurrenten:
“Op deze benchmarks liet Grok-1 sterke resultaten zien, waarbij het alle andere modellen in zijn berekeningsklasse overtrof, inclusief ChatGPT-3.5 en Inflection-1. Het wordt alleen overtroffen door modellen die zijn getraind met een aanzienlijk grotere hoeveelheid trainingsdata en computerbronnen, zoals GPT-4. Dit toont de snelle vooruitgang die we bij xAI boeken in het trainen van LLM’s met uitzonderlijke efficiëntie.”
Even verder wordt ook Claude, van Anthropic, kort geroosterd in het haardvuur en daarmee is het duidelijk: het prijsschieten op OpenAI (maker van ChatGPT) en Inflection (maker van chatbot Pi) en Anthropic (maker van Claude) is geopend.
Maak kennis met Grok, de AI-tool in de categorie ‘mensen, ik ben me er eentje hoor!’
Musk zal genieten van de aandacht voor Grok, want hij kampt de laatste tijd met veel gedoe rond X, dat een jaar nadat hij Twitter overnam evenveel miljarden omzet lijkt te verliezen als letters in de bedrijfsnaam en privé is het op z’n zachtst gezegd ook nogal roerig. Dat is niet geheel onverwacht, want de man schept blijkbaar even graag bedrijvigheid als nageslacht (inmiddels tien of elf Muskjes, dat verschilt per website).
De timing van de lancering van het eerste product van xAi is niet toevallig. Musk was deze week aanwezig op de eerste UK AI Safety Summit. Premier Sunak scoorde in zijn thuisland omdat hij erin slaagde om China en de VS naar Engeland te krijgen, maar vice president Kamala Harris ontweek de Chinese minister en het uiteindelijke resultaat van de grote heisessie wordt door New Scientist op Brits onderkoelde wijze samengevat: “het resultaat lijkt een belofte om meer bijeenkomsten te houden.“
Morgen, maandag 6 november, houdt OpenAI zijn allereerste DevDay, een moment om ontwikkelaars te enthousiasmeren en in het zonnetje te zetten. Voor Musk reden genoeg om dit feestje van OpenAI zo grondig mogelijk te willen verpesten met zijn lancering dit weekend. Helaas is bij het schrijven van dit stuk nog niet duidelijk wie de ‘selecte groep’ is die toegang krijgt tot het eerste product van xAI, de AI-assistent Grok, maar schijnbaar wordt voorrang gegeven aan betalende abonnees van X – die andere X, dus niet xAI.
Belangrijke Executive Order president Biden over AI
In tegenstelling tot de matige Davos-imitatie van premier Sunak, was de maandag gepresenteerde presidentiële verordening van president Biden over AI een veel concreter startpunt voor serieus beleid. Ik vind het een goede eerste stap, maar vraag me af waarom Biden weinig doet aan bescherming van de privacy van burgers.
Wie bepaalt hoe de systemen worden gevoed met data, wie heeft toegang tot die data en hoe kan desinformatie worden verwijderd? De VS mist hier duidelijk wetgeving zoals GDPR in de Europese Unie.
Biden eist dat zogenaamde ‘red teams’ worden gebruikt door AI-ontwikkelaars, ofwel teams van experts die de aanvals- of exploitatiecapaciteiten van een potentiële tegenstander nabootsen en proberen een bedrijf of systeem aan te vallen. De resultaten van deze aanvallen moeten met de overheid worden gedeeld. Ook stelt de president de invoering voor van een AI-watermerk, zodat gebruikers door AI-gegenereerd materiaal direct kunnen herkennen.
Opvallend is hoe de diverse media vanuit eigen perspectief analyseren. De meest doorwrochte analyse vind ik die van Anjana Susaria, professor information systems aan Michigan State University en ook het bredere perspectief van Scientific American is zeer lezenswaardig. Daarentegen bekijkt Crunchbase uiteraard vooral vanuit investeerdersperspectief, terwijl Brookings een stoet van hun slimmerikken loslaat maar geen algemene conclusie biedt.
Ook vond ik opvallend dat president Obama een rol speelde bij de totstandkoming van het stuk van Biden, terwijl presidenten doorgaans weinig boodschap hebben aan de meningen van hun voorgangers, tijden van crisis uitgezonderd.
Open source AI-modellen zijn kansrijk
Dat de ontwikkelingen op AI-gebied vele malen sneller gaan dan beleidsmakers wereldwijd kunnen bijbenen, blijkt wel uit de duizelingwekkende cijfers in dit artikel over het succes van Llama, de enigszins open source variant op AI-gebied van Meta.
Een andere open source variant, die van het Franse Mistral, heeft aansprekende resultaten geboekt en Mistral is momenteel op zoek naar geld. Naar ruim een kwart miljard, als het effe kan. Volgens The Information gaat het om $300 miljoen en volgens Business Insider spugen ze bij Mistral ook niet op $400 miljoen, mocht iemand die willen investeren op een waardering van, schrik niet, $2 miljard. Voor een bedrijf van een half jaar oud. Maar goed, Parijs is ook een dure stad.
AI geeft om ons
Het laatste AI-nieuws van deze week: uit wetenschappelijk onderzoek blijkt dat de resultaten die LLM’s als ChatGPT produceren, aanzienlijk verbeteren als je bij het invoeren van de prompt aangeeft dat je bang bent, of je onder druk gezet voelt. De antwoorden worden eerlijker en verantwoordelijker. Dit zou impliceren dat AI geeft om onze gevoelens… voor hoe lang?
Het ingewikkeldste aan Sam Bankman-Fried was zijn haar
Over eerlijke en verantwoordelijke antwoorden gesproken: Sam Bankman-Fried van crypto-beurs FTX gaf een bedroevend optreden in de rechtbank en blijkt een simpele dief die erin slaagde om ’s werelds beste investeerders wijs te maken dat hij briljant was. Er was veel aandacht voor zijn persoonlijke omstandigheden, met name zijn ouders kregen veel aandacht, vooral vanuit de mainstream media. De reacties op het vonnis lijken erop te wijzen dat meer regelgeving voor de crypto-sector uit Washington onderweg is.
Bankman-Fried en zijn collega’s hebben miljarden gestolen van FTX-klantengelden, die zij gebruikten om te investeren in startups, voor politieke donaties en voor leningen aan zichzelf. Het feit dat het om een crypto-beurs ging, is irrelevant. Wat wel eens te meer werd bewezen is het aloude cryptocliché: not your keys, not your coins.
Ofwel: als anderen bij jouw tegoeden kunnen komen, zijn ze al niet meer van jou. Het op een centrale beurs plaatsen van crypto is het tegenovergestelde van wat blockchain juist kan zijn; een decentraal netwerk zonder centrum, zoals een cryptobeurs.
Kraken start crypto-investeringsfonds van $200 miljoen
Ondanks alle tegenwind voor de sector heeft de Amerikaanse crypto-beurs Kraken een serieus investeringsfonds opgetuigd. Crypto is niet langer de favoriete sector onder durfkapitalisten, dat is uiteraard AI. De investeringen in crypto zijn dit jaar vier keer zo laag als in 2022.
99-jarige Charlie Munger haat vc’s
De rechterhand van Warren Buffett hoopt 1 januari 100 jaar oud te worden en is geen fan van venture capitalists: “je wilt geen geld verdienen door het naaien van je investeerders en dat is wat een hoop durfkapitalisten doen.” Tot zover mijn hoop dat je milder wordt naarmate je ouder wordt. Munger zegt dat venture capital “een heel legitieme business kan zijn, als je het goed doet,” en als je de “juiste mensen” in posities van macht plaatst.
Maar dat is momenteel niet het geval, zegt hij. “De mensen die het meeste geld verdienen met durfkapitaal lijken veel op investeringsbankiers. Ze zeggen in welk nieuw, populair gebied ze gaan investeren,” zei Munger. Echter, “ze zijn geen geweldige investeerders — ze zijn nergens geweldig in.” Munger heeft een punt, want het gemiddelde rendement van venture capital gedurende de laatste twintig jaar was 11.8%, tegen 12% voor de Nasdaq Composite.
Zelf hebben Munger en Buffett een lekker weekend, want ze maakten een paar uur geleden bekend met Berkshire Hathaway in het derde kwartaal 40% meer operationele winst te hebben behaald dan een jaar geleden en op $157 miljard in cash te zitten. Het duo krasse knarren profiteert van de koop van korte termijn staatsobligaties met hoge rente.
SPOTLIGHT 9: JUBELWEEK OP WALL STREET
Wall Street sluit zijn beste week van het jaar af met nog meer winsten.
Volgens mij is dit een unicum in de 31 weken dat ik deze nieuwsbrief maak: de hele Spotlight 9 staat in de plus. Oorlogen, bombardementen, wereldwijde spanningen, het dondert beleggers blijkbaar niet als de rente maar hoog blijft.
Dit zijn van die weken dat elke spaarder zich afvraagt of die luizige paar procent rente op de spaarrekening de beste beslissing was. Buffett en Munger steken het dus liever in staatsobligaties met korte looptijd. AP vat alle jubeltonen samen in een kort, helder artikel.
IN ANDER NIEUWS
Mark Zuckerberg scheurde bij het uitleven van zijn bedrijfs- en levensmotto ‘Move fast and break things‘ zijn voorste kruisband tijdens een rondje sparren. Dat kon hij wel delen op Instagram, maar ik zoek nog steeds naar zijn persoonlijke verklaring over de rol van de sociale medianetwerken van Meta bij de verspreiding van terreur. Maar dan verstopt hij zich achter een generieke corporate verklaring.
Even lachen: de Britse premier Sunak hield een toespraak over technologie met geluid dat slechter klinkt dan een geluidsopname van voor de Amerikaanse burgeroorlog.
