‘Het verminderen van het risico op uitsterven door appeltaart zou een wereldwijde prioriteit moeten zijn, naast andere risico’s op maatschappelijke schaal zoals pandemieën en kernoorlogen.’
Als dat de eenregelige verklaring zou zijn geweest die afgelopen dinsdag door tientallen leiders op het gebied van AI (artificial intelligence, kunstmatige intelligentie) openbaar werd gemaakt, zou het groter wereldnieuws zijn geweest dan nu het geval was. Alleen werd er geen appeltaart genoemd als bedreiging voor de wereld, maar AI. Dat maakte de verklaring een stuk moeilijker te duiden door journalisten, want AI is een soort water van de technologie: het kan worden gebruikt om mensen drinken te geven, of te waterboarden. De grens daartussen is helder: het gaat erom wie bepaalt om te stoppen met drinken.
De angst is dat in het geval van AI, de software zelf bepaalt wanneer er iets gebeurt. Of stopt. Ik ben ooit gaan bloggen en schrijf tegenwoordig deze nieuwsbrief, omdat het me dwingt om bij te blijven op mijn vakgebied en vervolgens mijn gedachten publiekelijk te ordenen. Dus hierbij mijn onbescheiden poging om de laatste ontwikkelingen op het gebied van AI in een breder perspectief te plaatsen.
Wie zijn deze mensen?
Allereerst die verklaring van afgelopen dinsdag, uitgegeven door het Center for AI Safety (CAIS, spreek uit: Kees) met als missie ‘de risico’s van kunstmatige intelligentie op maatschappelijke schaal te verminderen.’ Van het Watergate-schandaal leerden we dat je allereerst de geldstroom volgt, dus waar haalt Kees het geld vandaan? De stichting Open Philanthropy doneerde ruim $5 miljoen en wordt weer gefinancierd door voormalig Wall Street Journal verslaggever Cari Tuna en Dustin Moskovitz, één van de oprichters van Facebook. (U mag zelf raden wiens spaarvarkentje van dat echtpaar het meest werd omgekeerd voor deze donatie. Ach, dan wordt het geld dat Facebook verdient met de uitverkoop van de privacy van z’n gebruikers tenminste aan iets nuttigs besteed.)
In Europa wordt er voor lastige dossiers meestal een convenant gesloten tussen overheid, het bedrijfsleven en een partij die beleidsmedewerkers in dat soort stukken die niemand leest omschrijven als ‘het maatschappelijk middenveld.’ Amerika is het land van de one-liner, dus daar kwam men tot deze kloeke zin: ‘‘Het verminderen van het risico op uitsterven door AI zou een wereldwijde prioriteit moeten zijn, naast andere risico’s op maatschappelijke schaal zoals pandemieën en kernoorlogen.’
En dat was het, meer staat er niet in de verklaring van 22 woorden. Het leidde tot vrij inhoudsloze berichten in de media waaruit je de wanhoop van de verslaggever bijna kunt aflezen. Zo van ‘mijn hemel, moet ik nu uitleggen in hoeverre deze verklaring vergelijkbaar is met die van Robert Oppenheimer over het gevaar van nucleaire wapens, of zal ik gewoon het lijstje ondertekenaars opsommen?’ Het werd uiteraard meestal het laatste en de meeste namen zult u herkennen uit eerdere nieuwsbrieven. CNN somt braaf op: ‘De verklaring is ondertekend door vooraanstaande functionarissen uit de industrie, waaronder OpenAI CEO Sam Altman; de zogenaamde “godfather” van AI, Geoffrey Hinton; topmanagers en onderzoekers van Google DeepMind en Anthropic; Kevin Scott, chief technology officer van Microsoft; Bruce Schneier, de pionier op het gebied van internetbeveiliging en cryptografie; klimaatverdediger Bill McKibben; en muzikant Grimes.’
Wie tekende niet?
Dat laatste is wel leuk, want Grimes is de baby mama van voorzover bekend de jongste zoon van Elon Musk, die zelfs X Æ A-Xii heet omdat het de elvenspelling is van het begrip AI. (Lees die laatste zin nog eens en besef dat het gaat om een weerloos kind.) Juist de naam Elon Musk ontbrak bij de ondertekenaars. Andere mensen die opvallend genoeg de verklaring niet hebben getekend en waarvan het me zinvol lijkt als CNN had geinformeerd waarom, zijn Jeff Bezos (oprichter en voorzitter van de Raad van Commissarissen van Amazon), Sundar Pichai (CEO van Alphabet, het moederbedrijf van Google, man van deze briljante speech), Andreessen Horowitz (de meest vooraanstaande investeerder in technologiebedrijven), Mark Zuckerberg (CEO Meta, voorheen bekend als Facebook, opkoper van voormalige concurrenten als Instagram en Whatsapp) en Peter Thiel (financier van ondermeer, LinkedIn, Yelp, Facebook en Palantir en via zijn Founders Fund ook Airbn en Space X). En verder ontbreken zo’n beetje alle spelers op technologiegebied uit India, Zuid-Korea, Japan en China.
Al deze partijen hebben de kennis, slagkracht en motivatie om een belangrijke speler in de wereldwijde markt voor AI-toepassingen te worden. En ze hebben de ongetwijfeld goedbedoelde verklaring om erop te letten dat de wereld niet aan AI ten onder gaat, niet ondertekend. Dat betekent uiteraard niet dat de opperbazen van de techwereld zullen proberen om de wereld te vernietigen met AI; het omleggen van de wereldbevolking zou immers slecht zijn voor hun kwartaalcijfers.
En Bill Gates dan?
Microsoft mede-oprichter Bill Gates hoopt publiekelijk dat Amazon en Google het loodje zullen leggen door AI. Verder heeft hij weinig invloed op het publieke debat over AI, het is niet toevallig dat CNN Gates niet eens noemde in de opsomming van ondertekenaars en zelfs de ex van Elon Musk wel. Ik hecht weinig waarde aan de voorspellingen over technologie van de man die in zijn boek The Road Ahead, uit november 1995, internet niet de toekomst noemde, maar een zandpad vergeleken met de information super highway die hij zelf zou gaan bouwen in de vorm van MSN.
Het blijft voor mij onbegrijpelijk dat Gates niet meer analyses geeft over de bedrijfsmatige aspecten van technologie, maar blijft mijmeren over de maatschappelijke gevolgen. Want juist als ondernemer blijft hij in mijn ogen ongeëvenaard. Zijn visie is briljant wanneer die wordt gemeten over pakweg 24 maanden, niet 24 jaar.
Onthoud van Bill Gates vooral deze twee wapenfeiten:
- IBM zocht in 1981 een besturingssysteem voor hun nieuwe product, de personal computer; Gates had niets in huis maar kocht voor vijfenzeventigduizend dollar het obscure Quick and Dirty Operating System (QDOS) van een kleine softwaremaker, veranderde de naam in MS-DOS (want het brandschone IBM kon niets met het woord Dirty) en verkocht de software niet, maar licenseerde het aan IBM op een non-exclusieve basis. Die vorm van licensering was vrijwel onbekend in de softwarewereld. Vooral op basis van deze ene deal werd Microsoft het meest waardevolle bedrijf en Gates de rijkste man ter wereld.
- In 1995 was Microsoft de machtigste onderneming in de technologiewereld en Gates ‘s werelds rijkste man. Alleen was het hele beeld van Microsoft en Gates gericht op een wereld waarin computers nauwelijks samenwerkten, laat staan samen communiceerden of transacties mogelijk maakten. Terwijl Jeff Bezos een paar kilometer verder Amazon uitbouwde tot een e-commerce machine en in de voetsporen van Gates zou treden als ‘s werelds rijkste man, schreef Gates een memo aan de top van Microsoft dat bekend zou worden als ‘de Internet vloedgolf.’ Feitelijk zei Gates: ‘ik had ongelijk. We moeten al onze producten geschikt maken voor internet.’ Ik had nog nooit een CEO gezien die op een dergelijke manier zijn eigen fouten bekende en het hele concern liet keren en focusen, in zo’n korte tijd. Toegeven dat hij internet over het hoofd had gezien, vond ik groots. (En ik was opgelucht, want mijn geesteskind heette Planet Internet en het is niet lekker om dagelijks op te staan met het idee dat ‘s werelds rijkste man zegt dat je product waardeloos is.)
Zijn boek The Road Ahead zou een half jaar later uitkomen en al gedateerd zijn bij publicatie. Het was vooral vreemd omdat Gates in zijn memo het belang van internet zo sterk had benadrukt. Internet, zo orakelde Gates in zijn boek, was gebouwd op ouderwetse technologie en daarom te beperkt om informatie, communicatie en transacties overheen te sturen op grote schaal.
Wat vervolgens gebeurde was even hilarisch als symbolisch, omdat zijn boek even snel een tweede versie vereiste als zijn software: al een maand na het verschijnen van het boek begon Gates aan een tweede versie, die in oktober 1996 verscheen en liefst 20.000 woorden langer was, net zoals zijn software steeds meer regels code telde. In de tweede versie van het boek stelde Gates internet veel centraler.
Het enige leuke aan The Road Ahead vond ik dat Gates het had geschreven met toenmalig Microsoft CTO Nathan Myhrvold, een voormalig wereldkampioen barbecue die had gestudeerd onder Stephen Hawking. Van Myhrvold had ik graag meer gelezen.
Bill Gates is een soort nerdversie van Marco van Basten: een topspeler die fenomenaal is als analist, maar falend als trainer. Ik hoop van ganser harte dat Bill Gates gaat schrijven over toepassingen van AI, over business modellen, kansen en bedreigingen; over alles, behalve wat het voor de samenleving gaat betekenen. En full disclosure: mijn mening over Gates staat los van mijn eigen ervaringen met hem en Microsoft in de browseroorlog.
Waarom is AI zo kansrijk en zo gevaarlijk?
Veel belangrijker dan de mening van Gates over AI, vond ik dit artikel over een officier bij de Amerikaanse luchtmacht die een bespiegeling hield over een drone die door AI op hol slaat en zijn eigen bestuurder wilde vermoorden. De eerste hijgerige berichten waren dat dit werkelijk is gebeurd, maar blijkbaar was het slechts een scenario dat in de Amerikaanse krijgsmacht wordt besproken. Gelukkig maar, want het is de ultieme Terminator-nachtmerrie wanneer het geweldsmonopolie bij computers komt te liggen.
Hoewel het een enorme technologische prestatie is, zal ook de nieuwe supercomputer van Nvidia, waarover ik vorige week schreef, niet leiden tot een massale doorbraak van AI-toepassingen. Dergelijke computers zijn dermate duur en complex dat slechts een klein aantal bedrijven de mogelijkheden heeft om ze goed te gebruiken. Uiteraard is het een enorme omzetbron voor Nvidia, want Amazon, Microsoft, Meta en Google zullen deze computer graag massaal inslaan, maar juist open source AI lijkt de definitieve doorbraak van AI te worden.
Dat zijn niet mijn woorden, maar dit blijkt uit een gelekt intern document van Google. Volgens het gelekte document is de open source AI community dermate actief en sterk ontwikkeld, dat zodra er meer toegankelijke ontwikkelmogelijkheden ontstaan, zowel OpenAI als Google kansloos zijn. Terwijl OpenAI en Google ‘proprietary’ LLM’s (Large Language Models) gebruiken, zijn de modellen in open source feitelijk gereed voor publiek gebruik. Daarmee is de groep wereldwijde ontwikkelaars groter dan de personeelsleden van OpenAI en Google, zo is de gedachte.
Hoera voor QLoRA?
En nu blijken die goedkopere tools binnen een jaar beschikbaar te komen! Want het lijkt mogelijk om AI-toepassingen te ontwikkelen op wat uit de kluiten gewassen game-pc’s. LLM’s waarmee generatieve AI-toepassingen worden ontwikkeld, kunnen normaliter alleen op enorm krachtige computers draaien. Dat is de reden van de explosieve koersstijgingen van de makers van dergelijke apparatuur zoals Nvidia en Marvell, waarover ik vorige week schreef. Zoals een lezer stuurde: ‘QLoRA verandert het landschap volledig. Je kunt dezelfde 8x80GB op een enkele 48GB kaart gebruiken. Van een 8x15K$ stuk kit naar een opgevoerde PC.’
Vertaald in iets normaler Nederlands: het feit dat je in 48GB (wat enorm is) 96 miljard 4-bits gewichten kunt proppen, betekent dat AI-ontwikkeling nu beschikbaar is voor hobbyisten. Wat normaal een ton kost aan apparatuur, kan nu voor een paar duizend Euro. Voor de liefhebbers: hier het wetenschappelijke artikel. En hier de tweet die voorspelt dat binnen een jaar deze computers gemeengoed zullen zijn.
AI voor Doe-Het-Zelvers
De vraag is welke toepassingen zullen worden gebouwd als hobbyisten, liefhebbers en malafide figuren de mogelijkheid zullen hebben om AI-toepassingen te maken. En de vervolgvraag is hoe dit moet worden gemonitord en gereguleerd, als dat al mogelijk is.
Tot slot voor dit stuk over AI:
- hier een link naar een blog dat kritische bespiegelingen over AI bijhoudt van Iris van Rooij van de Radboud Universiteit. (via Future Affairs).
- Handig: maak een PowerPoint presentatie met ChatGPT
Opvallende links:
- Artifact, van de oprichters van Instagram, is een persoonlijke nieuwslezer. Net gedownload, maar nog niet getest, met de slogan: ‘Finally, an AI-driven news feed with you in control.’ Want geen enkele startup kan zonder het woord AI in de slogan in 2023. Ik hoor graag de mening van lezers, anonimiteit gegarandeerd.
- Gedurfd: een gedetailleerde prognose van de ontwikkeling van AI Singularity tot aan 2029. Iemand zou dit jaarlijks moeten checken op juistheid, ik vergeet het zeker.
- Meta (die van Facebook) wil dat vanaf september elke medewerker die is toegewezen aan een bepaalde vestiging, minimaal drie dagen per week op kantoor verschijnt. Helaas is niet duidelijk voor welk percentage van de medewerkers dit geldt. Het is nog maar de vraag of hierdoor veel talentvolle medewerkers zullen vertrekken, want liefst 150.000 banen gingen alleen dit jaar al verloren in de tech-sector in de VS.
Event van de week: ATxSummit Singapore
Een weinig subtiele humblebrag: de maker van uw zondagse tech-nieuwsbrief doet dinsdag mee in een panel over Web 3.0 met de prachtige titel ‘Everything, Everywhere, All at Once.’ Het is een onderdeel van de ATxSummit in Singapore, waar ‘overheden, ondernemingen en kenniscentra bijeen komen voor een discussie over de rol van technologie in onze gezamenlijke digitale toekomst.’
Er wordt vaak gevraagd hoe werken in Singapore is en die vraag beantwoord ik meestal met ‘intens.’ Iedereen is professioneel, van een receptionist tot een minister, gefocust en toegewijd. Tegelijkertijd maak ik me zorgen of er wel genoeg wordt gerelaxed en niet te hard gewerkt. Zie bovenstaand screenshot van een email over de voorbereidende online meeting over ons panel, dat bestaat uit slechts vier deelnemers en die toch uitging naar 27 mensen. Je zou denken dat dit leidt tot een enorme bureaucratie, maar ambtenaren beantwoorden bijvoorbeeld vragen via e-mail inhoudelijk binnen drie werkdagen. Soms gun ik iedereen in Singapore een papa- of mama-dag per week.
Aangezien ik de beschikking krijg over een visagist, iets dat al jaren bovenaan mijn wensenlijst staat, verwacht ik dat er een livestream is die ik zal delen via mijn accounts op Twitter, LinkedIn en Instagram. Het panel vindt plaats vanaf 9 uur tot 9.45 uur Nederlandse tijd. Waarschuwing vooraf: het is alleen voor de fijnproever c.q. liefhebber van begrippen als ‘participatory data’ en ‘decentralization of identity.’
Met stip de Spotlight 9 binnen: Nvidia
Al jaren wordt in de technologie-sector gesproken over een handvol dominante partijen: Alphabet (moederbedrijf van Google), Amazon, Apple, Facebook (tegenwoordig Meta) en Microsoft. Sinds deze week mogen we daartoe Nvidia rekenen, dat in marktwaarde Meta voorbij is gegaan. Heel even was Nvidia zelfs ‘a trillion dollar company’, ofwel meer dan een biljoen waard: duizend keer een miljard. (Een miljard is in het Engels a billion en een biljoen is in het Engels a trillion. Het zijn niet voor niets de uitvinders van de nutteloze inch en links rijden.)
Daarom heb ik in mijn geheel arbitraire overzicht van belangrijke economische indicatoren voor de tech-wereld, mijn Spotlight 9, de Dow Jones Index eruit gegooid en vervangen door Nvidia. Voor de gehele markt zit immers de S&P 500 al in de lijst, voor crypto de tokens Bitcoin en Ethereum en dan resteren er nu liefst zes indicatoren voor het beurssentiment van de techsector.
Maar pas op: wie een aandeel Nvidia koopt, doet dat nu op een koers-winstverhouding van ruim 200! Vergelijk dat met Apple, met een P/E ratio van 30 en dan durf ik te stellen dat het niet realistisch is om te verwachten dat Nvidia ruim zes keer zo snel zal groeien als Apple. Ofwel: het aandeel Nvidia is peperduur, ongeacht die door AI gedreven vraag naar GPU’s en de nieuwe Nvidia supercomputer.
Over Apple gesproken: ik schreef, tot ergernis van een aantal Apple medewerkers die ik tot dat artikel tot mijn vriendenkring dacht te kunnen rekenen, over de langverwachte Apple mixed reality headset, waarschijnlijk de Apple Reality Pro geheten. De verwachting is dat dit apparaat, het eerste geheel nieuwe device sinds de Apple Watch in 2015, maandag tijdens de WWDC wordt onthuld. Als het echt iets bijzonders is, schrijf ik dinsdagochtend een extra editie van deze nieuwsbrief. Zo niet, dank voor de belangstelling en tot volgende week.