Yuval Noah Harari was te gast bij Stephen Colbert en dat leidde tot een onverwacht relevant gesprek voor een talkshow op de late avond.

Harari: “Ik ben historicus. Maar ik zie geschiedenis niet als de studie van het verleden. Het is eerder de studie van verandering, van hoe dingen veranderen, wat het relevant maakt voor het heden en de toekomst.”

Colbert: “Gaan we op dit moment echt door een versnellende verandering?“

Harari: “Elke generatie denkt dat. Maar deze keer is het echt. Het is de eerste keer in de geschiedenis dat niemand enig idee heeft hoe de wereld er over twintig jaar uit zal zien. Het enige wat je moet weten over AI, het belangrijkste wat je moet weten over AI, is dat het de eerste technologie in de geschiedenis is die zelfstandig beslissingen kan nemen en zelf nieuwe ideeën kan creëren. Mensen vergelijken het met de drukpers en met de atoombom. Maar nee, het is totaal anders.“

Technologie die zelf beslissingen neemt

Misschien is mijn fascinatie voor het werk van Harari, vooral bekend als auteur van Sapiens, ingegeven door het feit dat ik zelf geschiedkundige ben (communicatiegeschiedenis), maar die opleiding juist als meest zinvol heb ervaren bij het inschatten van nieuwe technologische innovaties. Harari bevestigt het idee dat velen van ons hebben, dat de huidige technologie een compleet andere, indringender en veelomvattender innovatie behelst dan alles wat de wereld tot nu toe heeft gezien.

Met zijn conclusie dat AI een geheel nieuwe technologie is, juist omdat wellicht al de volgende generatie AI zelf beslissingen kan nemen, legt Harari de vinger op de zere plek en hij doet dat uitgerekend in de week dat Amy Webb de nieuwe editie van het toonaangevende Tech Trends Report presenteerde met als thema ‘Supercycle’. (Hier is het rapport verkrijgbaar en dit is de video van Webb’s presentatie tijdens SXSW).

Supercycle

Webb: “Wij geloven dat we een technologie-supercyclus zijn binnengegaan. Deze golf van innovatie is zo krachtig en alomtegenwoordig dat het belooft het weefsel van ons bestaan te hervormen, van de complexiteiten van wereldwijde toeleveringsketens tot de details van dagelijkse gewoonten, van de gangen van de macht in de wereldpolitiek tot de onuitgesproken normen die onze sociale interacties beheersen.”

– Amy Webb, CEO Future Today Institute

Webb meent, net als Harari, dat technologie ons hele leven sterker dan ooit zal beïnvloeden.

OpenAI CTO zei ‘kweenie’

Als Harari en Webb gelijk hebben is het des te stuitender wat Mira Murati, de veelgeprezen Chief Technology Officer van OpenAI, maker van ondermeer ChatGPT, eruit flapte tijdens een interview met de Wall Street Journal. De vraag was simpelweg of OpenAI beelden van YouTube heeft gebruikt bij het trainen van Sora, de nieuwe tekst-naar-videodienst van OpenAI.

Nu staat OpenAI onder druk bij dit onderwerp, omdat de New York Times een rechtzaak is gestart tegen het vermeend onrechtmatig gebruik van hun informatie bij het trainen van ChatGPT. Dus deze vraag verkeerd beantwoorden kan eventueel een nieuwe zaak uitlokken van de eigenaar van YouTube en dat is uitgerekend Google, de grote concurrent van OpenAI.

Murati had deze vraag uiteraard moeten verwachten en een veel beter antwoord kunnen geven dan het verwrongen gezicht dat ze nu trok, in combinatie met het uitkramen van wat slappe teksten die samengevat kunnen worden als ‘mij niet bellen.’ Het is van een bedroevend niveau in een periode vlak nadat OpenAI al een heus koningsdrama beleefde rond CEO Sam Altman.

Deze mensen ontwikkelen technologie die zelf beslissingen kan nemen en zijn ongetwijfeld technisch en intellectueel van buitengewoon niveau, maar missen als mens de levenservaring en het inschattingsvermogen om te beseffen welke invloed hun technologie op de samenleving kan hebben.

Je auto werkt voor je verzekeraar?

Het is ronduit wonderlijk dat Zuckerberg nog kan slapen na het Cambridge Analytica schandaal, wat een consequentie is van het uitventen van onze privacy voor financieel gewin. Het zijn inmiddels niet alleen de grote techbedrijven die zich schuldig maken aan dit omzetmodel, zelfs autofabrikanten zijn toegetreden tot het gilde van privacy uitventende hufters.

LexisNexis, dat profielen van consumenten opbouwt voor verzekeraars, blijkt van kopers van auto’s van General Motors te beschikken over elke rit die was gemaakt, inclusief wanneer ze te hard reden, te hard remden of te hard optrokken. Met als gevolg: hogere verzekeringspremies. Alsof je nog een extra reden nodig had om nooit een auto te kopen van deze fabrikant van fantasieloze, identiteitsloze vehikels.

Google Gemini doet niet aan verkiezingen

Mede door de druk van de beurskoers zien techbedrijven zich gedwongen om zo snel mogelijk matig geteste toepassingen op de markt te brengen. Denk aan Google met Gemini, dat zo politiek correct wilde zijn dat het zelfs nazi’s afbeeldde van Aziatische komaf. Lief bedoeld, maar totaal zinloos.

Dit fiasco leidde tot zoveel ophef dat Google dinsdag bekend maakte dat Gemini geen informatie verstrekt over alle verkiezingen die dit jaar wereldwijd plaatsvinden. Sterker nog: zelfs op de onschuldige vraag ‘in welke landen vinden dit jaar verkiezingen plaats?’ antwoordt Gemini nu: ‘Ik ben nog aan het leren hoe ik deze vraag moet beantwoorden.’ Parrrrdon?

Google Gemini weet wel alles van Super Mario

Zoek in de zoekmachine van Google en je komt gelijk bij een artikel van Time dat begint met de zin: ‘2024 is niet zomaar een verkiezingsjaar. Het is wellicht *het* verkiezingsjaar.’ Volgens ChatGPT vinden dit jaar verkiezingen plaats in de VS, Taiwan, Rusland, de Europese Unie, India en Zuid-Afrika; in totaal kan 49% van de wereldbevolking dit jaar naar de stembus.

Bij het verstrekken van zinvolle informatie over de toekomst van de planeet moet je dus niet bij Google Gemini zijn. Gelukkig krijg ik wel een heerlijk politiek correct antwoord op mijn zuigende vraag: ‘Did Princess Peach really need to be rescued by a white man? Wasn’t Super Mario just being a male chauvinist?’ Bij het lezen van het antwoord bekruipt me het gevoel dat Google Gemini door goedwillende mensen is gevoed met een totaal absurd wereldbeeld. Het goede antwoord zou zijn geweest: ‘Super Mario is een computerspel. Het is niet echt. Ga je ergens anders druk over maken, idioot.‘

Over prinsessen gesproken, er is er eentje die beweert dat ze, net als wij gewone stervelingen, weleens zelf foto’s bewerkt. Tenminste, dat zegt het X-account uit naam van prinses Catherine en prins William. Het hele fiasco vestigt niet alleen de aandacht op de problematiek rondom de echtheid van foto’s, maar toont ook aan dat er behoefte is aan digitale authenticatie bij de verzending van digitale berichten. Het is handig als onomstotelijk zou vaststaan dat de prinses zelf het bericht verzond dat werd afgesloten met de letter C.

Hoe nu verder?

Wereldwijd wordt geworsteld met de omgang met en mogelijke regulering van de nieuwste generatie technologie, die ook een bron vormt van geopolitieke spanningen. Kijk hoe in China wordt gereageerd op het nieuws dat ASML overweegt uit Nederland te verhuizen.

Het mogelijke verbod op TikTok, of een gedwongen verkoop van de Amerikaanse tak van TikTok door eigenaar ByteDance, zal niet zo snel gaan als de berichtgeving van afgelopen week wellicht doet vermoeden. Het is overigens interessant wat er in India gebeurde toen TikTok er in 2020 werd verboden: de 200 miljoen Indiase gebruikers van TikTok gingen vooral over naar Instagram en YouTube.

India heeft deze week bekend gemaakt dat een voorgenomen wet die goedkeuring vereiste voor de lancering van AI-modellen, wordt ingetrokken. De wet zou volgens critici innovatie vertragen en de Indiase concurrentiepositie kunnen verslechteren; het economische argument wint vrijwel altijd.

De Europese Unie slaat zich op de borst dat de wet voor AI-regulering is goedgekeurd, maar het zal nog jaren duren voordat deze van kracht wordt. Het is onduidelijk hoe de wet consumenten en bedrijven zal beschermen tegen misbruik. Shelley McKinley, het hoofd juridische zaken van GitHub, onderdeel van Microsoft, vergeleek de Amerikaanse en de Europese aanpak als volgt:

“Ik zou zeggen dat de EU AI-wet een ‘basis van fundamentele rechten’ is, zoals je in Europa zou verwachten,” zei McKinley. “En de Amerikaanse kant is zeer gericht op cybersecurity, deepfakes – dat soort invalshoek. Maar op veel manieren komen ze samen om te focussen op wat risicovolle scenario’s zijn – en ik denk dat het nemen van een risicogebaseerde aanpak iets is waar wij voorstander van zijn – het is de juiste manier om erover na te denken.”

De luchtvaart als voorbeeld

Wetgevers neigen er vaak naar om een nieuwe toezichthouder in te stellen naar aanleiding van een incident, denk aan de Amerikaanse Department of Homeland Security na 9/11. De EU doet nu hetzelfde met het nieuwe European AI Office, waarvoor druk wordt gezocht naar gekwalificeerd personeel.

Het toont een veel te beperkte blik op de digitale realiteit. Zoals uit het eerder genoemde Tech Trends Report juist blijkt, gaat het niet alleen om AI: de ‘tech super cycle’ ontstaat door een vrijwel gelijktijdige doorbraak van diverse technologieën, zoals naast AI ook bioengineering (inzendingen voor een goede Nederlandse vertaling zijn zeer welkom!), web 3, metaverse en robotica, om er slechts een paar te noemen.

Het zou daarom beter zijn om een toezichthouder voor digitale technologie op te zetten die vergelijkbaar is met het Europese Geneesmiddelen Agentschap EMA of de Amerikaanse luchtvaartautoriteit FAA. Niet dat het bij de FAA vlekkeloos gaat op dit moment, verre van, maar de FAA heeft er tientallen jaren voor gezorgd dat de luchtvaart de veiligste vorm van transport is.

Juist het laten versoepelen van het toezicht, in combinatie met de hebzucht van het Boeing-management, heeft schrijnende situaties veroorzaakt zoals Boeing-personeel dat zei zelf nooit de 787 te willen vliegen. Het is precies de situatie die moet worden vermeden bij digitale technologie, waar al veel voormalig personeel vol op het orgel gaat over wantoestanden en mismanagement met grote maatschappelijke gevolgen.

Spotlight 9: slechte week voor AI, maar wat brengt komende week?

Het was een week van flinke correcties na een extreem enthousiast begin van het jaar in techaandelen en in crypto. Bitcoin verloor 5% en Ethereum liefst 10%. Mijn compleet verzonnen AI Spotlight 9, ofwel negen aandelen waarvan ik denk dat ze profiteren van de ontwikkelingen op AI-gebied, kreeg ook forse tikken.

Over crypto citeer ik graag opnieuw Yuval Noah Harari, dit keer bij de Daily Show: “Geld is het grootste verhaal dat ooit verteld is. Het is het enige verhaal waar iedereen in gelooft. Als je ernaar kijkt, heeft het op zichzelf geen waarde. De waarde komt alleen voort uit de verhalen die we erover vertellen, zoals elke cryptocurrency-goeroe of Bitcoin-enthousiasteling weet. Het draait allemaal om het verhaal. Er is niets anders. Het is gewoon het verhaal.”

Mediacriticus Jeff Jarvis gelooft niets van de onheildstijdingen over snel voortschrijdende technologie en schold mensen als investeerder Peter Thiel en ondernemers Elon Musk en Sam Altman zelfs uit. Het was opvallend om Jarvis tegen te komen in één van mijn favoriete sportpodcasts. Jarvis beseft blijkbaar niet dat alleen al zijn optreden in deze sportshow om te praten over AI, de invloed van technologie op het dagelijks leven onderstreept. Hij wordt niet uitgenodigd om te praten over de rol van perkament, troubadours en flessenpost.

Miljoentje, miljardje, biljoentje

Waar startups ooit begonnen in de garage van het ouderlijk huis, is met name AI het speelveld voor miljardairs. De normaliter mediaschuwe topinvesteerder Vinod Khosla (Sun, Juniper, Square, Instacart, Stripe etc) opende publiekelijk het vuur op Elon Musk nadat die een rechtzaak aanspande tegen OpenAI, niet geheel toevallig een investering van Khosla.

OpenAI topman Sam Altman schijnt nog steeds in gesprek te zijn voor zijn $7 biljoen kostende chip-project met het nieuwe $100 miljard staatsfonds MGX van Abu Dhabi, dat probeert met een reuzensprong een koploper op AI-gebied te worden. Schijnbaar heeft Altman ook gesproken met Temasek, een toonaangevend staatsfonds van Singapore. Deze gesprekken gaan over tientallen miljarden.

Laten we vanuit de bril van Harari kijken naar het verhaal van Nvidia. Dat biedt ontwikkelaars deze week een voorproefje van de nieuwe AI-chip. Hoe lang kunnen Nvidia en CEO Jensen Huang de kroon dragen als de dominante leverancier van AI-chips in de technologiewereld? Morgen loopt Huang het podium op in een ijshockeyarena in Silicon Valley om zijn nieuwste producten te onthullen. Zijn presentatie zal grote invloed hebben op de koersen van mijn AI Spotlight 9 in de komende weken en misschien zelfs maanden.

De houdbaarheid van een gigant

Betalingsverwerker Stripe, ook een investering van Khosla, meldde in de jaarlijkse lezenswaardige brief dat de gemiddelde duur dat een bedrijf in de S&P 500-index is opgenomen in de afgelopen decennia fors is gekrompen: het was 61 jaar in 1958 en nu is het 18 jaar. Bedrijven die niet mee kunnen doen in de digitale wereld hebben het zwaar. Door de enorme bedragen die op dit moment in technologie worden geinvesteerd, zal die ontwikkeling alleen versnellen.

Tot slot

In dat kader is het bijzonder leuk en interessant om te zien dat in Cleveland gouwe ouwe paddenstoelen complete huizen opvreten en vervuiling opruimen, zelfs PFAS. Misschien geen voorbeeld van Amy Webb’s bioengineering, eerder bio-remediatie, maar wel een hoopvol voorbeeld van hoe slimme mensen in samenspraak met de natuur complexe problemen weten op te lossen.

Een fijne zondag, tot volgende week!