Tag: Sora

Categorieën
AI technologie

AI-wedloop losgebarsten, gokken op startups, Google kwantumchip, tips en straathonden

Dit is waarschijnlijk de laatste nieuwsbrief tot zondag 19 januari, tenzij er begin januari net zoveel nieuws is als afgelopen week. Het is daarom een extra lange editie, die je gerust kunt lezen (als je wat van de links bezoekt) over meerdere dagen. 

Naast de gebruikelijke poging tot analyse van nieuws, dit keer een aantal tips voor meer efficiëntie in het nieuwe jaar, een samenvatting van de enquête over deze nieuwsbrief van vorige week en een paar lees- en kijktips tijdens de kerst. Tot slot vraag ik je aandacht voor een goed doel dat mij na aan het hart ligt: een bijdrage aan de medische behandeling van straathonden op Bali.

Google moet OpenAI haten

Het is geen toeval meer: elke keer dat Google met een nieuw product komt, lanceert OpenAI iets spectaculairs waarmee het alle aandacht trekt. Afgelopen week lanceerde Google Gemini 2, een zogeheten “Multimodal AI”, oftewel een vorm van kunstmatige intelligentie die informatie kan verwerken en integreren uit bijvoorbeeld tekst, beeld, spraak en video. 

The Verge benadrukt het interview met Google’s AI-voorman Demis Hassabis, terwijl VentureBeat een uitgebreide analyse publiceerde. Gemini 2 is ronduit bijzonder, zo niet spectaculair. Probeer het zelf door een video te uploaden, of door live je scherm te delen (voor de durfal), of je webcam. 

Ik gebruikte de webcam, vroeg en kreeg tips hoe ik mijn werkplek kon verbeteren (bureau iets draaien en een lamp van voren plaatsen) en bevestiging dat de boom achter me in de tuin een bananenboom was. Ook het genereren van timecodes en beschrijvingen bij oude video’s werkte feilloos.

Marques Brownlee testte juist Sora van OpenAI uitvoerig. Op X deelde hij een aantal video’s die hij met Sora genereerde, waarbij vooral de nieuwsreportage angstig goed gelukt is. Zijn volledige recensie is hier te zien. Het is zoals gebruikelijk bij Brownlee een aanrader om te bekijken. Sora roept niet alleen allerlei ethische vragen op maar blijkt mogelijk getraind met game-content, wat juridische gevolgen kan hebben.

Overigens werd gisteren het droevige nieuws bekend dat de 26-jarige Suchir Balaji, een klokkenluider in de aanzwellende golf van rechtszaken tegen OpenAI over auteursrechtschendingen, zich van het leven heeft beroofd. 

Een ezel met vijf poten

De lancering van Sora, dat helaas nog niet in Nederland beschikbaar is, vond plaats in een periode van twaalf dagen waarin OpenAI elke dag iets nieuws presenteert, onder de bedroevende slogan ‘12 Days of Shipmas.’ Hopelijk een naam die is gegenereerd met AI, anders moeten we een kaarsje branden voor de marketeer die ermee op de proppen kwam. 

Aangezien OpenAI en Google zo hoog opgeven over hun multimodale kwaliteiten en de eerste tests met video zeer bemoedigend zijn, verwachtte ik dat ze ook geen moeite zouden hebben met een test van een foto op z’n janboerenfluitjes. 

Image created with Midjourney.

Ik vroeg Google Gemini Advanced 2.0 Flash Experimental, ook een heerlijke naam, of er iets mis was met bovenstaand plaatje dat ik genereerde met Midjourney met de prompt ‘een man, een vrouw, een pasgeboren baby en een ezel, tweeduizend jaar geleden in het Midden-Oosten.’ 

Google Gemini 2.0 zag direct dat er van alles aan het beeld mankeerde:

“De afbeelding die u hebt verstrekt, toont de traditionele kerststal, een religieuze voorstelling van de geboorte van Jezus Christus. Er zijn echter enkele historische onjuistheden in de afbeelding:

  • Palmboom: Palmbomen zijn niet inheems in Bethlehem, dat zich in het Midden-Oosten bevindt. Het klimaat in Bethlehem is gematigder en zou de groei van palmbomen niet ondersteunen.
  • Ezel: Hoewel ezels in het oude Judea gebruikelijk waren, werden ze voornamelijk gebruikt voor werk en transport. Het is minder waarschijnlijk dat er een ezel in de stal aanwezig zou zijn geweest tijdens de geboorte van Jezus.
  • Architectuur: De architectuur van de gebouwen op de achtergrond is mogelijk niet volledig accuraat voor de periode waarin Jezus werd geboren.
  • Het is belangrijk om te onthouden dat de kerststal een symbolische voorstelling is en niet bedoeld is als een historisch nauwkeurige weergave van de gebeurtenis.”

Google en OpenAI allebei ziende blind

Op zich knap dat Google direct herkende dat het ging om een beroemde Bijbelse scène, al had ik alle religieuze connotatie in de prompt bij Midjourney juist vermeden. Ook scherp erop te wijzen dat er weinig palmbomen zijn in Bethlehem en dat de architectuur misschien niet volledig klopt. Het ontbrak er nog aan dat Google twijfels uitte over de kwaliteit van het metselwerk en de matig dekkende verf op de muur van de stal. 

Wat vooral opvallend was: zelfs na meerdere keren specifiek vragen of er iets vreemds te zien was aan de ezel, zag Google niet dat het arme beest vijf poten had. Ook ChatGPT 4o zag niet dat dit een hele bijzondere ezel was; dat zag het pas na specifiek te vragen hoeveel poten de ezel had. Midjourney genereerde meer zielige ezels. Het is typerend voor de stand van AI: het is vaak raak, en soms volledig mis.

Apple kleunt mis 

Inmiddels heeft Apple het paradepaardje Apple Intelligence uitgebracht met voor zo’n kwaliteitsbedrijf zeer matige resultaten. Zo toonde de iPhone van een verslaggever de door Apple Intelligence gegenereerde melding dat de New York Times zou hebben bericht dat de Israelische premier Netanyahu was gearresteerd. De BBC zou volgens Apple Intelligence hebben gemeld dat de verdachte van de moord op de CEO van een Amerikaanse verzekeraar de hand aan zichzelf had geslagen. 

Hallucineren, of wishful thinking door Apple Intelligence?

Alleen: dat hadden de New York Times en de BBC helemaal niet gemeld. Oepsie. Het zou goed zijn als vooral de leidende techbedrijven iets meer tijd nemen om hun producten te testen. Nu lijkt het alsof het eerste jaar van elk product in feite de wereldwijde beta-test is.

Goed gebruik van AI

Er komen, ondanks de fouten van de grote spelers, steeds vaker nuttige AI-toepassingen op de markt voor specifieke doelen. Zo is in Engeland een verkeerscamera in gebruik genomen die wordt omschreven als een “state-of-the-art Heads-Up machine”, een naam die waarschijnlijk is bedacht door de bedenker van Shipmas. De camera geeft op basis van een analyse van het rijgedrag van weggebruikers, ik vermoed in elk geval slingeren, of nummers van Ali B mee-rappen, een advies aan de politie om bepaalde auto’s aan te houden. 

Een andere toepassing van AI waar de samenvatting direct iets aan heeft, is een programma in de VS waardoor er een 21% hogere kans is dat borstkanker wordt ontdekt. Ook in Engeland wordt AI succesvol toegepast om vormen van borstkanker te detecteren die het menselijk oog ontgaat.

Pudding tegen de muur gooien

De uitdaging van tech-startups is om de techniek goed te krijgen, hetgeen al lastig genoeg is, en om vervolgens die technologie om te zetten in producten voor de juiste markt. Hoe moeilijk dat is, wordt bevestigd door de desastreuze resultaten van het investeringsfonds Tiger die zijn uitgelekt:

  • Geïnvesteerd in 315 startups in één jaar
  • Afgewaardeerd van $93 miljoen naar $65 miljoen
  • Negatieve 15% IRR (prestaties in de onderste tien procent)

Wie investeert in honderden startups in een jaar is meer aan het gokken, of zoals Amerikanen het noemen: spray and pray, de financiële variant van pudding naar de muur gooien in de hoop dat er iets blijft kleven. 

Cruise rijdt niet verder

Toevallig is er een startup die wedden tot businessmodel heeft verheven: Polymarket. Nadat de weddenschappen op deze site beter bleken te kloppen dan geavanceerde opiniepeilingen van de Amerikaanse presidentsverkiezingen, is de ster van CEO Shayne Coplan snel gestegen. Coindex maakte dit portret van Coplan. In cryptokringen wordt Polymarket geroemd als voorbeeld van een toepassing van crypto die een keer niet is gericht op vervanging van het huidige banksysteem.

Multinationals gokken uiteraard ook op startups. General Motors kocht in 2016 voor een miljard dollar de drie jaar oude startup Cruise, die technologie ontwikkelde voor zelfrijdende auto’s. Vervolgens gooide GM er nog $3.5 miljard tegenaan, om er deze week de stekker uit te trekken. Cruise-oprichter Kyle Vogt was er op X duidelijk over: “GM are a bunch of dummies.” 

Ik heb Cruise altijd op de voet gevolgd, nadat ik bijna tien jaar geleden de kans afwees om via een syndicaat in de seed ronde van Cruise te investeren. “Te vroeg”, was mijn korte oordeel. Uiteraard werd Cruise dus binnen twee jaar voor een miljard gekocht door General Motors. Cruise illustreert hoe lastig het is om de waarde van startups goed in te schatten: vanuit technologisch en product-perspectief klopte mijn oordeel dat het nog wel een decennium kon duren voor zelfrijdende auto’s grootschalig worden gebruikt. 

Ik kreeg nog wel de felicitatie-mail, heel fijn.

Alleen is de marktrijpheid niet altijd bepalend voor de waarde van een innovatie. GM kan niet innoveren en dus was de koop van Cruise voorspelbaar. Als investeerder had ik op die manier moeten denken; als groot gelovige in zelfrijdende auto’s en iemand die zelf geen auto bezit, blijf ik wachten op het heuglijke moment dat auto’s op afroep beschikbaar worden, zoals pizza’s. Voor het team van Cruise is het onvoorstelbaar droevig dat een decennium werk feitelijk wordt weggegooid.

Google kondigt revolutionaire kwantumchip aan

Onderzoekers bij Google hebben een nieuwe kwantumchip ontwikkeld genaamd Willow, een belangrijke mijlpaal in de zoektocht naar kwantumcomputers. Het experiment, vorige week beschreven in Nature, laat zien dat kwantumcomputers, met de juiste technieken voor foutcorrectie, berekeningen kunnen uitvoeren met toenemende nauwkeurigheid naarmate ze worden opgeschaald, waarbij de snelheid van deze verbetering een cruciale drempel overschrijdt. De huidige kwantumcomputers zijn nog te klein en te foutgevoelig voor de meeste commerciële of wetenschappelijke toepassingen.

Het belang van deze technologie wordt fenomenaal uitgelegd door Ray Harishankar: kijk vanaf minuut 35:05 naar zijn toegankelijke uitleg in dit panel tijdens ATX Singapore van vorig jaar. Er is veel discussie over hoe acuut het gevaar is dat kwantumcomputers alle wachtwoorden kunnen ontcijferen en Bitcoin kunnen kraken. Dat het in theorie kan, is duidelijk; de vraag is wanneer en hoeveel rekenkracht (en kosten) het vergt. Forbes kwam met een heldere analyse.

Nieuwe app van oprichter Twitter en Medium: Mozi

Telkens wanneer het erop lijkt alsof er te veel sociale media zijn, komt er een nieuwe bij. De meeste floppen uiteraard, maar Ev Williams stond eerder aan de wieg van Blogger, Twitter en Medium dus zijn nieuwe app Mozi verdient alle aandacht. Het idee van Mozi is dat je met bekenden kunt afspreken op plekken waar je elkaar misschien niet verwacht. Je deelt feitelijk je toekomstige locatie.

Qua marketingspeak zit het wel goed met Mozi: het wordt omschreven als ‘A Place For Your People’ en de slogan luidt ‘See You Sooner.’ De investeerder (bij Google Ventures) M.G. Siegler, toen hij nog met een pen als een scheermes schreef bij Techcrunch schreef beter bekend als Paris Lemon, oordeelt hard: hij vindt het niets. Ik vind het idee wel aardig, dus als je mij en andere bekenden en vrienden wilt vinden op Mozi, dit is de link. 

Vrijheid van meningsuiting op internet in 2024.

Zelf had ik een apart probleem met dat andere bedrijf van Ev Williams, Medium. Het bedrijf, dat er prat op gaat een medium te zijn voor vrije expressie, bleek mijn nieuwsbrieven te censureren omdat ze links bevatten naar Coinmarketcap, de website met cryptoprijzen. Medium weigerde simpelweg mijn nieuwsbrieven uit te sturen, omdat Coinmarketcap gebruikt zou zijn voor spam. Dat is even absurd als nieuwsbrieven weigeren die linken naar het KNMI, omdat je een hekel hebt aan het weerbericht. Inmiddels is de situatie verholpen, maar ik ben begonnen met publiceren op Substack. Het is dezelfde nieuwsbrief als je nu leest, alleen dan in het Engels en zonder flauwe grappen over Ali B. Die gaan in de Engelse versie over Diddy.

Let op het totale gebrek aan excuses aan een betalende klant.

Enquete resultaten

Er waren veel meer  reacties op de enquête van vorige week dan ik had verwacht, waarvoor dank! De conclusies en aanbevelingen zijn helder, maar om ze enigszins te duiden is het belangrijk te bedenken dat veel lezers van deze nieuwsbrief een specifiek profiel hebben. Dat geldt zowel voor de Nederlandse versie als de Engelstalige versie op LinkedIn. 

Ik bereik nog weinig studenten.

Het percentage oprichters van startups, eigenaren, CEO’s en board members is disproportioneel hoog (bijna 25%) en ook uit de reacties die ik krijg via e-mail blijkt veel interesse voor financiering en beleggen. Alleen bestaat er onder veel andere lezers van deze nieuwsbrief voor deze onderwerpen veel minder belangstelling. Hoewel ik uiteraard nog steeds schrijf op basis van wat me tijdens de week is opgevallen, vind ik het wel aardig om daaruit de onderwerpen te kiezen die lezers interessant vinden. Dat blijft lastig, daarom waren de reacties uit de enquête zeer behulpzaam:

  • ruim de helft van de lezers die reageerden stelt prijs op werktips waar ze iets aan hebben 
  • voor berichtgeving over startups is veel minder interesse (minder dan 50%)
  • er is wel veel belangstelling voor AI, mag zelfs meer worden belicht
  • er is voldoende berichtgeving over crypto/Web3, geen behoefte aan meer
  • ook is er voldoende aandacht voor beleggen, geen behoefte aan meer 
  • slechts 12% zou vaker in de week een nieuwsbrief willen ontvangen
  • meer dan de helft heeft interesse in een podcast

Interessant is dat uit de ‘open suggesties’ weer heel andere geluiden klonken: ruim een derde daarvan vroeg om meer aandacht voor blockchain en tokenization. Van de lezers die geen bezwaar hadden om te worden genoemd, vroeg Stephan Fellinger om aandacht voor passief inkomen en Jeroen Verkroost opperde om juist meer aandacht te besteden aan startups, met name op AI-gebied, die door de lezers zouden kunnen worden geholpen: “Dat zou dan ook meteen mijn definitie zijn van ‘Meer informatie waar je zelf iets aan hebt in je werk’. En we steunen zo mogelijk ondernemers met zijn allen. Hoe mooi is dat.”

Een andere suggestie waar ik zeker iets mee ga doen, is om wekelijks een paar vragen te stellen aan specialisten uit mijn netwerk. Ik stel voor dat interactief te maken: welke vragen zou je graag beantwoord zien? Mail mij die vragen en ik stel ze aan iemand, in Nederland of internationaal, die hierop hopelijk een zinvol antwoord heeft. 

Tip voor hogere efficiëntie in 2025

Laat ik een aanbeveling uit de enquête ter harte nemen en mijn belangrijkste werktip delen. Dat is geen slimme app, moeilijke AI-tool of snuggere lifehack. Nee; ik heb al ruim tien jaar geen enkele notificatie aan staan op mijn telefoon. Nadat ik in het BlackBerry-tijdperk hoorndol werd van het rode lichtje dat een nieuwe e-mail aangaf, besloot ik eenmaal overgestapt op een iPhone zoveel mogelijk notificaties uit te zetten. Zelfs voor Buienradar, de Nederlandse versie van digitale heroïne. 

Dennis Rijnvis beschreef hoeveel minder productief je bent als je continu wordt gestoord door anderen – of door jezelf. Er is online een leuke tool, de Trail Making Test, waaruit gelijk blijkt hoeveel lastiger het is om taken door elkaar heen te doen. Maar je kunt dit ook doen met een collega of partner: 

  • klok hoe lang het duurt om de cijfers 1 tot en met 26 op te schrijven
  • meet vervolgens hoe lang het duurt om het alfabet uit te schrijven
  • tel de twee tijden bij elkaar op
  • meet tenslotte hoe lang het duurt om 1a, 2b, 3c, 4d, 5b etc uit te schrijven tot je bent bij 26Z

Ik vond het resultaat verbijsterend en ik ben notabene afgestudeerd op interactieve media. Daarin was duidelijk te weinig aandacht voor de verslavende, afleidende effecten.

De grootste misvatting van deze tijd is dat veel mensen denken dat je direct, of minimaal erg snel, moet antwoorden op berichten. Dat is niet zo. Het onaangekondigde telefoongesprek is juist vrijwel uitgestorven, omdat het niet handig is als mensen die communiceren dat tegelijkertijd moeten doen. Gebruik de voordelen van asynchrone communicatie en check je telefoon eens per half uur. Je collega’s, je partner, vrienden, kinderen, ouders, ja zelfs de buurtapp; niemand maalt erom als je antwoordt na een half uur of een uur. We zijn allemaal veel minder belangrijk dan we denken.

Lees- en kijktips voor de kerstperiode

Hier een aantal kijk- en luistertips voor bij de oliebollen:

  • Een uitgebreide blik achter de schermen bij OpenAI rond de lancering van ChatGPT twee  jaar geleden; en een blik vooruit. Elk bedrijf is een matig georganiseerde chaos en een startup is per definitie een bende die zijn weg probeert te vinden. OpenAI ook, alleen opgezadeld met een zelfbeeld van sekteleiders. Om met Wim Kieft te spreken: ‘Ze zijn wel erg in zichzelf gaan geloven; vermoeiend.’
  • Koop en lees de debuutroman van prettig mens en trouwe lezer van deze nieuwsbrief, Nart Wielaard, over AI: Pijnloos Prikkeldraad. In deze roman stelt Wielaard noodzakelijke vragen over hoe kunstmatige intelligentie grip op de wereld krijgt en hoe de mens daardoor ‘machinale’ trekjes dreigt te ontwikkelen.
  • Waarom AI de browser gaat opeten. “Voor de meesten van ons is het moeilijk om ons een leven zonder internetbrowser voor te stellen. Maar nu AI informatie uit tekst, video en muziek opsplitst in unieke, opnieuw combineerbare AI-chatbot-antwoorden, is het voor mij duidelijk dat de browser zich in het komende decennium zal moeten aanpassen of zal verdwijnen.” Een kenmerkend sterk essay van voormalig journalist,  nu investeerder, Om Malik.
  • Nog een mooi inkijkje achter de schermen bij een bijzondere startup: OpenSea. Onthullingen over een chaotische werkomgeving, voortdurend veranderende prioriteiten en problemen met de SEC.  
  • Ik val in herhaling, maar wil benadrukken dat kwantumcomputing heel belangrijk wordt, ook als je denkt dat je er niet mee te maken krijgt: kijk de uitleg van Ray Harishankar over het belang van kwantumcomputers (vanaf minuut 35:05). Kost een paar minuten en net als ik begrijp je dan nog misschien niet hoe het werkt, maar wel waarom het zo belangrijk is.

Dit zijn slechts twee van de duizenden honden die Rhonda Lepsch van een wrede dood heeft gered

Tot slot: mijn kerstwens

Deze nieuwsbrief is en blijft gratis, want ik schrijf hem om zelf op de hoogte te blijven; en toegegeven, ook vanuit een gebrek aan bescheidenheid, in de waan dat mensen het leuk of interessant vinden mijn mening te lezen. 

Ik zal nooit om tips, abonnementen of een donatie voor mezelf vragen; maar ik vraag je wel vriendelijk om deze bijzondere vrouw te steunen bij de betaling van haar rekening bij de dierenarts: Rhonda Lepsch, van JSP. Je kunt Rhonda hier volgen op Instagram.

Rhonda is Amerikaans, getrouwd met een Balinees en al jaren woonachtig op Bali. Vanaf het prille begin op het eiland hielp ze straathonden. Veel mensen dumpen (letterlijk) zieke honden bij haar in de wetenschap dat Rhonda geen honden kan wegsturen. Ze laat ze op eigen kosten vaccineren, steriliseren en neemt zelf de ziekste honden in huis, die niemand wil hebben. Hoe mank, blind, doof of lelijk ze ook zijn: voor Rhonda is elke hond even bijzonder.

Help honderden, zo niet duizenden honden

Het zal je niet verbazen dat Rhonda fantastisch is met honden, al zegt ze zelf dat ze alles heeft geleerd van haar trainingen bij Cesar Milan. In elk geval heb ik van haar geleerd hoe ik met ons eigen straathondje Nala moet omgaan, die we vorig jaar meer dood dan levend voor onze deur vonden.

Inmiddels zorgt Rhonda zelf dagelijks voor 87 honden, waarvan er 25 honden wonen in het duikcentrum van haar man, dat helaas failliet ging tijdens de Covid-pandemie. Ze doet dit uit eigen zak, door mensen zoals ik te trainen om goed voor hun hond te zorgen. 

Maar daarnaast betaalt Rhonda dus ook nog de vaccinaties en sterilisaties van straathonden en daarvan lopen de kosten enorm op. Juist dit werk is enorm belangrijk: natuurlijk is het goed om een straathond te adopteren, zoals wij hebben gedaan, maar door Rhonda te steunen zorg je eigenlijk voor veel meer honden. Want gevaccineerde, gezonde straathonden kunnen op Bali een goed leven hebben. Helaas hebben ongevaccineerde, zieke hondjes weinig kans en maken ze kans om te eindigen als sate.

Op dit moment staat het water Rhonda helaas aan de lippen. Ze heeft dit jaar zoveel straathonden geholpen dat de openstaande rekening bij de uitstekende dierenarts Sunset Vet al vijfduizend dollar bedraagt. Daarom kan Rhonda er geen dieren meer laten helpen. 

Je kunt Rhonda en de honden op Bali steunen door te helpen de rekening te betalen bij Sunset Vet. Als ze eenmaal boven nul komt, wordt het saldo door de kliniek uitsluitend gebruikt voor medische hulp aan nieuwe hondjes die Rhonda brengt. Door Rhonda te steunen help je honderden, zo niet duizenden honden.

Zo kun je helpen

  • klik hier voor het donatieformulier van de dierenarts Sunset Vet
  • heel belangrijk: vul in de omschrijving: “for JSP”. Alleen dan wordt jouw donatie gebruikt voor Rhonda’s rekening
  • kies het bedrag dat je wilt doneren
  • kies voor PayPal of een debitcard of creditcard

Mijn dank is nu al groot, ongeacht het bedrag dat je doneert. En als je niets doneert, geen enkel probleem, alleen hoop ik dan dat je gourmetstel het begeeft op kerstavond.

Ik wens jou en al je dierbaren alle geluk, liefde en gezondheid in 2025! Dank voor je belangstelling en tot volgend jaar.

Categorieën
AI technologie

Mooie ‘galerij van hoop’ en meer positiviteit over technologie

“Het is november 2025. De afstudeerdag van mijn zoon. Ik ben zo trots dat ik omringd ben door al mijn briljante kinderen.” Foto: Jillian Edelstein.

Laten we beginnen met positieve berichten, want door de miljarden waarmee wordt gegooid in AI gaat het al snel over bedrijfspolitiek of de ego’s die de bedrijven leiden. Waarbij vaak voorbij wordt gegaan aan de nieuwe toepassingen die ons leven op een positieve manier kunnen beïnvloeden.

Galerij van Hoop en AI-consensus

Daarom is de Galerij van Hoop, een tentoonstelling in Londen van herinneringen die nog moeten worden gemaakt, erg bijzonder. Hierin wordt met behulp van AI zieke mensen een blik geboden in hun toekomst die ze misschien niet zullen meemaken, zoals het bijwonen van de bruiloft van hun kind. Het is een waardevolle bijdrage van technologie aan de bewustwording van borstkanker en de bestrijding daarvan.

Er is meer positief nieuws over AI uit Engeland. Waar sociale media een kwalijke rol hebben gespeeld met desinformatie tijdens verkiezingen, wordt nu Polis ingezet, een door AI aangedreven hulpmiddel dat groepen met zeer uiteenlopende meningen in staat stelt om via stemmingen en discussie tot een consensus te komen. Het zou handig zijn om Polis ook te gebruiken bij de formatie en in de Tweede Kamer, in plaats van al die obligate toneelstukjes bij de interruptiemicroon, alleen bedoeld voor de camera’s en nooit om een ander te overtuigen. 

Interviewtip: Hassabis in plaats van Altman

OpenAI CEO Sam Altman was bijna twee uur te gast in de podcast van Lex Fridman, maar weinig kijkers zullen van het gesprek zijn opgeknapt. In de week dat bekend werd dat Altman de ronde maakt in Hollywood om Sora te promoten, de nieuwe dienst die uit tekstinstructies complete video’s kan genereren, bleef Altman erg vaag over de kwestie wie wordt betaald voor het gebruik door OpenAI van andermans werk als trainingsdata:

“We hebben enkele verschillende modellen geprobeerd. Maar als ik bijvoorbeeld een kunstenaar ben, A, zou ik graag de mogelijkheid willen hebben om ervoor te kiezen dat mensen geen kunst in mijn stijl genereren. En B, als ze wel kunst in mijn stijl genereren, zou ik graag een economisch model daaraan gekoppeld willen hebben.”

– Sam Altman, CEO OpenAI

Klinkt lief, maar Fridman vroeg niet verder over die zin ‘we hebben verschillende modellen geprobeerd.‘ Wat is er geprobeerd en met wie dan? Welke website, YouTuber of Instagrammer is betaald voor het feit dat OpenAI waarschijnlijk, want ook dat werd niet besproken, hun data heeft gekopieerd en ingevoerd in hun systeem? De filmstudios willen graag de gages van acteurs en crews beperken door Sora te gebruiken, maar hoe worden zij dan vergoed als hun werk op een slinkse manier wordt hergebruikt?

Supercar gemaakt door… Sora? Of toch Bugatti?

Kijk eens naar deze prachtige met Sora gemaakte video die OpenAI deelde op Instagram: zouden Bugatti en Audi hun toestemming hebben gegeven, laat staan gecompenseerd worden, voor de overduidelijk door deze merken geinspireerde beelden?

Een interessanter inkijkje in de gedachten van een leidende AI-ontwikkelaar dan de podcast met Altman is dit portret van Demis Hassabis, de baas van het AI-project bij Google. Alleen de intro is al speelfilmwaardig:

“Demis Hassabis staart intens door het scherm als ik hem vraag of hij Google kan redden. Het is vroeg in de avond in zijn geboorteland het Verenigd Koninkrijk en de oprichter van DeepMind werkt overuren. Zijn door Google overgenomen AI-onderzoeksinstituut leidt nu de volledige AI-onderzoeksinspanning van het bedrijf, na de inlijving van Google Brain afgelopen zomer, en de taak die voor hem ligt is immens.”

Google draait nog lekker

Het klopt dat OpenAI en andere slimme chatbots een existentiële bedreiging vormen voor Google, maar Gemini is zeker niet kansloos. Vooral omdat Gemini gratis kan worden ingezet terwijl OpenAI een abonnement moet vragen om te overleven, want het bedrijf heeft elk miljardje nodig. Die Altman is geen goedkope jongen, maar daar kom ik nog op terug. Naar de cijfers kijkend hebben de financiële prestaties van Alphabet, het moederbedrijf van Google, niet geleden onder de opkomst van OpenAI: 

Kwartaal | Omzet   | netto winst 
Q4 2022   | 76.05     | 13.62                    
Q4 2023   | 86.31     | 20.69                     

Dit zijn bedragen in miljarden dollars, waarmee de verwachte omzet van Alphabet dit jaar richting de driehonderdvijftig miljard dollar gaat. Dat is vergelijkbaar met het BNP van Colombia of Denemarken, dus de overlijdensberichten van Google zijn ietwat prematuur.

Ben ik overigens de enige die denkt, bij het lezen dat Hassabis een Chinees-Singaporese moeder heeft en een Grieks-Cypriotische vader: ‘wat leuk, hoe zullen die elkaar ontmoet hebben?’ 

Stemkloon nog even niet publiek, i.v.m. stemmen?

Terug naar OpenAI, dat bekend maakte een stemkloon-toepassing te hebben gemaakt, maar op dit moment alleen voor een selecte groep bedrijven, vanwege de gevaren van misbruik.

“We erkennen dat het genereren van spraak die lijkt op de stemmen van mensen ernstige risico’s met zich meebrengt, vooral belangrijk in een verkiezingsjaar,” aldus OpenAI, dat beweert dat het de stem van iemand kan nabootsen met slechts vijftien seconden opname van een persoon die praat.

Er wordt al onderzoek gedaan naar een incident waarbij duizenden kiezers tijdens de Democratische voorverkiezingen in New Hampshire ‘robocalls’ ontvingen van president Biden – tenminste, dat dachten ze, want hij was het niet. Al kan Biden zich ook vergist hebben, wat regelmatig schijnt te gebeuren.

Volgens ChatGPT gaat Stargate er zo uitzien. 

Een datacenter van honderd miljard

De fenomenale site The Information had weer een primeur: Microsoft en OpenAI werken aan een datacenter van liefst honderd miljard dollar voor een AI-supercomputer met de heerlijk pretentieuze naam Stargate. Dit in een poging de afhankelijkheid van Nvidia te verminderen.

Nauwkeuriger lezend valt de wijze van afronden op door de journalisten die erover berichten: blijkbaar wordt gerekend op koste van ‘meer dan honderdvijftien miljard dollar’, maar dat kopt minder lekker en daarom wordt omlaag afgerond naar honderd miljard. Voor die vijftien miljard achter de komma kunnen normaal gesproken dertig joekels van datacenters worden gebouwd. In AI is alles groter en duurder; maar een paar honderd keer duurder?

Elon Musk en Amazon zijn er ook nog

Musk maakte op X bekend dat zijn nieuwste AI-chatbot, Grok 1.5, volgende week beschikbaar is en beter wordt dan alle AI-modellen, maar dat zei hij bij de presentatie ook over de kwaliteit van de Tesla Cybertruck voordat enkele seconden later het raam verbrijzelde. Kortom, we gaan het zien.

Amazon maakte bekend bijna drie miljard dollar te investeren in OpenAI-concurrent Anthropic, maker van AI-chatbot Claude. Ik genoot van de manier waarop de Amazon-man de journalist nauwelijks de kans bood een vraag te stellen en zijn hele persbericht opdreunde, ogenschijnlijk zonder te ademen. Je ziet hem lachen.

Open source AI-model: Databricks

In het titanengevecht tussen OpenAI/Microsoft, Google, Amazon en Meta is het prettig dat startup Databricks erin is geslaagd een krachtig open source AI-model te ontwikkelen. Hopelijk blijkt dit een serieuze optie voor startups en grote bedrijven om zonder afhankelijkheid van de Big Tech titanen nieuwe AI-applicaties te ontwikkelen.

Laatste opvallende feit: tussen alle oproepen voor software startups bij de leidende startup incubator Y Combinator, de oud-werkgever van Sam Altman, stond een oproep om ouderwetse productie terug te halen naar de Verenigde Staten. Het is inderdaad wel handig als mensen iets kunnen bouwen, wanneer er ruim honderd miljard in een nieuw soort datacenter wordt gestopt. Daarin heeft Elon Musk gelijk: er is heel veel aandacht voor ontwerp, maar te weinig voor productie. Microsoft en OpenAI gaan dat ervaren als ze daadwerkelijk een megadatacenter in combinatie met een supercomputer gaan bouwen. Dat is iets heel anders dan een grote X-Box.

Spotlight 9: Cathie Wood reddende engel Tesla

Een oersaaie beursweek, waarin Tesla opeens stijgt na een gruwelkwartaal

In een tot dusver dramatisch jaar, waarin Tesla bijna dertig procent verloor van de beurswaarde en daarmee het slechtst presterende aandeel werd in de S&P 500, steeg het aandeel TSLA deze week opeens ruim vijf procent.

Cathie Wood’s Ark Innovation kocht op maandag voor achtentwintig miljoen dollar TSLA en alsof dat nog niet genoeg was, sloeg Ark op donderdag nog wat aandelen Tesla in voor veertien miljoen dollar. Eerder deze maand publiceerde Ark een juichende analyse van Tesla waarop Musk op X kort reageerde met: ‘wow.’

Ark Invest heeft ongeveer evenveel haters als fans maar durft in elk geval met opvallende publieke bespiegelingen te komen. Hopelijk krijgt Ark gelijk met deze optimistische blik op de nabije toekomst:

“Techno-economische discontinuïteit is een proces waarbij technologische doorbraken plotselinge en ongekende transformaties teweegbrengen. Dergelijke discontinuïteiten deden zich voor tijdens de tweede industriële revolutie na de introductie van de verbrandingsmotor, elektrificatie en telefonie. Wij geloven dat er nu een soortgelijke, ongekende technologische bloei aan de gang is. ARK identificeert vijf innovatieplatforms – Publieke Blockchains, Multiomische Sequencing (simultane analyse van verschillende typen data in moleculaire biologie, aldus ChatGPT – MF), Energieopslag, Robotica en Kunstmatige Intelligentie – als de gebieden van technologische fermentatie die vandaag de meest betekenisvolle convergenties creëren. Het zijn de opkomende “algemene doeltechnologieën” waarvan wij geloven dat ze economische groei zullen transformeren en versnellen.”

– Ark Invest

Dat is een erg positieve visie, maar wel sterk gericht op economische vooruitgang. Als deze economische groei gepaard kan gaan met de ontwikkeling van technologie die grootschalige verwijdering van CO2 uit de atmosfeer mogelijk maakt, is er hoop voor de wereld.

Ik hoor graag je reactie en tips en opmerkingen zijn altijd zeer welkom.

Fijne zondag, tot volgende week!

Categorieën
AI crypto technologie

Harari: voor het eerst weet niemand hoe de wereld er over 20 jaar uitziet

Yuval Noah Harari was te gast bij Stephen Colbert en dat leidde tot een onverwacht relevant gesprek voor een talkshow op de late avond.

Harari: “Ik ben historicus. Maar ik zie geschiedenis niet als de studie van het verleden. Het is eerder de studie van verandering, van hoe dingen veranderen, wat het relevant maakt voor het heden en de toekomst.”

Colbert: “Gaan we op dit moment echt door een versnellende verandering?“

Harari: “Elke generatie denkt dat. Maar deze keer is het echt. Het is de eerste keer in de geschiedenis dat niemand enig idee heeft hoe de wereld er over twintig jaar uit zal zien. Het enige wat je moet weten over AI, het belangrijkste wat je moet weten over AI, is dat het de eerste technologie in de geschiedenis is die zelfstandig beslissingen kan nemen en zelf nieuwe ideeën kan creëren. Mensen vergelijken het met de drukpers en met de atoombom. Maar nee, het is totaal anders.“

Technologie die zelf beslissingen neemt

Misschien is mijn fascinatie voor het werk van Harari, vooral bekend als auteur van Sapiens, ingegeven door het feit dat ik zelf geschiedkundige ben (communicatiegeschiedenis), maar die opleiding juist als meest zinvol heb ervaren bij het inschatten van nieuwe technologische innovaties. Harari bevestigt het idee dat velen van ons hebben, dat de huidige technologie een compleet andere, indringender en veelomvattender innovatie behelst dan alles wat de wereld tot nu toe heeft gezien.

Met zijn conclusie dat AI een geheel nieuwe technologie is, juist omdat wellicht al de volgende generatie AI zelf beslissingen kan nemen, legt Harari de vinger op de zere plek en hij doet dat uitgerekend in de week dat Amy Webb de nieuwe editie van het toonaangevende Tech Trends Report presenteerde met als thema ‘Supercycle’. (Hier is het rapport verkrijgbaar en dit is de video van Webb’s presentatie tijdens SXSW).

Supercycle

Webb: “Wij geloven dat we een technologie-supercyclus zijn binnengegaan. Deze golf van innovatie is zo krachtig en alomtegenwoordig dat het belooft het weefsel van ons bestaan te hervormen, van de complexiteiten van wereldwijde toeleveringsketens tot de details van dagelijkse gewoonten, van de gangen van de macht in de wereldpolitiek tot de onuitgesproken normen die onze sociale interacties beheersen.”

– Amy Webb, CEO Future Today Institute

Webb meent, net als Harari, dat technologie ons hele leven sterker dan ooit zal beïnvloeden.

Het gezicht dat OpenAI CTO Mira Murati trok na de simpele vraag: ‘hebben jullie YouTube video’s gebruikt om het systeem te trainen?’

OpenAI CTO zei ‘kweenie’

Als Harari en Webb gelijk hebben is het des te stuitender wat Mira Murati, de veelgeprezen Chief Technology Officer van OpenAI, maker van ondermeer ChatGPT, eruit flapte tijdens een interview met de Wall Street Journal. De vraag was simpelweg of OpenAI beelden van YouTube heeft gebruikt bij het trainen van Sora, de nieuwe tekst-naar-videodienst van OpenAI.

Nu staat OpenAI onder druk bij dit onderwerp, omdat de New York Times een rechtzaak is gestart tegen het vermeend onrechtmatig gebruik van hun informatie bij het trainen van ChatGPT. Dus deze vraag verkeerd beantwoorden kan eventueel een nieuwe zaak uitlokken van de eigenaar van YouTube en dat is uitgerekend Google, de grote concurrent van OpenAI.

Murati had deze vraag uiteraard moeten verwachten en een veel beter antwoord kunnen geven dan het verwrongen gezicht dat ze nu trok, in combinatie met het uitkramen van wat slappe teksten die samengevat kunnen worden als ‘mij niet bellen.’ Het is van een bedroevend niveau in een periode vlak nadat OpenAI al een heus koningsdrama beleefde rond CEO Sam Altman.

Deze mensen ontwikkelen technologie die zelf beslissingen kan nemen en zijn ongetwijfeld technisch en intellectueel van buitengewoon niveau, maar missen als mens de levenservaring en het inschattingsvermogen om te beseffen welke invloed hun technologie op de samenleving kan hebben.

Je auto werkt voor je verzekeraar?

Het is ronduit wonderlijk dat Zuckerberg nog kan slapen na het Cambridge Analytica schandaal, wat een consequentie is van het uitventen van onze privacy voor financieel gewin. Het zijn inmiddels niet alleen de grote techbedrijven die zich schuldig maken aan dit omzetmodel, zelfs autofabrikanten zijn toegetreden tot het gilde van privacy uitventende hufters.

LexisNexis, dat profielen van consumenten opbouwt voor verzekeraars, blijkt van kopers van auto’s van General Motors te beschikken over elke rit die was gemaakt, inclusief wanneer ze te hard reden, te hard remden of te hard optrokken. Met als gevolg: hogere verzekeringspremies. Alsof je nog een extra reden nodig had om nooit een auto te kopen van deze fabrikant van fantasieloze, identiteitsloze vehikels.

Google Gemini doet niet aan verkiezingen

Mede door de druk van de beurskoers zien techbedrijven zich gedwongen om zo snel mogelijk matig geteste toepassingen op de markt te brengen. Denk aan Google met Gemini, dat zo politiek correct wilde zijn dat het zelfs nazi’s afbeeldde van Aziatische komaf. Lief bedoeld, maar totaal zinloos.

Dit fiasco leidde tot zoveel ophef dat Google dinsdag bekend maakte dat Gemini geen informatie verstrekt over alle verkiezingen die dit jaar wereldwijd plaatsvinden. Sterker nog: zelfs op de onschuldige vraag ‘in welke landen vinden dit jaar verkiezingen plaats?’ antwoordt Gemini nu: ‘Ik ben nog aan het leren hoe ik deze vraag moet beantwoorden.’ Parrrrdon?

Google Gemini weet wel alles van Super Mario

Zoek in de zoekmachine van Google en je komt gelijk bij een artikel van Time dat begint met de zin: ‘2024 is niet zomaar een verkiezingsjaar. Het is wellicht *het* verkiezingsjaar.’ Volgens ChatGPT vinden dit jaar verkiezingen plaats in de VS, Taiwan, Rusland, de Europese Unie, India en Zuid-Afrika; in totaal kan 49% van de wereldbevolking dit jaar naar de stembus.

Bij het verstrekken van zinvolle informatie over de toekomst van de planeet moet je dus niet bij Google Gemini zijn. Gelukkig krijg ik wel een heerlijk politiek correct antwoord op mijn zuigende vraag: ‘Did Princess Peach really need to be rescued by a white man? Wasn’t Super Mario just being a male chauvinist?’ Bij het lezen van het antwoord bekruipt me het gevoel dat Google Gemini door goedwillende mensen is gevoed met een totaal absurd wereldbeeld. Het goede antwoord zou zijn geweest: ‘Super Mario is een computerspel. Het is niet echt. Ga je ergens anders druk over maken, idioot.‘

Anti-monarchisten beweren dat aan deze foto is geknutseld. Ik ontken alles.

Over prinsessen gesproken, er is er eentje die beweert dat ze, net als wij gewone stervelingen, weleens zelf foto’s bewerkt. Tenminste, dat zegt het X-account uit naam van prinses Catherine en prins William. Het hele fiasco vestigt niet alleen de aandacht op de problematiek rondom de echtheid van foto’s, maar toont ook aan dat er behoefte is aan digitale authenticatie bij de verzending van digitale berichten. Het is handig als onomstotelijk zou vaststaan dat de prinses zelf het bericht verzond dat werd afgesloten met de letter C.

Hoe nu verder?

Wereldwijd wordt geworsteld met de omgang met en mogelijke regulering van de nieuwste generatie technologie, die ook een bron vormt van geopolitieke spanningen. Kijk hoe in China wordt gereageerd op het nieuws dat ASML overweegt uit Nederland te verhuizen.

Het mogelijke verbod op TikTok, of een gedwongen verkoop van de Amerikaanse tak van TikTok door eigenaar ByteDance, zal niet zo snel gaan als de berichtgeving van afgelopen week wellicht doet vermoeden. Het is overigens interessant wat er in India gebeurde toen TikTok er in 2020 werd verboden: de 200 miljoen Indiase gebruikers van TikTok gingen vooral over naar Instagram en YouTube.

India heeft deze week bekend gemaakt dat een voorgenomen wet die goedkeuring vereiste voor de lancering van AI-modellen, wordt ingetrokken. De wet zou volgens critici innovatie vertragen en de Indiase concurrentiepositie kunnen verslechteren; het economische argument wint vrijwel altijd.

De Europese Unie slaat zich op de borst dat de wet voor AI-regulering is goedgekeurd, maar het zal nog jaren duren voordat deze van kracht wordt. Het is onduidelijk hoe de wet consumenten en bedrijven zal beschermen tegen misbruik. Shelley McKinley, het hoofd juridische zaken van GitHub, onderdeel van Microsoft, vergeleek de Amerikaanse en de Europese aanpak als volgt:

“Ik zou zeggen dat de EU AI-wet een ‘basis van fundamentele rechten’ is, zoals je in Europa zou verwachten,” zei McKinley. “En de Amerikaanse kant is zeer gericht op cybersecurity, deepfakes – dat soort invalshoek. Maar op veel manieren komen ze samen om te focussen op wat risicovolle scenario’s zijn – en ik denk dat het nemen van een risicogebaseerde aanpak iets is waar wij voorstander van zijn – het is de juiste manier om erover na te denken.”

De luchtvaart als voorbeeld

Wetgevers neigen er vaak naar om een nieuwe toezichthouder in te stellen naar aanleiding van een incident, denk aan de Amerikaanse Department of Homeland Security na 9/11. De EU doet nu hetzelfde met het nieuwe European AI Office, waarvoor druk wordt gezocht naar gekwalificeerd personeel.

Het toont een veel te beperkte blik op de digitale realiteit. Zoals uit het eerder genoemde Tech Trends Report juist blijkt, gaat het niet alleen om AI: de ’tech super cycle’ ontstaat door een vrijwel gelijktijdige doorbraak van diverse technologieën, zoals naast AI ook bioengineering (inzendingen voor een goede Nederlandse vertaling zijn zeer welkom!), web 3, metaverse en robotica, om er slechts een paar te noemen.

Het zou daarom beter zijn om een toezichthouder voor digitale technologie op te zetten die vergelijkbaar is met het Europese Geneesmiddelen Agentschap EMA of de Amerikaanse luchtvaartautoriteit FAA. Niet dat het bij de FAA vlekkeloos gaat op dit moment, verre van, maar de FAA heeft er tientallen jaren voor gezorgd dat de luchtvaart de veiligste vorm van transport is.

Juist het laten versoepelen van het toezicht, in combinatie met de hebzucht van het Boeing-management, heeft schrijnende situaties veroorzaakt zoals Boeing-personeel dat zei zelf nooit de 787 te willen vliegen. Het is precies de situatie die moet worden vermeden bij digitale technologie, waar al veel voormalig personeel vol op het orgel gaat over wantoestanden en mismanagement met grote maatschappelijke gevolgen.

Spotlight 9: slechte week voor AI, maar wat brengt komende week?

Het was een week van de correctie voor AI-aandelen, maar wat gebeurt er als maandag Nvidia de nieuwste AI-chip aankondigt…

Het was een week van flinke correcties na een extreem enthousiast begin van het jaar in techaandelen en in crypto. Bitcoin verloor 5% en Ethereum liefst 10%. Mijn compleet verzonnen AI Spotlight 9, ofwel negen aandelen waarvan ik denk dat ze profiteren van de ontwikkelingen op AI-gebied, kreeg ook forse tikken.

Over crypto citeer ik graag opnieuw Yuval Noah Harari, dit keer bij de Daily Show: “Geld is het grootste verhaal dat ooit verteld is. Het is het enige verhaal waar iedereen in gelooft. Als je ernaar kijkt, heeft het op zichzelf geen waarde. De waarde komt alleen voort uit de verhalen die we erover vertellen, zoals elke cryptocurrency-goeroe of Bitcoin-enthousiasteling weet. Het draait allemaal om het verhaal. Er is niets anders. Het is gewoon het verhaal.”

Mediacriticus Jeff Jarvis gelooft niets van de onheildstijdingen over snel voortschrijdende technologie en schold mensen als investeerder Peter Thiel en ondernemers Elon Musk en Sam Altman zelfs uit. Het was opvallend om Jarvis tegen te komen in één van mijn favoriete sportpodcasts. Jarvis beseft blijkbaar niet dat alleen al zijn optreden in deze sportshow om te praten over AI, de invloed van technologie op het dagelijks leven onderstreept. Hij wordt niet uitgenodigd om te praten over de rol van perkament, troubadours en flessenpost.

Miljoentje, miljardje, biljoentje

Waar startups ooit begonnen in de garage van het ouderlijk huis, is met name AI het speelveld voor miljardairs. De normaliter mediaschuwe topinvesteerder Vinod Khosla (Sun, Juniper, Square, Instacart, Stripe etc) opende publiekelijk het vuur op Elon Musk nadat die een rechtzaak aanspande tegen OpenAI, niet geheel toevallig een investering van Khosla.

OpenAI topman Sam Altman schijnt nog steeds in gesprek te zijn voor zijn $7 biljoen kostende chip-project met het nieuwe $100 miljard staatsfonds MGX van Abu Dhabi, dat probeert met een reuzensprong een koploper op AI-gebied te worden. Schijnbaar heeft Altman ook gesproken met Temasek, een toonaangevend staatsfonds van Singapore. Deze gesprekken gaan over tientallen miljarden.

Laten we vanuit de bril van Harari kijken naar het verhaal van Nvidia. Dat biedt ontwikkelaars deze week een voorproefje van de nieuwe AI-chip. Hoe lang kunnen Nvidia en CEO Jensen Huang de kroon dragen als de dominante leverancier van AI-chips in de technologiewereld? Morgen loopt Huang het podium op in een ijshockeyarena in Silicon Valley om zijn nieuwste producten te onthullen. Zijn presentatie zal grote invloed hebben op de koersen van mijn AI Spotlight 9 in de komende weken en misschien zelfs maanden.

De houdbaarheid van een gigant

Betalingsverwerker Stripe, ook een investering van Khosla, meldde in de jaarlijkse lezenswaardige brief dat de gemiddelde duur dat een bedrijf in de S&P 500-index is opgenomen in de afgelopen decennia fors is gekrompen: het was 61 jaar in 1958 en nu is het 18 jaar. Bedrijven die niet mee kunnen doen in de digitale wereld hebben het zwaar. Door de enorme bedragen die op dit moment in technologie worden geinvesteerd, zal die ontwikkeling alleen versnellen.

Tot slot

In dat kader is het bijzonder leuk en interessant om te zien dat in Cleveland gouwe ouwe paddenstoelen complete huizen opvreten en vervuiling opruimen, zelfs PFAS. Misschien geen voorbeeld van Amy Webb’s bioengineering, eerder bio-remediatie, maar wel een hoopvol voorbeeld van hoe slimme mensen in samenspraak met de natuur complexe problemen weten op te lossen.

Een fijne zondag, tot volgende week!