Wietse Hage

Dan vraag je aan de maker van het wereldmodel, de world model, Gemini World Auto, wat dan draait in die Waymo. Snappen jullie eigenlijk hoe dat model werkt? Snappen jullie het eigenlijk wel echt? Nee, dit is nu het geval. Kan ook helemaal niet, want je kan niet met alle dingen die kunnen gebeuren in de wereld een soort van expliciet rekening houden.

Het is ook dat de modellen zijn gegroeid in hun laboratoria. Ja, precies. Oude technologie werd ontworpen en gebouwd. En hier wordt het gegroeid en de wereld ingegooid. En met groeien bedoel ik, daar ontstaat een netwerk aan connecties. Ja, echt begrijpen doen ze dat ook niet. Je rijdt hem een testtrack rond en je geeft hem allemaal benchmarks. Dus van buiten de doos, nou, goede doos. Sterker nog, ding rijdt tien keer zo veilig dan de gemiddelde Nederlandse chauffeur.

Hoe weten we eigenlijk niet? Dus je hebt niet de explainability... die vaak zo belangrijk is als het om wetgeving gaat. Prima als je een algoritme inzet... maar je moet wel dondersgoed weten hoe je algoritme werkt. En dan krijg je de discussie... deze fictieve discussie is het dan... waarin DeepMind zegt... Waymo...

tegen overheden... luister, we hebben die dingen door en door getest. Ze hebben x miljoen kilometers gereden, miljard, whatever. We weten niet precies hoe ze werken... maar we weten wel dat ze heel goed auto's kunnen rijden. En gaan wij dan zeggen... doe ons maar 90% meer verkeersdoden per jaar... in Nederland...

totdat we die algoritme begrijpen. Of kom maar door met je onbegrijpbare algoritme, want die mensen leven daar in die specifieke verkeerssituatie. En ik voel dat we samenlevingsbreed, dit voorbeeld is namelijk veel breder te trekken, dat ik me afvraag, want jij zei dat net heel mooi,

Kunnen we het veilig maken? Mold, bot, de zelfrijdende computer. Ja of nee? En toen zei je even heel snel tussendoor... ik denk zelfs dat er mensen zijn als het niet veilig is... dat ze het alsnog gaan gebruiken. En wat bedoelen we dan met veilig? Dat ik me heel goed kan voorstellen... en daar zijn we nu al aan het komen... dat er AI-systemen in de wereld zijn... dat is al zo... die we eigenlijk niet helemaal doorgronden. En ook niet echt garanties over af kunnen geven...

Maar die al zoveel waarde aan het toevoegen zijn. Naar mensen hun dagelijks leven. Dat het een soort vreemde discussie gaat worden tussen. Wil je nu eigenlijk zeggen. Dat al het comfort wat ik al gekregen heb. Dankzij die AI modellen. In de breedste zin van comfort. Van een stukje vertalen. Tot en met dingen naar simpele taal terugbrengen. Transcriberen. Heel veel mensen hebben heel veel. Ervaren heel veel toegevoegde waarde van AI. Op dit moment. Die nu luisteren. Maar ook daarbuiten. Dat je eigenlijk gaat zeggen. Stop.

We moeten het een beetje terug gaan trekken uit de samenleving... want we beseffen eigenlijk dat we niet goed weten hoe het werkt... en we weten niet eens of we het veilig kunnen maken. Ik denk dat heel veel mensen dan gaan zeggen... ja, sorry, ik wil eerst wel eens een keer zien dat het onveilig wordt... voordat ik me... met je toekomstscenario's, zeg maar. Ja, want ik denk deze stap van computers die... of zeg maar...

Een AI die jouw computer kan bedienen. Is denk ik zo aantrekkelijk. Dat mensen niet hun handen er van af gaan kunnen houden. Dus bijvoorbeeld ik zag al een voorbij komen. Van iemand die een AI gebruikt om zijn Tinder te besturen. Die automatisch swipet.

Sorry, maar dan kan jij wel zeggen... Ja, maar het is heel gevaarlijk. Maar dan ben je echt 99% van de mensen kwijt. Je hebt wie het is een morele argument. Ja, precies. Dus wat ik denk dat er gaat gebeuren... is dat dit... Nu is het nog ingewikkeld om te installeren. Je moet de command line interface begrijpen. Je moet begrijpen wat een sandbox is. En allemaal ingewikkelde shit. Dat is over... Ik maak me hier echt zorgen over. Ik denk dat dit over twee weken gefixt is...

en dat het makkelijker is geworden... geef het nog twee weken en dan heb je... nog meer aantrekkelijke dingen die je ermee kan... die mensen in één keer begrijpen. En dat zit hem in de veelheid aan skills die je krijgt. Voor jou tinderen als voorbeeld. En zo kan ik er nog duizend bedenken... die in één keer tot de verbeelding spreken. En die mensen ook inherent viraal zijn. Zoals die plaatjes die jij zo mooi aanhaalde op Twitter...

Dat maar dan gewoon voor de bredere maatschappij. En dat het heel lastig wordt voor die AI bedrijven om eigenlijk achter te blijven. Dat dit een nieuwe, ja bijna een soort van, dat dit heel snel een nieuwe norm zet van wat wij verwachten van taalmodellen.

En dat is zoals Google eerst de, eerder de, weet je, ze hadden allemaal al AI werkend, maar ze hebben het nooit verpakt in een chatassistent. En toen OpenAI dat gedaan had, toen ging opeens de hele wereld gebruiken. En toen kon Google eigenlijk niet achterblijven, ondanks dat ze allerlei reserveringen hadden over of ze dit soort technologie wel moesten uitbrengen.

En ook onderschatting hoor van de potentiële populariteit daarvan. Denk ik dus dat we nu zo'n zelfde ding gaan krijgen. En dat eerst Elon Musk gaat het natuurlijk doen. En dan gaat daar heel veel ophef en nieuws over komen. En dan kunnen die andere bedrijven eigenlijk niet achterblijven in een rare spagaat. Want ze willen ook...

Een soort van software aan bedrijven verkopen. En die bedrijven zitten niet te wachten op dit soort onveilige shit. Geen serieus bedrijf gaat dit op dit moment doen. Want daar wegen de voordelen niet op tegen de nadelen. Maar reken maar dat gewone consumenten dit heel snel gaan begrijpen.

Ja, maar goed, ik denk daarbij, bedoel... En dan zijn we echt fucked, Wietse. Nou ja, ik denk... Ja, nou, wacht even, wacht even. Ik ben heel blij dat jij dat ook, dat je zei net het woord... Je zei net, ik maak me zorgen en we zijn fucked.

Ik zit ook naar een brandende vuilnisbak te kijken en ben ook geamuseerd. Nee, ik ken je inmiddels een beetje. Dames en heren, als Alexander zo lacht, dan is het een brandende prullenbak. Evil lachen. Het is hoe hij de exotische diepe angst die hij ook in zijn lichaam ervaart, weglacht. Weglacht, ja. Ik was me aan het voorbereiden op dit item rondom Moldbot.

En ik was aan het rondlezen en het was weer alle kanten op op het internet. Mijn technische vrienden zeggen, het is maar een rapper. Waar doet iedereen zo panisch over? Ja, het hype. Dit conclaat al, whatever. Nou, dat. Het is een cryptoscam. Van alles. Nou ja, maakt niet uit.

Dan zijn er mensen die zeggen, dit is AGI. Moldbot is AGI. Waarom zeggen ze dat eigenlijk? Ik heb denk ik het eerste kamp van een rapper en privacy en zo wel aardig vertegenwoordigd inmiddels, toch? Het valt allemaal wel mee en eigenlijk is het gewoon klad. Of heb ik die nog niet goed vertegenwoordigd?

Nou, ik snap hoe jij technische vrienden hebt die zeggen... wat is hier nou eigenlijk precies nieuw? Want is het niet oude wijn in nieuwe zakken? Dat punt kun je maken, want in principe kon je met Google Maps... ook al een restaurant opbellen die dan een restaurantreservering doen. Je zou kunnen zeggen...