Wietse Hage

Nou ja, ik had het hier met Zhang over... die samen met ons de nieuwsbrief maakt. Dat ik zei, als jij nu naar 50.000 mensen... zeg maar de Amsterdam Arena bijna zittend gevuld... Cloudbot gaat hypen... dan zijn er misschien 500 Nederlanders die hem installeren. En dan weet ik wat er op de NOS staat volgende week. Vrouw vindt huis vol met museepapier. Omdat hij het bestelde. En jij zou daar dan heel erg op lachen. Dus jij baalt nu. Dat ik al die mensen zo gewaarschuwd heb. Maar ik besefte me ineens...

Wij moeten een beetje voorzichtig zijn met dit experimentele supercar. Nee, dat punt is heel helder. Maar daar is meer aan de hand dan alleen maar dit ding is nog niet af en het is allemaal matig. Ik denk dat raak jij bij mij nu toch ook wel een iets diepere zorg of vraagteken achter zit. Het schuift nu langzaam van een vertaalrobotje naar een bestelrobotje.

Ja, want je kan wel zeggen, dit moet je allemaal niet doen. En dan zijn er heus wel mensen die dan denken, oh nou wie ze zegt het, ik zal me keurig inhouden. Maar wat je ook kan doen, is een losse computer kopen en dan dat ding alleen maar toegang geven bijvoorbeeld tot een eigen los e-mailaccount.

Dat kan. Je kan alles uitzetten. Ja, dit is ook wat veel mensen doen die wat verstandiger zijn. Want wat jij net vertelde namelijk, je kan dat ding meelaten luisteren met je microfoon en eigenlijk gewoon alles wat je op je scherm ziet streamen naar een server van Anthropic en dan gaat dat ding met alles wat hij dan kan zelf beslissingen nemen. Dat is de

Ja, de soort van de ene kant van het spectrum van wat je ermee kan. Maar je kan hem ook helemaal terugzetten naar het begin. Waarbij die eigenlijk heel specifiek toegang heeft tot specifieke dingen, toch? Hoe zou dat zoiets eruit zien? Dan zet je het op een losse computer. Je installeert daar Modbot op. Dat is allemaal gedoe hoor. Gelukkig maar. Ja, nou geef het nog een week.

En dan krijg je waarschijnlijk op een gegeven moment een scherm van welke diensten wil je koppelen. En dan ga je heel goed nadenken over wat voor diensten je wil koppelen. En dan zou je bijvoorbeeld kunnen zeggen, ik geef me een los e-mailaccount. Het is alexanderbot.gmail.com.

Die kent niemand. Die ziet alleen maar e-mails die specifiek met dat ding verzonden zijn. Dus hij kan niet bij mijn eigen e-mail. Zodat ik wel in WhatsApp bijvoorbeeld dingen kan zeggen als... Schrijf even een mail aan Wits dat ik zin heb om koffie te drinken. En haal wat suggesties uit mijn kalender. Oké, heb ik ook kalender gekoppeld. Dan heb je iets. Dat is wel heel leuk. Misschien wat wel helpt. Google, Apple, noem ze allemaal op.

Zij zijn hiermee bezig. En neem voor mij aan dat zij in hun laboratoria. Dit allemaal al werkend hebben. Allemaal al werkend hebben. Dit project bewijst. Dat het kan. Het model kan het al bijna. Het feit dat één gast dit gewoon kan maken. En de wereld in kan slingen met deze impact. Betekent dat ze het allang hebben draaien bij Google. En dat is geen complot. Dat is nu gewoon empirisch bewezen. Het werkt met dat modbot ding. En de onderliggende taalmodel.

En ik denk dat wat een Apple bijvoorbeeld en Google, laten we zeggen even Google voor het gemak van het gesprek. Die hebben hun Gemini. Ja, maar die gaan, maakt niet uit. Niet zo, hè. Die gaan dit heel verantwoord doen, Alexander. In ieder geval, Google durft misschien wat meer. Die gaan mondjesmaat

Met Gemini en Android en hun Chromebooks. Mondjesmaat. Deurtje voor deurtje. Dit toevoegen. En die gaan de hele feature set van ModBot langzaam afwerken. En de wereld inbrengen. En dan iedere keer even checken. Gaat het goed? Ik ga nog even een fysieke metafoor maken. Misschien is dat wel prettig.

Comma AI, George Hotz. George Hotz, hele rogue ontwikkelaar die de Playstation en de iPhone ooit gehackt heeft. En daardoor fame heeft tot de dag van vandaag. Bouwt open source zelfrijdende auto harnesses. Die kan je online kopen, in je auto installeren en je eigen auto zelfrijdend maken. Dat kan al een aantal jaar. Zie het als de moldbot van de auto. Een open source zelfrijdende auto. Kastje geeft je letterlijk controle over je stuur.

Ben jij het met me eens? Ik voel al wat hier aankomt. Dat het voor de verkeersveiligheid misschien niet zo nice is als Klöppingen en Hagen met een Subaru Impreza.

Ja, ja. Oké. Ja, met hun koele komma. Ja, ik voel dat. Ook in de metafoor is het wel mooi. Want het is ook niet alleen maar een gevaar voor jezelf, maar ook voor anderen. Dat is eigenlijk wat jij zegt. En dat is met die autometafoor natuurlijk heel helder. Ja, en je kunt ook via het internet best wel schade aandoen. En ook aan je sociale netwerk. Als jouw mod bot ineens de geheimen van de affaire van jouw beste vriend op. De mogelijke, ja. Oké.

Nou goed, dus ik denk even, jammer dat we hem zo laat in de aflevering pas hebben. Eindelijk een fysieke metafoor. Wietsje vindt het gewoon niet zo chill als mensen met zelfgeknutselde zelfrijdende auto's 120 op de snelweg gaan rijden. En dan zeg jij Wiets, oké, cool. Nu hebben we wel een mooie zelfrijdende auto van Waymo waar ze wel goed over na hebben gedacht. Wat betekent dat dan voor ons? Ja, precies.

Maar het verschil natuurlijk met de zelfrijdende auto is dat hier, kijk een zelfrijdende auto moet proberen rekening te houden met alle situaties, dus er komt een bal over de weg en dan moet je remmen, maar als er een bal op de stoep ligt dan hoef je niet per se te remmen of als een bal overgespeeld wordt op de stoep hoef je ook niet per se te remmen, dat moet die allemaal leren.

En dan gaat hij dus op een gegeven moment... rekening houden met onverwachte situaties... waar hij niet voor geleerd heeft. Dat moet hier ook gebeuren. Dat zijn al die taalmodelmakers aan het doen. Dat noemen ze alignment. Rekening houden met situaties...

Waar het ding niet expliciet voor getraind is en die probeert dan het juiste te doen. En met juiste, dat kun je op heel veel manieren interpreteren. Daar heeft Elon Musk een ander idee bij dan Dario Amadei bijvoorbeeld. Die zorgt, probeert ervoor te zorgen in ieder geval de gebruiker te beschermen tegen kwaadwillende actoren. A.k.a. jouw vrienden die honderd Glorix willen bestellen op jouw, op het Heine account.

Denk jij dat dit te beveiligen is? Denk je dat het technisch mogelijk überhaupt is om dit te doen? Of blijft het altijd een kat-en-muisspel? Hoeveel vertrouwen heb je erin dat deze onderliggende technologie met een wens die...

voor mij kraakhelder is... als mensen eenmaal deze technologie veilig zouden kunnen gebruiken... zou iedereen het doen. En ik denk zelfs ook dat als het een beetje onveilig is... dat mensen het er nog voor over hebben. Omdat het zo'n impact heeft op je levenpotentieel. Is het ooit echt te beveiligen dit? Je stelt een van de vragen... dit is de vraag der vragen als het om AI gaat. Dit weten we nog niet. Ja.

Daarom vind ik het gewoon niet zo chill dat het nu al op het internet rond aan het rijden is. De zelfrijdende computer hebben we gemaakt. Ik had hier laatst een discussie over als het ging over de zelfrijdende auto. Als je een zelfrijdende auto hebt, je vervangt alle auto's voor zelfrijdende auto's in Nederland. En de verkeersdoden dalen met tienvoud. Tienvoud minder verkeersdoden.