Wietse Hage

Nou goed, je kunt je afvragen, die world models die uiteindelijk nodig zijn, moeten zij die trainen? Gaan ze deze data ook verkopen aan Google voor Gemini Embedded in Robots? Ik vraag me gewoon af of het levensvatbaar is voor zo'n bedrijf om te bestaan op zichzelf. Ik heb eigenlijk het idee dat het logischer is dat een Tesla bijvoorbeeld, gezien de orde van grootte van productielijnen en wat zij allemaal kunnen aan talent...

een grotere kans hebben is om deze nood te kraken. De Tesla's, de Meta's en de Google's van deze wereld... dan het bedrijf achter Nio. Dus dat is meer... Ik vind het... Er is wel eens ooit wel eens ver voor de iPad... een soort tablet uitgebracht. Niet door Microsoft, maar daartussen nog. Net als de Humane Pin of de... Hoe heette dat ding? De Rabbit R1. Dit voelt toch met alle respect wel een beetje... een beetje als de Humane Pin dan. Want die vond ik qua hardware nog wel gaaf. Van de robotics, van...

Je wil early mover zijn, je stilt de show, maar uiteindelijk, jij hebt die hele jungle opengemaakt en uiteindelijk loopt Google gewoon over je rug heen, door jouw pad heen, de jungle in. Ja, dus je doet geen investeringsadvies voor dit specifieke bedrijf, maar dat zegt niks over het potentieel dat die productcategorie zou...

En de andere kant stel je voor... in de vorm van bepaalde rollen in de zorg. Mensen die blind zijn. Mensen die slecht te been zijn. Mensen die vergetenachtig zijn. Om welke reden dan ook. Ik kan nu een soort van... dystopisch Black Mirror gaan lopen roepen... bij deze robot. Hier is gewoon een rol voor. We moeten met elkaar nog een beetje uitvinden welke rol. Dat dit bedrijf dit zo doet en neerzet. Er zitten innovaties in dat ding. Hoe die gebouwd is qua hardware. Wat er onder die trui zit.

Te gek, weet je. Als engineer denk ik echt applaus. Want ze hebben bijvoorbeeld ook bedacht dat hij stil moet zijn. Tegelijkertijd kan je denken, wil je dat hij ineens achter je staat? Maar goed, je kunt je voorstellen dat dat prettig is als hij niet heel door je huis doet. Hij werkt met katrollen en touwen en zo. Het is echt een heel gaaf ding. Dus even vanuit engineering perspectief en de rol van technologie. Net als een rolstoel om mensen te ondersteunen.

juich ik het op een bepaalde manier ook wel toe. Alleen ja, het is ook een beetje dystopisch dat er iemand op afstand met een VR-bril in jouw la zitten kijken en je onderbroek aan het opvouwen is. Ik kan niet anders zeggen dan dat het ook, ja, bij jou ook, het heeft toch wel iets heel bizarst.

En eigenlijk, want even zo tussen neus en lippen door. Je hebt het over op z'n minst twee toepassingen van generatieve AI nu. Namelijk software waarin AI verwerkt zit om allerlei tools en tricks te doen. Waardoor jij je werk beter kan doen. Maar die tools en tricks worden ook nog eens gebouwd door AI. Dat begrijp ik even uit je verhaal, toch? Klopt, ja. Want dat zeg je even zo makkelijk. Maar je hebt dus AI agents draaien die software voor jou maken. Waaronder weer agents waarschijnlijk. Ja, klopt.

Ik ben echt een babycoder. Ja, want ik wilde eigenlijk net aan je vragen... dat ik zit hier al een tijdje heel stil vol fascinatie... naar jouw verhaal te luisteren met allerlei vragen. Waaronder, wat is dan jouw achtergrond? Want Alexander introduceerde jou als nerd. Maar je zegt nu al iets met junior of zo. Dus je klinkt als een hele creatieve software architect... die eindelijk los kan na al die jaren. Precies, zo voelt het. Dus ik ben begonnen tijdens mijn studie met het... Nee, even helemaal terug naar het begin.

Als ik je mag aanvullen voor de luisteraar, ik kijk heel veel naar video's over hardware, oude radio's, oude machines, et cetera. Daar zat niet alleen een handleiding bij, maar ook de volledige documentatie hoe het apparaat werkt en hoe je het zelf kan repareren. Dat was normaal. En veel later pas is het zo geworden dat het inmiddels een hele zwarte doos is waar we helemaal geen reet meer van weten. Precies, ja.

En dat ik er dus maar op vertrouw dat het werkt. En ik zie ook dat het werkt. Ik bedoel, het doet wat ik vraag. Het is een beetje wat nu veel gebeurt... met mensen die vibe-code met een klad kopen. Bijvoorbeeld die kan je in YOLO-mode zetten. Dan mag die nog veel meer. Maar als je die dan in... Die heet echt YOLO-mode. Dan is het wel belangrijk dat je hem sandboxed of siloed... of welke term je er ook voor wil gebruiken. Namelijk in een soort mini-wereldje plaatst... waar misschien zelfs nep-data wordt...

de daadwerkelijk ontwikkelde software die AI gemaakt heeft. En die twee entiteiten heb je allebei in dozen zitten. Maar de ene nog een strengere doos dan de ander. Ja, exact. En wat is er voor nodig om dit lokaal te hebben draaien? Want ik zei al, je bent in een bakfiets GPU's gaan halen. Maar ik vind dat een heel amuzant idee...

Ja, wij krijgen hier ook veel vragen over, want ik heb bijvoorbeeld ook modellen draaien op mijn iPhone en dan laat ik dat zien, dan gaan mensen vragen, ze zeggen dat ding is echt dom, dan zeg ik ja, maar ik heb heel het datacenter niet meer nodig, dus het is nog steeds een wonder, weet je wel. Maar ik denk dat het best wel moeilijk is voor veel van de luisteraars, van oké, wat moet je dan nu als soort mini datacentertje, wat heb je dan thuis, hoeveel Playstations zijn dat aan computerkracht? Precies, ja.

Token per watt zeggen ze dan toch eigenlijk. Want je krijgt een x aantal tokens per seconde. Er staan een aantal watts tegenover. En eigenlijk wil je die token per watt ratio goed hebben. En wat je natuurlijk, cost of acquisition, die kaart kopen. Exact. Dus het eerste is van hoe snel gaat het eigenlijk? En hoeveel kan je erin proppen? Dus ook bijvoorbeeld hoeveel geheugen kan je erin proppen? Hoe groot zijn de modellen die erin... En de modellen. De modellen en de context window eigenlijk. Maar wacht even. Jij begon met het bedenken, ik heb GPU's nodig naast je laptop.

Ja, volgens mij. Schrijf mee luisteraar. Uit mijn hoofd. 24 gigabyte. Ik wil hem toch nog even iets concreter maken voor de luisteraar. De grootte van het model heeft, dat correleert enorm tot de intelligentie van het model. Hoe meer context die al in zich heeft als het ware. Zeg ik even voorzichtig hoor, want het is een beetje aan het veranderen de laatste tijd. Maar goed, grotere modellen die meer geheugen innemen, hebben over het algemeen prettigere prestaties voor jou als gebruiker. Daar kan je meer mee. Ja.

Maar je wil ook veel context kunnen meegeven in je context window. En dat is letterlijk de rest van het geheugen die nog over is. Dus ik heb veel mensen die ik volg die zeggen... ik heb een heel groot model geladen, maar ik heb geen ruimte meer over voor tokens. Dus er kunnen nog duizend tokens bij. Ja, daar heb je niet zoveel aan. Dus het moet dus ook nog een verhouding zijn tussen een model... plus hoeveel het model mag meekrijgen tijdens...

Dit is letterlijk wat er gebeurt. Dat is wat er gebeurt. Ongelooflijk. Als jij hem dan ook nog even laat draaien als de zon schijnt. Dan kan je de overcapaciteit van je zonnepanelen erin stoppen. Want dan kan je natuurlijk zeggen. Ik heb hier een opdracht. Je moet pauze nemen. Maar als de zon gaat schijnen mag je. Alleen maar programmeren als de zon schijnt. Precies. En de grap is. Jij zegt dit en ik denk.

Ik heb een deel van mijn infrastructuur... die wordt geraakt door klantgevoelige of cliëntgevoelige data. Dat is een andere ring, zoals ze dat noemen in security. Dat is een ander onderdeel van mijn security dan... waar de software gemaakt wordt. Dus ik vind het oké dat Cloud, een model... dat draait in het datacenter van...

Het inhuren van een programmeur in uren versus het inhuren van AI eigenlijk. Ja, dus 250.000 lines of code. Als ik dat een programmeur zou laten doen, dan ben ik failliet. Maar ik ben dan toch wel even nieuwsgierig, want die software die je dan maakt, die dan in een ander doosje zit met wat bewaking eromheen, wat beveiliging eromheen, die kan wel onderzoek doen op het internet, toch? Ja, ja.

En dan zou het in essentie zo kunnen zijn... dat wat je hebt laten maken door Cloud Code... dingen doet op het internet die jij eigenlijk nog niet helemaal weet. Wacht even, welke doosje hebben we nu? Dus je hebt het doosje die software voor je maakt. Dat is iets wat vanuit een datacenter dingen doet. Daar komt nooit cliëntdata op. Die maakt iets, die gaat naar een ander doosje toe...

En toen zei je eigenlijk van ik vind het wel grappig hoe jullie het praten over vibecoding. Wat bedoelde je daar precies mee? Want jij zit eigenlijk ook al sinds het begin van het interview jezelf ook een beetje te verontschuldigen ofzo rondom dat junior en vibecoding. Wat is daar aan de hand rond dat fenomeen?