Wietse Hage

Want het lukte niet. Op een gegeven moment loop je dan toch achter. Dat voel je nu ook. Wat je uiteindelijk met dat online learning zou doen. En daar wordt allemaal oefeningen mee gedaan in labs. Is een model wat als het ware vloeibaar is. Wat onafgebakken blijft. Maar wat bedoel je hiermee te zeggen. Het zou zomaar eens weer sneller kunnen gaan. Als hier een doorbraak in is. Wat ik hiermee wil zeggen is. Dat is nog zo prematuur.

vloeibare modellen online laten leren... terwijl ze in gesprek zijn. Sterker nog, de academici die ermee bezig zijn... die zeggen in interviews... we moesten het al snel weer uitzetten. Want de gebruiker kan eigenlijk het model kapot maken. En dan als we er duizenden mensen tegelijk mee laten praten... dan zijn we twee uur later ons model kwijt. Want die is omgevormd naar iets anders. Dus als we in het laboratorium nog deze fundamentele problemen hebben... dan gaat online learning niet gebeuren binnen twaalf maanden...

Dus misschien was mijn punt, er zijn, en dat zou Ilja Sutskever op zijn manier denk ik wel mee eens zijn, hoop ik. Er zijn genoeg gave nieuwe venues, nieuwe trapjes die we aan kunnen leggen richting dit. Maar die zijn absoluut niet 12 tot 18 maanden ver weg. Die vereisen fundamenteel academisch onderzoek. Iets wat bijvoorbeeld een Ilja Sutskever binnen zijn lab aan het doen is. En is niet even een tweak op het huidige paradigma. Dat vereist echt nieuwe uitvindingen. Ja.

Mijn mening is dat ik denk dat je met duct tape... en wat trucage tot een punt kunt komen... en volgens mij ben je het met me eens... dat je alsnog een enorme economische impact zou hebben. Terwijl de filosofen en de academici zich nog druk maken... om de definitie van AGI... zijn er inmiddels wel binnen vijf tot tien jaar... of drie tot vijf jaar misschien zelfs... heel wat mensen die de druk gaan voelen... van deze nieuwe automatiseringsgolf. Je zegt er nog één interessant ding over... en dat vaak wordt gezegd is dat...

Vond ik ook nog een grappige lens om door te kijken. En ik denk dus, daarbij gezegd hebben we dat de lat die Dwarkesh dus legt is, dat wat hij ziet als AGI, 59% van het kenniswerk, lijkt op iemand die je binnen een organisatie brengt zonder goede onboarding, zonder goede handleiding, die eigenlijk zoals een intelligent mens dat kan, door simpelweg goed op te letten, integreert en zichzelf onboard in een organisatie. Dus dat is zijn lat voor AGI. Vind ik best een goede lat.

We gaan niet prompts moeten verzinnen. Nee, zoek het maar uit. Hier, in het hol van de leeuw. Ga maar leren. En ik denk dus dat daar zit dus ook dat leren en online leren in. Dat moet dan werken. Je moet modellen hebben die kunnen bewegen in het moment. En aanpassen en zichzelf kunnen aanpassen. En zelf leren. Anders kan je niet komen tot zo'n fundamentele uitvinding. Waar die eigenlijk een soort zelfdiffusie gaat doen. Dus ik denk dat, om er een beetje een knoop omheen te doen. De...

Mijn persoonlijke toevoeging hieraan zou zijn... dat wat ik nu zie gebeuren met dingen als computer use... en het aanklikken van dingen in Excel... ook al is het fine-tuned computer use... om even terug te komen op wat jij hier in het gesprek zei... gecombineerd met videomodellen zoals Vio... waarin entiteiten gecreëerd worden die 26 talen spreken... en gewoon tot jou spreken in een Teams call misschien wel. Dat als je kijkt naar als je nu...

Realtime VO hebt, dus VO4 zou dan misschien VO4 mini zijn of VO4 super nano, banana, whatever hoe ze het gaan noemen. Die kan realtime entities creëren die Nederlands spreken in een Teams call of een Google Meet. Die op de achtergrond een zwerm van computer use experts aansturen die rondklikken in software.

Dat ik denk dat je al snel tot iets gaat komen waar je een mens eigenlijk niet meer voor hoeft te trainen om ermee te werken. En ik vind dat diffusie argument een beetje gevaarlijk. Omdat ik denk tech diffusie ging ook heel erg vaak traag. Omdat je mensen helemaal moest omborden om het woord maar te blijven gebruiken. Namelijk trainen, mensen trainen.

Om gebruik te maken van die nieuwe technologie. De reden dat de iPhone tot de dag van vandaag iPhone heet, terwijl het een zakcomputer is, wat al een rare term is, is omdat het de brug was van de telefoon naar de zakcomputer. Mensen wisten al wat telefoons waren en daardoor kon je ze in hun telefoon verkopen. Dus je kan van die bruggetjes gebruiken en oude metaforen, zeg maar, soort...

Een trucje eigenlijk om mensen makkelijker te kunnen onboarden in de volgende tijd of zo. En ik denk dat als deze AI's zich kunnen tonen binnen Teams calls... en op de achtergrond kunnen rondklikken in bestaande software... dat dat een tech-revolutie is die mogelijk diffusie gaat doen op een ander tempo... dan dat we voorheen gewend waren omdat de remmende kracht van leren weg is.

Dit heb jij gekeken. Dit is anderhalf uur. Jammer dat het maar anderhalf uur was. Ja, is het zo? Ja, die Dwarkash dropt altijd vier, vier en een half uur. Ik heb altijd een paar vrienden die mij dan appen. Daar gaat onze avond of daar gaat je andere afspraak. Als er een podcast uitkomt bedoel je. Omdat dit belangrijk is. Dwarkash interviewt echt de grote der aarde. Een beetje de Yvonnie van Silicon Valley zou je kunnen zeggen. Ik moet zeggen in de laatste vijf bedoelde Satya Nadella. Veel langer dan wij mochten spreken. Hij heeft Karpati gehad. Hij heeft echt wel de mensen zitten.

En nu dus Sitscover. Die al een hele tijd niet echt in de media geweest is. Dat maakte het een beetje juicy. Van hoe is het met hem? Wat gaat hij allemaal vertellen? En wat ik bijzonder vond is... Wij kennen dit ook. Off the record of pre-show. Dat je eigenlijk nog met je gasten in de ruimte bent. Je zet net het glas water neer. Die gast spreekt nog niet eens in de microfoon. Maar per ongeluk begint de show al. Jij noemt het altijd naar mij. Dit is content. Wies, hou nog even je mond. Want we zitten nog niet lekker voor die microfoons.

Isn't it? Straight out of science fiction. Ja. En dit is een beetje gek toch dat... Ik moet eerlijk zeggen, ik zag dit. Ten eerste vind ik het een soort leuk of zo als luisteraars. Dat het zo begint bedoel je. Ja, omdat je denkt van dit was nog niet... Ik ben erbij. Hij zegt letterlijk daarna Dwarkesh. Hé, zullen we anders hier beginnen? Dit is een leuk beginnetje. Nou, wij kennen dit wel omdat wij dit ook maken, een podcast. Dus heel erg meta dit. Waarom vind ik het bijzonder? Omdat ik merk aan hem als een van de grondleggers van... en echt een van de grote denkers als het gaat om de generatieve modellen die we nu hebben. Dat ik denk, dude.

Really? Ga jij nu zeggen... ik besef me eigenlijk nog niet helemaal dat dit echt is? Als in, je zit er het dichtst op. Ja, dit geeft jou niet echt vertrouwen. Nee, nou ja, eigenlijk had ik dat vooral. Het gaf een soort alarmpje bij mij dat ik dacht... jeetje, ik heb moeite om mensen uit te leggen... wat echt is en wat niet echt is. En dat het toch wel wat sneller gaat dan de meeste mensen denken... die zes maanden geleden voor het laatst LGBT hebben getest. Ja.

Ik zeg, joh, let even op. Maar als dan de mensen die er zo dichtop zitten... nog eigenlijk een halve droom aan het leven zijn... in ieder geval Ilja Sutskewer... dat vond ik bijzonder. Dat hij zijn eigen werk science fiction noemt. Zijn er nog dingen waar we je van in de war raakten?

Nou ja, er is natuurlijk de standaard AGI-vraag van wanneer komt dan die superintelligentie of die general intelligence. Hij zei vijf tot twintig jaar. Dan zeg je bijna niks, maar goed, je zegt niet anderhalf jaar. En hij zit op het spoor, dat was ook een beetje het nieuws wat ontstond na deze aflevering. Of in ieder geval het frame wat de media er uiteindelijk opgeplakt heeft, de online media. Ja.

We zijn de fase van schalen voorbij, dus datacenters bouwen en extra. Eigenlijk het inzetten op enkel computerkracht om de modellen beter te maken is wat hem betreft voorbij, zijn mening. We zijn nu weer in de fase van research beland. Dus je zou kunnen zeggen, je hebt allerlei gevolgen.

grondonderzoek wat je doet, wetenschappelijk onderzoek, daar komen uitvindingen uit, waaronder taalmodellen. Die taalmodellen ga je dan zonder er al te veel aan te tweaken, opschalen, door er gewoon steeds meer computers aan toe te voegen, steeds meer kracht te geven eigenlijk, rekenkracht. Dan worden die automatisch, bijna niet gratis, maar makkelijk beter, want je maakt alleen maar meer computerkracht, geen nieuwe uitvindingen. En dan schaal je maar door. Maar op een gegeven moment kom je dan op een punt dat je weer nieuwe wetenschap moet gaan doen, om weer door te kunnen schalen. En zijn...

En dat is natuurlijk ook, ja goed, wij van WC Eend. Hij heeft een laboratorium, een commercieel lab opgezet. Die gebouwd is op de aanname dat er nieuw onderzoek nodig is. Dat is namelijk wat hij aan het doen is binnen zijn ding. Dus dat hebben we even bijgezegd. Dwarkes doet best wel een leuke counter daarop. Dat hij zegt, joh, Gemini 3 Pro is net uit. Die is gewoon weer gaan schalen op het trainingfase. Dus wat maak je daar dan van? En dan antwoordt hij heel slim eigenlijk. Dat was echt het laatste.