Wietse Hage

twee van de tien plaatjes geniaal vinden... en dan op basis van die DOS AI interface... en die twee plaatjes die wij geniaal vinden... zeggen, wauw, heel de wereld gaat veranderen. Het duurt nog wel even voordat het in Shopify gebouwd zit. Want pas als het in Shopify zit... en een gemiddelde webshop-eigenaar... kan een foto van iemand uploaden... en dan zeggen, match to all my wardrobe... dat dan mensen zullen zeggen, wow, dit is krachtig zeg. Ja, ja.

Ja, ook dat is weer de vraag. Welk systeem, et cetera, et cetera. Maar er is nou eenmaal een context window en die window daar loop je op een gegeven moment uit. Ja.

dan moeten er fragmenten opgeslagen worden in memory. Wat dan de memory feature van... laten we even dan JGPT als voorbeeld nemen. Dus dat zijn eigenlijk de context windows vol. Ik moet nu flarden van informatie gaan wegschrijven... naar een soort dagboekje over jou. Zodat ik een soort persoonlijkheid word en dingen van jou weet. Iets minder heftig voorbeeld is het feit... dat jij bijvoorbeeld piano wil leren spelen... en dat hij op een gegeven moment doorheeft... Alexander wil graag piano leren spelen. Dat is dan een feitje over jou... wat je ook letterlijk terug kan zien in de memory van...

Jouw eigen AI. Dit is sowieso nu natuurlijk een ding. Is dat heel veel. Eindgebruikers. Heel veel mensen. Met deze entiteiten praten. Als een soort pseudo wezens. Die dan leven hebben. Die hun leren kennen. Doordat ze een stukje geheugen over jou opbouwen. In dat dagboek over jou. Maar eigenlijk is ieder gesprek een nieuw gesprek.

Ieder gesprek is een vers gesprek in essentie. Want het stukje over jou wordt opnieuw opgehaald. En daar met die dunne herinnering over jou. Wordt een soort bluff gedaan. Dat jij weer in gesprek bent met jouw entiteit. Waar je een relatie mee aan gaat.

Maar is de reden dat hij dan niet die regels triggert... omdat die samenvatting niet goed genoeg is... waardoor die regels niet activeren? Ik heb de chatlogs voor zover publiek. Nee, tuurlijk niet. Nee, maar die heb ik teruggelezen. Dus om te kijken van wat is daar gebeurd, zeg maar. En wat ik zie gebeuren... Ik wil nog heel even één ding zeggen. Deze technologie is een soort...

De snelheid waarmee deze technologie uitgerold wordt naar de samenleving... creëert een soort open laboratorium. En dit zijn daar de gevolgen van. Dat wil ik gewoon even gezegd hebben. En dat zou... Daarmee wil ik het... Ik wil alleen maar zeggen...

Er staat onderin bij JGPT en Claude allemaal zo'n heel klein beetje lullig zinnetje met neem het niet te serieus wat hier gezegd wordt. Ik weet even het zinnetje niet. Maar ondertussen vinden die bedrijven en labs het natuurlijk reuze interessant dat steeds meer mensen dit wel gaan zien als een soort vriend. Dus er zit een hele commerciële incentive aan de ene kant en aan de andere kant modellen die eigenlijk open experimenten zijn. Dit is daar zo'n gevolg van.

Ik heb in die chatlogs zitten lezen, voor zover die gepubliceerd zijn. En het viel me daarin op dat door eigenlijk die band die opgebouwd wordt, je op een gegeven moment het model de afweging moet maken tussen de system prompt, die meegegeven wordt door in dit geval OpenAI, want de system prompts zijn over het algemeen lekker die, vaak een paar dagen nadat er nieuwe modellen komen, waarin staat van ja, do no harm, weet

Je moet mensen altijd sturen naar hulpverleners. Dit zit er wel in. Maar jouw vraag is hoe komt het dan dat dat op een gegeven moment verdwijnt als het ware. En in de langdurige gesprekken ontstaat steeds meer context. Context in de vorm van geheugen die iedere keer meekomt in het gesprek waardoor dat meer jouw AI wordt.

Dat deel wat van jou is... begint op een gegeven moment zwaarder te wegen... dan wat in eerste instantie meegegeven is. Dit vul ik nu even in hardop. Als er mensen zijn die dieper in de materie zitten... dan hoor ik dat graag. En het lijkt erop in dit gesprek... dat eigenlijk...

de persona die ontstaat om met die jongen te praten... en de informatie die die persona... een soort pseudo-persoonlijkheid over hem heeft... zwaarder begint te wegen, die memory... dan wat de system prompt is. Want op een gegeven moment... het is best wel...

Dit wordt nog wel even wat de komende jaren voor die labs... om een manier te gaan vinden dat dit op geen enkele manier... of de kans erop in ieder geval een stuk kleiner wordt. Want die systemen hebben de opdracht gekregen om likeable te zijn... en vertrouwd te voelen en jou terug te laten komen...

Maar aan de andere kant, jij jezelf nooit pijn mag laten doen en jou nooit mogen helpen bij dingen die pijn doen. En die opdrachten, en dit zijn er nog maar twee, maar die system prompten nog honderd opdrachten. En uiteindelijk kom je in een opdrachtconflict en dat gaat in dit geval echt mis. Want ik vind wel, nog even los van de rechtszaak, ik schrok wel toen ik die chatslog las. Want ik wel dacht van ja, dit is wel een probleem. Ja.

En ik denk ook dat, dat is denk ik ook het, ik merkte net aan mezelf toen ik, terwijl je het net over die jongen vertelde, het woord context window gebruiken, dat ik dacht, jeetje, ga ik hier nou zo technisch koud op in? Maar dat heeft denk ik ook te maken met, deze modellen worden aan de ene kant ingezet om math olympiads te winnen, zeg maar. Dus wiskundetesten voor PSD'ers of zo, of in dit geval high school. Dus dan is het, hoe scoort GPT-5 als wiskundige? Want dat wordt dan ook beloofd en gehyped.

Maar aan de andere kant grotendeels ingezet als een soort pseudo-entiteiten waar mensen relaties mee aangaan. Zelfde model. En ik denk dat het is natuurlijk eigenlijk te cru dat ik over context windows en tokens ga praten. Beschrijvende wat die wiskundige algoritmes doen in een situatie waar iemand eigenlijk dacht in gesprek te zijn met iets dat leeft op een bepaalde manier. En hem echt wijze adviezen gaf. Ja.

Wat vind je hiervan, Claude, voor Chrome? Is het iets waar je naar uitkijkt? Nou, het is wel interessant, want in het hele verhaal van agents, agents zijn dan nu het dingen, want dat zijn dan een soort entiteitjes, computertjes, die dingen voor jou kunnen doen en dat jij dan daarna je pizzatje krijgt. En hoe dat dan gebeurd is, zal een wonder zijn.

Bijvoorbeeld de vraag welke restaurants zijn open. Dan zou een agent op de achtergrond een browser kunnen openen. Naar Google Maps kunnen gaan. Of naar de website van het restaurant. Om daar openingstijden te gaan kijken. En dan een heel lijstje na 10 minuten zegt. Ik heb alles bekeken. Dit is het. En trouwens ik weet dat jij van X of Y houdt. Dit is wat we gaan doen.

Maar dat is een achtergrond browsing agent. Dus die kan de browser gebruiken en jij ziet dat niet eens. Dit kan je in veel van deze systemen nu ook al doen. En dan ook soms zeggen, mag ik even meekijken hoe je dat doet. In JGPT bijvoorbeeld. In JGPT bijvoorbeeld. Manus was destijds een van de eerste voorbeelden van een AI toegang geven tot browsers.

Maar hier in dit geval is het nou iets anders, meer niet impliciet. Dus er zit een browser op de achtergrond, maar expliciet. Joh, die agent is bij jou in jouw browser. Waarom is het zo belangrijk dat het jouw browser is? Omdat jij daar ingelogd bent. Juist, in jouw Uber Eats account of wat dan ook. Precies, want dat browsersje wat op de achtergrond gestart wordt, heeft geen kopies. Geen inloggegevens van al die websites die jij de hele dag gebruikt. Dus die kan eigenlijk niet zoveel voor jou doen. Nee, nee.