Thijs van Team Rockstars IT

Mijn naam is Thijs van Team Rockstars IT en wij zijn op een missie om AI oplossingen te bouwen die ons werk en de wereld mooier en veiliger maken. Vandaag is met mij Matthijs van Bree, Principal Consultant op het gebied van AI. Nu ben ik even benieuwd Matthijs, wat zie jij al specifiek aan agentic AI use cases ontstaan bij klanten?

Heel vet zeg. Nu ben ik wel benieuwd wat de luisteraars ervan vinden. Want de stelling van deze week luidt. In de komende drie jaar gaat Agentic AI meer migraine genezen dan veroorzaken. Stem mee via teamroxxus.nl slash AI report of via de link in de show notes. Tot volgende week.

Ik bedenk aan een scène in de science fiction film... Close Encounters of the Third Kind. Er komt op een gegeven moment een groot ruimteschip naar beneden... en die begint muziek te spelen op een piano. En dan gaan die engineers daar terug spelen op de piano met de hand. Maar op een gegeven moment loopt het uit de hand... en moeten ze hem eigenlijk overgeven aan de AI. En dan zijn dus dat ruimteschip en die piano... elkaars AI aan het inzetten om te laten zien dat ze intelligentie hebben. Ik voel het nu alsof jij ook weg bent gelopen van je computer...

Maar ik ben wel benieuwd, want uiteindelijk wil je misschien wel, dat is ook een beetje dat agent-to-agent protocol van Google, dat beide agents elkaar gewoon bekend maken en zeggen, dude, skip the crap. Wat is hier de onderhandeling? Let's go. Precies, dat is voor het eerst dat ik dacht, we kunnen dit inderdaad beter doen, want dit slaat helemaal nergens op. Agent detected, switching to agent-to-agent protocol. Ja, laat maar horen wat de uitkomst is. Ja, bizar. Heb jij nog wat meegemaakt?

Nou, ik merk dat ik... Het is wel grappig. Ik had een spelfout in een van mijn slides van mijn lezing. En die was erin gekropen. Ik ben niet zo denderend met de Nederlandse taal. En toen had ik een soort dubbele reactie van het publiek. Want mensen hadden zoiets van haha. Want een soort van gacha. Maar ook...

...duud, maak jij dit zelf? Teleurstelling, maak er deel van in. Ja, maar ook een soort... ...er ontstond een soort vreemd gevoel... ...van authenticiteit. En toen was er iemand die zei... ...dit doe je er zeker expres in. Zit er in jouw prompt dat er een soort glitches in? Iedereen had allemaal ideeën over. Maar bij deze, ik maak die slides gewoon nog zelf. Ik vind dat een soort leuk ook om te doen.

En mijn Nederlands is gewoon niet zo best. En ik laat eigenlijk AI niet zo vaak meekijken in mijn slide creatieproces. Dus ja, spelfouten zijn real. Maar ik merk het ook in de intro. Jij leest natuurlijk de intro voor. Die tekst heb je eigenlijk voor je. Maar soms stotter je daarin of dan sla je een woordje over. En ik voel dan ook de neiging om te zeggen nee, nee, laat maar. Laat het er maar in. Dus ik vind het heel interessant hoe het piepen en kraken van de menselijkheid op een bepaalde manier nog gezien wordt nu als authenticiteit. Ja. Ja.

Nou, een van de innovaties die in open claw zat en waarom open claw ook zo hyperig werd en dat de mensen er aandacht voor hadden, is dat in open claw een zogenaamde heartbeat zit. En een heartbeat is eigenlijk een proces wat je als een soort hartslag laat draaien en lange hartslag of hoe zeg je dat, een hartslag iedere 10 seconden of iedere 15 seconden en zegt moet ik nog wat doen?

Moet ik nog wat doen? Een AI die zichzelf iedere tien seconden vraagt... moet ik nog wat doen. Ja, en dat trucje van een soort heartbeat-achtig proces... ik noem het een trucje, want het is vrij simpel technisch eigenlijk... dat creëert een soort proactief iets... wat dan ineens e-mails gaat structureren. In plaats dat wij aan een AI vragen... structureert deze e-mail? Gaat dat ding de hele tijd kijken? Ben jij bezig met een e-mail? Zo ja...

Dan ga ik je helpen. Of is jouw mailbox inmiddels vol? Boven de tien ga ik structureren. Ik noem maar iets. En dus eigenlijk is het iets wat constant controleert... in allerlei contexten van mailboxen, van filesystems... van noem het allemaal maar op. Agenda's tot en met administratie. Van hé, dit begint nu op een threshold te raken, zeg maar. De situatie is in zoverre veranderd in de laatste tien of vijftien seconden... dat ik erop ga handelen. En dat geeft een...

Bijzondere ervaringen, open cloud gebruikers hebben dat voor het eerst meegemaakt. Hij gingen daarom allemaal op internet roepen, dit is revolutionair. Dit is dus nu eigenlijk stiekem al mogelijk in cloud code. Is dat je in het geval van softwareontwikkeling, jouw softwareproject waar de hele dag aan gewerkt wordt door mensen en agents, ook in de gaten gehouden wordt door een proces dat iedere x interval, seconden of minuten, meekijkt en op een gegeven moment zegt, ik moet de code gaan opruimen. Ik moet weer een test gaan draaien.

dan zet jij je eigen schedule. Dus jij zegt, dit moet iedere zondag gebeuren... of doe dit wekelijks. En dan gaat hij daarmee aan de gang. Omdat jij vindt dat dat om die interval moet gebeuren. Wat je hier eigenlijk ziet is... er draaien al dit soort processen. Bijvoorbeeld wanneer Claude aan het programmeren is... doet hij soms even de context window compacten. Omdat hij merkt... ik ben nu zoveel in werkgeheugen aan het houden. Werkgeheugen is duur, letterlijk...

Dus ik ga heel eventjes een tussenpauzetje nemen en dan ga ik weer door. Dat is eigenlijk ook iets wat proactief gebeurt. Het compacten, zeg maar. Wanneer Klaat dat voelt of vindt eigenlijk dat het nodig is. Maar dat is wel iets wat ze dan noemen mid-sessie. Dus je bent in gesprek met Klaat. En tijdens die sessie waarin Klaat toch met jou aan het praten is, draait er nog iets mee dat die compacting doet. Oké, dus dat is een voorbeeld. Iets wat de hele tijd afvraagt, moet ik al samenvatten? Moet ik al samenvatten? Ja, ik ga nu samenvatten. Alleen tijdens de sessie.

Terwijl wat we hierover praten, daarom is deze optie nog achter een feature flag zoals dat heet, dus hij zit verstopt achter een knopje waar wij eigenlijk niet bij konden hiervoor, maar Entropic wel, is dat dit knopje eigenlijk zegt als Alexander zijn sessie gesloten heeft, ga jij op de achtergrond nog steeds nadenken of jij iets voor hem moet doen.

En iets voor hem moet doen binnen de code context is dus. Moet ik die test nog een keer draaien? Hé, de code is heel erg veranderd. Ik ga nog eens meekijken. Ik ga de readme even updaten. Want de documentatie loopt inmiddels achter. En dus je zou kunnen zeggen. Het is een vorm van compacting. Maar dan nog honderd andere dingen. Dus documentatie, update, et cetera. Die buiten de sessie plaatsvindt. Dus de sessie is al gesloten. En toch gaat het systeem door met proactief kijken. Wat er nog allemaal. Een soort huishoudtaakjes eigenlijk nog liggen.

Ja, precies. Want je zegt heel mooi ongevraagd. Dit is ook de reden dat deze feature nog verstopt zit. Want ten eerste de kosten. Hoeveel mag die doen? Want iedere denkactie kost geld. Dus dat is al raar. Ten tweede security. Ik ga het hele product opnieuw bouwen. Want ik ben het niet meer eens met de missie. Oké, wat heb jij besloten dan? Dus je kunt je voorstellen dat een proactieve agent... die buiten de sessies om van de programmeurs meedraait... best wel een risico vormt. Hoe denk je dat ze het gaan vormgeven? Ik denk dat het... Ik denk...

Wietsers aannamen, dit draait al binnen Entropic. En intern. Ja, want dat is een beetje natuurlijk het gekke, dat Entropic zelf draait nieuwere en interessantere versies van Cloud Code en dat wij dat doen om Cloud Code te bouwen, onder andere. En die zijn denk ik aan het experimenteren binnen een soort, ja, hoe zeg je dat...

Zandbak, ga ik dan vanuit. Wat gebeurt er nou als we deze systemen niet meer... Wat we eigenlijk hebben zien gebeuren is dat programmeurs samen met AI gingen werken. Vraag stellen, antwoord krijgen, vraag stellen, antwoord krijgen. Dan AI die minutenlang kan dooritereren. Dan AI die in een loop werd gezet, de Ralph loop zoals het heet. Die constant gewoon zegt, kan ik nog meer doen? Kan ik nog meer doen? En dat stelt hij zichzelf iedere keer als hij klaar is. Ik ben klaar, kan ik nog meer doen? Waardoor je een soort ketting creëert. Maar zo'n loop werd vaak na twee dagen weer uitgezet.

Dan was het klaar. Dus ze hebben op een gegeven moment... een hele zware C-compiler gemaakt. Een heel cruciaal onderdeel van besturingssystemen. Door twee weken lang de loop te draaien. Maar na twee weken was het wel klaar. En hier zeg je eigenlijk... to infinity and beyond... jij blijft het doordraaien. En als je dan aan mij vraagt... voor wat voor taken dan? Ik denk dat je dan bijvoorbeeld zegt... jij gaat op de achtergrond doordraaien... om constant de documentatie up-to-date te houden... forever. Ja.

dat zo'n heartbeat dat bijhoudt. Ja, want het is wel een beetje... want wat je eigenlijk op een bepaalde manier vraagt... is je hebt bijvoorbeeld ook hooks... en daarmee zeg je eigenlijk... die hadden we al in Cloud Code... dat je zegt, joh, iedere keer als iemand een wijziging doet... update ook even documentatie. Dat doen we al. Dus dan zou je afvragen... waarom die heartbeat dan? Ik denk dat je met zo'n proactieve heartbeat... dat je op een bepaalde manier kunt zeggen... hier is jouw overal missie... bijvoorbeeld het up-to-date houden van de documentatie...