Alexander Klöpping

Of je moet noodgedwongen je app updaten. Want er is iets aan de hand. En zo leven wij als mens in een wereld... waar je soms wel eens een mailtje krijgt met... je moet updaten of op kantoor je laptop moet updaten. En updates zijn daarvoor namelijk. Ik denk alleen dat het tempo...

Orde van grootte en tempo van wat er nu aan het gebeuren is... is wel echt intens. Dat maakt het echt intens. En ik wil nog een leuk voorbeeld geven. Ik weet niet of je dat ooit gehoord hebt, maar... er werden al routertjes gehackt en overgenomen. En toen op een gegeven moment is er...

een groep geweest die zei, maar wacht even, kunnen we niet die routers overnemen en ze updaten? Dus dit is ook al gebeurd, dat er een soort update verspreid is door naar binnen te hekken om haar aan te geven. En ik kan me voorstellen dat dit ook onderdeel gaat worden van de strategie met mythosachtige systemen om worms te bouwen die jou komen genezen in plaats van ziek maken. Maar goed, dat is eigenlijk heel hoopvol.

In december vorig jaar hebben we het Cloud Code moment gehad, waarop veel ontwikkelaars eigenlijk met de kerst geconfronteerd werden met een systeem dat redelijk goede websites en software kan maken en apps. Dat is inmiddels een gegeven voor de meeste luisteraars van deze show. Er was een momentje in december, dat was Cloud Code. Daardoor zijn veel meer, ook vooral senior ontwikkelaars, in ieder geval serieuzer gaan nemen wat er in die AI-hyperige wereld gebeurt. Je bedoelt daarvoor namelijk een hoop het gewoon niet serieus genoeg.

Nou ja, goed. Die keken ernaar. Gaven het een moeilijke opgave die ze goed kenden uit hun eigen werk. Kregen een matig antwoord terug. Een glimlach op hun gezicht. Zo goed werkt het helemaal niet en ik ben nog niet overbodig. En in december is er een substantiële groep mensen bijgekomen... die zegt, als dit een beetje lineair zo doorgroeit de komende jaren... dan komt het wel in de buurt van mijn kunnen. Kijk, security research...

Werken aan systemen op het diepste niveau, level 0, is wel even wat anders dan een websiteje bouwen. Is wel even wat anders dan een appje maken. Sterker nog, websites en apps draaien op level 5. En je kan ook, de complexiteit neemt ook toe naarmate je naar het midden gaat. En ook de groep mensen op de wereld die dat nog begrijpt, neemt af. Dus de complexiteit neemt toe, de groep mensen neemt af.

Dus kernel developers, dus mensen die werken aan die roestige ondergrond waar de wereld op staat. Dat is een hele aparte groep. Dat zijn echt helden, want vaak doen ze ook nog in vrijwillige tijd werken aan het infrastructuur van de digitale mensheid.

Die groep, als die keken naar LLMs, taalmodellen zoals CLAD, dan zagen zij iets wat een websiteje kan maken en een appje kan maken, maar absoluut niet mee kan praten op het niveau van daadwerkelijk waar het in hun ogen over gaat. Noem het de hogere wiskunde, het serieuze softwarewerk, het hardwarewerk zelfs.

Nu kruipen die modellen ook naar die groep toe. Kijk, het echte bewijs daarvan is natuurlijk... als 27 jaar lang mensen plus geautomatiseerde systemen... niet in OpenBSD een gat in de deur zien zitten... of een mogelijkheid tot een sleutel. Dat is zo. En dat er een taalmodel wat woordjes voorspelt...

het lukt om iets te voorspellen... wat die deur opent. Kijk, daar kan iedereen over roepen wat hij wil... maar dat is echt spectaculair... dat dat nu gebeurd is. Dat zorgt ervoor dat wat ik nu zelf zie... online, en dan noem ik even wat mensen... de...

Er is best wel een grappige meme over die ook heel pijnlijk is. Het idee dat je een soort Jenga-achtige toren ziet staan met blokjes hout op elkaar gestapeld. Waarbij een gigantische hoeveelheid blokken zit bovenin. En onderop zijn het een paar hele dunne blokjes die die hele toren omhoog houden. Typisch beeld. Die onderste blokjes zijn bijvoorbeeld OpenSSL, Curl, FFmpeg. Dat zijn een beetje de heldenprojecten van het internet.

Dat is de rug van de reus waar het internet op staat. In die projecten werken mensen die nu al een maand of een paar jaar roepen... het valt eigenlijk wel mee. Die zijn boos geweest, zelfs tot nu toe heel lang, terecht. Die krijgen allemaal bugreports. Dus meldingen van gaten in hun belangrijke grondstukken van die toren. Die onzin zijn.

Gewoon stomme AI verzonnen nep dingen. Waar mensen proberen bounties te krijgen. Of status te krijgen. Wanneer veranderde dit? Drie, vier maanden geleden. Want toen opeens? Toen opeens kwamen de bug reports binnen. Goed omschreven. Goeie test erbij. Wat je moet doen. En het werkt. Dit is een sleutel. Krijg nou wat. Dit is een echt gat. Er is dus iemand dan geweest. En grob ik.

Dat is geen geheim. Wat we weten nu, is dat er in Cloud Code een modus zit om zo anoniem mogelijk pull requests te doen. Dus eigenlijk van die bug reports achtige dingen op open source repositories. En dat is een beetje dan, laten we het de achterklap noemen van het online AI discours.

Dat Entropic onder andere maar ook OpenAI al langer bezig is om de fundamentele stenen aan de onderkant van de internet jenga te helpen. Omdat het natuurlijk in hun eigen belang is ook dat er nog een internet is straks en de samenleving daarbij.

Ja, en dat is, ik bedoel, als we dan iets meer de vrijheid nemen om te kijken. Kijk, we hebben dus de core developers van FFmpeg, een belangrijke video-audio bouwsteen van het internet. Die hebben gewoon nu gezegd, jongens, wij kregen tot drie, vier maanden geleden alleen maar zooi binnen. We waren boos. En ineens kregen we goede dingen binnen. We hebben ze getest. We zijn dankbaar. Bedankt, Entropic. Die zeggen dat nu. Ja, vibeshift.

Ja, het is toch evident dat het hierop uit... Ja, maar ik denk dat als ik juist wil horen dat... wat je eigenlijk zegt als het dan gaat om die soort balans... tussen de kat en de muis... is als je het bekijkt als een kat-en-muis-spel... tussen security researchers versus hackers. Mensen aan de ene kant proberen sleutels te maken... en aan de andere kant sloten te maken... die tegen die sleutels opgewassen zijn...

En dat die, dat gesprek als het ware tussen die twee, die machten die met elkaar heen en weer bewegen, dat nu aan de ene kant aan de macht van de hacker als het ware potentieel een AI toegevoegd gaat worden aan het arsenaal van de hacker, namelijk een autonomous hacker, een AI hacker, om het maar even zo te zeggen.

Wat we nu als eerste krijgen, omdat Entropic daarvoor gekozen heeft, is zeggen we gaan eerst het team security gaan we de toverstaf geven. Want daar hebben we controle over het geven van die toverstaf. Wetende dat 6 tot 8 tot 12 maanden gaan die toverstaffen de hele wereld in. Dus dan gaat ook het andere team deze gimmick krijgen, deze nieuwe kracht.

En als we dan zorgen dat het team security alvast geüpgrade is, dan komt er na team hackers die worden ook geüpgrade en zo herbalanceert die wereld zich weer. En dan heb je uiteindelijk aan allebei de kanten een AI zitten en dan is sowieso het werk van zowel de security researcher als de hacker weg. Zeg jij dat ongeveer?