Wietse Hage

Noemde dat noodzakelijk. Hij denkt namelijk, en dat is waarmee ik het allemaal nog erger ga maken. Hij denkt namelijk dat we nog zo'n zes maanden hebben voordat open source modellen, de topmodellen van Anthropic en Google en OpenAI, waarbij Middles nu dus de voorloper is, zullen inhalen. En daarmee kan elke ransomware groep kwetsbaarheden vinden en bewapenen, mogelijk nog zonder een spoor achter te laten.

Dat willen we natuurlijk allemaal niet. En daarom geeft Anthropic grote bedrijven nu een soort van voorsprong. Zo kun je het zien. Dat ze de gaten kunnen dichten. Voordat kwaadwillenden erbij kunnen. Dat is de optimistische take van dit hele verhaal. Hoe groot is dit? Op de schaal van groot wil ik weten hoe groot. En 0 is klein en 10 is groot. 0 is inderdaad klein. Hoe hard ging je alarmbellen af deze week?

Die doen ransomware of op allerlei andere manieren proberen ze geld af te troggelen van mensen bijvoorbeeld door data te stellen. Zoals we recentelijk zagen bij die Odido hack. En dan heb je nog statelijke actoren die een belang daarbij hebben om hun eigen software veilig te maken, maar ook om in te breken bij anderen en soms zelfs

Zoals we in wat minder democratische regimes zien in te breken bij bijvoorbeeld journalisten of oppositiepartijen of wat dan ook. En vaak dan ook nog eens een keer met de hulp van private partijen die die exploit chains zoals je dat noemt te koop aanbieden.

Ja, het is nu eigenlijk al een enorme rijke markt in dit kat-en-muisspel van softwaremakers die hun software zo veilig mogelijk willen maken. Aan de andere kant mensen die er geld mee kunnen verdienen om die dingen te kraken of op een of andere manier macht te krijgen door die software juist te kraken. Dat is nu al zo. Dat is een wildige markt waarin, nou ja.

Een kat en muispeljes tussen die twee kanten. Maar nu is er opeens iets wat... Als ik goed begrijp wat er aan de hand is... zeggen ze eigenlijk dit is de loper voor alles. Het is en besturingssystemen en telefoons...

Maar aan de andere kant, want ik snap dat dit heftig is. Namelijk dat er een model is wat opeens schaten vindt die decennia lang onontdekt zijn geweest. Terwijl er talloze mensen iedere dag naar die code zitten te kijken. En er ook nog eens miljoenen automatische testen gedaan worden. Er waren al algoritmische systemen die dit deden. Dat deden we al. Precies.

En dat er nu een nieuw model is die dan opeens iets doet... wat al die mensen en machines daarvoor niet konden... dat is natuurlijk boeiend. Dat snap ik. Maar het voelt ook een beetje alsof er een stuk gereedschap is uitgevonden... wat door de goeie en de kwaaie gebruikt kan worden. Dus ik snap dat Anthropic nu dit als eerste bij de goeie wil neerleggen... om software de muren verder op te trekken... en ervoor te zorgen dat er echt geen gaten in zitten...

En dan komt die software straks uit voor de kwaaien. En ja, allebei kunnen dat nieuwe gereedschap gebruiken. Dus zolang dat evenredig verdeeld is, is er toch niet zo heel veel aan de hand. Je kan je ook opeens beter verdedigen. Het is niet alleen maar zo dat je beter kan aanvallen. Dus is het niet gewoon... Ja, eigenlijk verandert er weinig aan de status quo.

Ja, ik bedoel, dat is echt anders dan hiervoor. Want dit is één systeem wat heel veel gaten kan vinden. En dat is gewoon niet eerder voorgekomen op deze schaal. Nee, want je kunt natuurlijk... Zie je het een beetje? Ik bedoel, kijk, als de dijken breken...

best wel een uitdaging. De routerwereld is een jungle, jongen, van verschillende bedrijven en verschillende apparaten waar niemand meer van weet wie ze updaten en of die erop mag. Er is een... Het is kwetsbaarder eigenlijk, als ik je goed begrijp. Er zijn allemaal punten in het internet te vinden die eigenlijk heel kwetsbaar zijn en dat het geluk is dat het allemaal nog staat, maar...

Oké. Wat is nu een beetje de tendens onder cybersecurity mensen hierover? Het is wel boeiend, want ik zie het nu vooral gebeuren dat... Kijk...

Maar dat is natuurlijk een bizarre situatie, want in het geheim, want ze maken zichzelf niet kenbaar als Entropic of als OpenAI. Ze hebben bewust ingebouwd, laat het niet kenbaar zijn. Ja, in het geheim zijn ze dan de gaten waar hackers miljoenen voor zouden betalen, zijn ze dan vrijwillig aan het laten weten aan de mensen die aan de bouwstenen van het internet werken, want ze hebben er een belang bij dat die bouwstenen nog staan.

Ja, en hier kunnen we dan de fantasie iets meer laten gaan. En dus opeens de afgelopen maanden is dat dus een wezenlijk onderdeel geworden van de bugreports die ze binnenkrijgen. Eigenlijk, dit is waarom je ook zegt, we zagen het een beetje aankomen, want opeens veranderde daar iets. Van slechte bugreports gingen we naar daadwerkelijke gaten.

En zo zijn er nog vier van die hele belangrijke projecten... waar dus best wel senior, zwaargewicht ontwikkelaars op zitten... die nu zeggen, oké, wij zien het even anders nu. Ik zat een beetje door die reacties te lezen van dit soort mensen. En er viel me op dat er best wat mensen bij zaten... die ook een soort schoonheid beschreven in de bugs die gevonden werden...

Dus een soort waardering eigenlijk ook konden opbrengen... voor de methodes die die AI gebruikt. Ik ben echt een fantastisch boek aan het lezen... wat nu een paar dagen uit is. Het heet The Infinity Machine. Het is de biografie over Demis Hassabis van DeepMind, van Google...

En het beschrijft eigenlijk zijn hele pad vanaf het oprichten van zijn jeugd. Het is een chess prodigy en die een soort van heel vroeg geloofde in AGI en alles dan heeft gedaan dat werkelijkheid te maken een belangrijke rol erin gespeeld heeft.

En op een gegeven moment gaat het heel veel over het verslaan van Go. Ze hebben dan schaken, heeft IBM Deep Blue al gedaan. Schaken was een relatief eenvoudig spelletje om te verslaan. Er zijn weinig zetten. En door gewoon heel veel zetten van menselijke spelers in te laden... kon je dat spelletje verslaan. Bij Go is dat veel lastiger, want er zijn veel meer mogelijkheden. En dus die computers liepen daar simpel gezegd op vast.

Er waren fundamenteel nieuwe methodes nodig. En hij beschrijft in dat boek heel mooi over hoe ze bij die methodieken komen. Op een gegeven moment lukt het dan dus om de wereldkampioen Go te verslaan. En de mensen die dan Go spelen, en het doet me dus een beetje denken aan wat jij net vertelt, zijn een beetje...

Het is alsof ze een beetje neerkijken op de zetten die die computer doet. Want ze vinden de zetten lelijk en agressief. Een beetje zoals mensen over... Ja, ik weet niks van voetbal, maar mensen kunnen over voetbal praten, over dat Nederlands elftal ooit een soort van spel had waar mensen een soort van poëzie in zagen. Dat was hier niet het geval met Go.