Wietse Hage

Totdat ze de volgende methode gebruikten om een model beter te trainen in Go. Grappig genoeg was dat door minder menselijkheid in te bouwen en die computer gewoon los te maken van de menselijke intuïtie en zelf intuïtie te gaan vinden. En toen lukte het opeens om zetten te maken waarvan, en dat staat dan op een gegeven moment in een passage in dat boek, dat er een Go-speler is die emotioneel raakte van de schoonheid van een zet die gedaan werd.

En het is een soort, als je eenmaal leest over hoe dat met Go is gegaan, dat is inmiddels, wat is het, tien jaar geleden? Zo lang geleden weet ik het nog niet. Nou, in ieder geval, het is een behoorlijke tijd geleden. Daar zit een periode van een paar jaar in waarin dat steeds beter is.

wordt en het van mensen die zeggen dit gaat de computer nooit doen naar mensen die gaan naar zeggen oké computer kan dat maar het is lelijk wat de computer doet tot het eindigt met ja de computer kan dit beter dan de mens de computer begrijpt dit spel op een fundamenteel niveau beter dan de mens en eigenlijk is het wonderschoon om naar te kijken en Lee Sedol de voormalig wereldkampioen Go is er gewoon mee gekapt omdat er viel geen eer meer aan te behalen

En op een bepaalde manier denk ik, ja, is dit het soort van blauwdruk die we op alles gaan toepassen? Nu is het cybersecurity. Dit is dan nu even de mal waardoor we naar kijken. Omdat het ook het onderwerp wat makkelijker begrijpt om het tastbaarder te maken. Want het is een groot generalistisch model. Het kan veel meer dan cybersecurity dingen doen. Maar hierbij is dan even de scope verkleinen. Even daarop inzoomen. Beseffen wat daar de...

gevolgen van zijn... en doorzien dat het weer exact... dezelfde stappen doorloopt. Tot het moment dat hackers... geen werk meer hebben. Net zoals menselijke go-spelers... geen werk meer hebben als het puur gaat... om het kunnen winnen van het spel.

Metals zal waarschijnlijk niet in deze vorm uitgebracht worden. We gaan nieuwe opens krijgen. Maar de Metals, de supermodellen daarboven... blijven altijd een soort van in het klein aan de zijlijn. Dus hoe we hiernaar moeten kijken is dat die AI-labs... eigenlijk altijd al meer capaciteiten intern hadden... dan dat ze publiekelijk releaseden. Omdat het onpraktisch is, als ik het heel goed begrijp. Zeker.

Nu zat hem dat vooral nog in de kosten die het had... en niet zozeer in dat het onveilig zou zijn. Misschien eventjes, omdat ze daadwerkelijk veiliger gemaakt moesten worden... voordat ze het in de wereld wilden slingeren. Maar dat had, als ik het goed begrijp, nog beperkte impact... op bijvoorbeeld het vinden van dit soort softwaregaten. Zo goed was het daar nou ook nog niet meer in. En nu opeens heb je dus dat model wat iedereen intern heeft...

maar niet publiekelijk lanceert, maar wel zelf gebruikt, is nu opeens goed en iets geworden wat daadwerkelijk heel veel waarde heeft. En daarmee verandert de dynamiek opeens. Dus opeens heb je een situatie waarbij Anthropic nu een groot model heeft waarmee ze anderen kunnen aanvallen. Ze gebruiken dat nu positief om gaten te vinden in software en dan gaan ze die anderen helpen. Dat is bekeken van Anthropic zelf, maar ondertussen is het in een eco-systeem waar ook Google bestaat, waarin ook OpenAI bestaat en waarbij ook de Chinezen bestaan.

Als we nou even dat soort van internationale aspect, als we China even erbuiten houden. En je kijkt puur naar de onderlinge competitie die dit heeft. Wat voor gevolgen heeft dit dan voor de onderlinge competitie tussen die AI-labs?

Nadrukkelijk, weet je, probeerden ze dat te voorkomen de eerste paar jaar door bijvoorbeeld met elkaar af te spreken. Weet je, DeepMind had in het begin nog de afspraak dat als er een ander lab zou zijn wat AGI zou bereiken, dan zouden zij zich bij dat lab voegen. Dus dan zouden ze niet, zo zouden ze proberen die hele race dynamiek proberen te ontwikkelen.

verlangzaam omdat er geen belang is bij het eerst te zijn. En dat laten we wel wezen. Dat is allemaal... Anthropic heeft dat soort principes gehad. Al die partijen hebben dat verzacht. Dat soort verzacht. Ik weet niet of dat het goede woord is. Een beetje losgelaten. Losgelaten onder de enorme druk die er nu is.

Zo'n capaciteit van een model, of het idee dat je een model hebt wat zo snel veiligheidsgraad kan vinden, lijkt me een enorme waardevolle toevoeging aan het wapenarsenaal van een land. Dus nu, hoeveel is er nog nodig om de regering Trump te laten zeggen, dit ga je helemaal niet uitbrengen, er is maar één klant die je hebt, dat zijn wij.

Stel, Amerika belandt in een oorlog met China of vindt op andere manieren belang erbij om hun aanvalskracht, zoals ze dat dan zeggen bij de overheid, in het cyberdomein te vergroten. Wat wordt dan het moment dat ze AI-modellen mogen gebruiken voor dit soort offensieve doelstellingen? En dat het ook echt eng is, zeg maar.

Het is een beetje selectieve verontwaardiging misschien, maar dat is ook het verwarrende aan deze tijd. Dat die generieke modellen of die generaliserende modellen zijn zo breed dat je niet meer weet waar je moet inzoomen. En daarom is het ergens ook fijn om je even te kunnen vastklampen aan cybersecurity. In ieder geval een tastbaar ding. Ja, over AI-hackers. Dat kunstenaars geen werk meer hebben, dan...

Kun je me helemaal opvegen. Maar toch nog even over cybersecurity ten slotte dan hoor. Om het af te zetten tegen de Chinezen. Waar staan de Amerikanen nu ten opzichte van de Chinezen? Wat ik zelf een beetje, dus dan doe ik een soort synthese van wat ik online meekrijg. Zes tot negen maanden.

Voordat de Chinezen dus ook een model hebben waarbij Amerikanen zich dan moeten wapenen met hun goede modellen. Jij bent eigenlijk aan het zoeken naar wanneer wordt het een soort model warfare. Oorlog tussen AI modellen. Het is moeilijk om cybersecurity los daarvan te zien. Het is misschien ook meer een opmerking dan een vraag.

Ongezellig. Ik zat te kijken naar Ben Thompson. Ben Thompson had één nuancerende opmerking. Namelijk, Anthropic. Hij had een citaat van Dario Amadei met het model wat we nu lanceren. Is getraind op een enorme hoeveelheden data. En we gaan het niet lanceren, want de capaciteiten hiervan zijn te groot. En hij had het over GPT-2.

Ja, ik denk nou... Oftewel, sinds die man leeft, is hij ongeveer aan het hypen over dat... Alles is mythos. Het is zo groot. Ik kan het allemaal... Wij hebben capaciteiten intern. Als wij die ooit releasen, de wereld zal niet hetzelfde zijn. Het is ook een beetje een soort van grijsgedraaide langspeelplaat geworden. Waar Ben Thompson, technologieanalyst, van zei... Ik wil echt niet...

Ja, nou we doen het ermee, lieve luisteraar. Wij danken Sam Hengeveld voor de edit. Pankra voor de vormgeving. Als je een lezing wil van de heer Haag... en daarna vrolijk naar huis wil gaan... dan mail je naar de lezing at ai-report.email. En als je op de hoogte wil blijven van het laatste AI-nieuws... twee keer per week tips en tools ontvangen... en het meeste uit AI wil halen... dan abonneer je via onze nieuwsbrief via ai-report.nl. En dan heb je dus ook...

Als je betaald abonnee wordt. Toegang tot onder andere. Dat meest recente webinar. Waarin we Cloud Cowork uitleggen. Fantastisch. Dank voor het luisteren. Dankjewel. Dag.