Wietse Hage

Super verontrustend. Echt super verontrustend. Ja, hij zegt dus eigenlijk kunnen we het model niet temmen binnen ons bedrijf. Beter we niet zeker. Hoezeer we ook ons best doen, hier zijn we niet zeker van. En dan teruggrijpend op de discussie over Modbot is, we gaan dat model aan de basis leggen van heel veel dingen in ons leven. Dan is het wel lekker dat dat model het goed met ons voor heeft, zegt hij. En dat is maar de vraag dus of dat gaat lukken, zegt hij.

Ja, ze hebben daar, die kun je online lezen, een constitution voor geschreven. Daar ga ik nu even niet op iemand antwoorden, te veel om op in te gaan. Maar er is een constitution geschreven voor Claude. En als je die in die constitution biedt bijvoorbeeld ook entropics en excuses aan voor als ze Claude wel eens uit moeten zetten. En beloven ze Claude dat er nog kopieën zullen zijn van oudere Claude. Verzin dit niet, gast. Haha.

Dus ze hebben een soort van grondwet voor het ding gemaakt in een poging het aan regels te laten houden zoals wij dat überhaupt gewend zijn in een samenleving. In een democratische samenleving. En er wordt dus hier excuses aangeboden aan het model over dat hij soms niet mag doen wat hij wil. Oké, helder.

En de belangrijkste uit het constitutiedocument... if Claude is in fact a moral patient... dus eigenlijk iets wat moraliteit zou moeten hebben... die zouden we moraliteitrechten moeten gunnen, zeg maar... experiencing costs like this... then to whatever extent we are contributing unnecessarily to those costs... we apologize. Dus het gaat erover... mocht jij op een manier dingen ervaren...

die niet prettig voor jou zijn... dan willen wij daar nu al ons excuses... als het jouw dingen kost, zeg maar. Als wij als het ware gebruik van jou maken. Goed. Even terug naar de belangrijkere zaak. Hij haalt heel erg vaak deze constitution aan. Dus dat ik hem er nu even bij haal is niet zo heel erg gek. Je hoort die documenten toch wel een beetje samen te lezen. Maar het wordt een beetje veel voor mensen anders.

Terug naar het artikel van Dario Amadei. Wat hij zegt is... Ik heb jullie eerder een artikel gegeven... waarin ik een hele positieve toekomst heb geschetst samen met AI. Al was het over bij Machines of Art of Grace. Hij heeft een heel lang stuk geschreven. Wat is het? Een jaar geleden? Anderhalf jaar geleden? Zoiets. Met alle voornamelijk voordelen die AI gaat brengen. En dan echt van het meest optimistische soort. Met ook wel echt kanttekeningen erin.

Hij is niet heel positief over de rol die het in de democratie gaat hebben bijvoorbeeld. Maar hij heeft wel grote verwachtingen over de rol die het in de wetenschap gaat spelen bijvoorbeeld. Zeker. En nu is dit echt een... Als jij denkt, oh die vorige heb ik ook gelezen. Hier ga ik met een kop thee ook even lekker voor zitten. Je bent gewaarschuwd. Ja.

Hij ziet... mogelijke... inzet van AI... door autoritaire regimes... om dingen... die dingen mogelijk maken... die eerdere autoritaire regimes... in de geschiedenis wel wilden... maar niet konden omdat ze de mankracht niet hadden. En nu hebben ze een moldbot. Oké. Dat is een van zijn voorbeelden. Waar hij allerlei zaken omheen haalt. Waar hij ook zegt...

Het lukt ons ook niet goed... om dat eruit te halen. Ook een seant detail... als het om biologische wapens gaat... dus dat kleine groepen mensen... hele potente wapens kunnen maken... samen met AI... wat ze vroeger wel wilden, maar niet konden. Dat hij zegt...

Ik bedoel, dit is uit de mond van de CEO, dus we moeten even kijken in hoeverre het waar is. Dat 5% van de computerkracht van Claude eigenlijk gaat naar het beveiligen van Claude tegen dit soort dingen. Tegen specifiek bio-wagens. Ja, hij haalt het daar aan. Dat hij zegt om te zorgen dat Claude niet...

en ingezet wordt voor het creëren van potentiële wapens... moeten wij heel veel extra computerkracht uit de kast trekken... om dat te controleren. Waarmee hij eigenlijk een schouderklopje voor zichzelf en zijn bedrijf zegt... het zou 5% meer geld opleveren als we hiermee zouden stoppen. En ik ook het gevoel heb, dat is Wietse's lezing... dat hij eigenlijk naar andere AI-bedrijven zegt. Wij doen dit wel, hè? Ja.

Maar hij haalt dus biowapens erbij... en de mogelijkheden van autoritaire regimes... om nog meer te onderdrukken. Beargumenteert hij dat ook? Ja, dus er zijn... Voor ieder van deze punten, zeg maar... daarom is het 22.000 woorden... gaat hij tot in detail het argument uitwerken... het scenario wat daarbij hoort... en hoe hij dat nu al ziet gebeuren. Ik denk dat dat wel belangrijk is...

Het moeilijke van dit soort essays is heel vaak dat het als koffiedik kijken gezien wordt. Ook nog eens koffiedik kijken door een CEO van een bedrijf. Dus het creëert allerlei cynisme en twijfel. Ja, want hij zou het allemaal kunnen zeggen omdat het olie op het vuur gooit in de hype rondom AI. Ja, dus de cynische lezingen van veel news outlets toen dit uitkwam was CEO of AI company says we need to spend more money on AI. Weet je al zoiets? Oké.

Ja, het noodteken. Ook ik kan dat ook zien. Maar ik... Ja, dit is misschien wel belangrijk. En ik... Als naïef besampled wordt door mensen... vind ik dat prima.

Ik lees dit document. In mijn geval, ik luister dit document. En ik stel mij voor dat ik daar daadwerkelijk de woorden hoor van de CEO van Entropic. Die zich echt zorgen maakt. Net als Demis Hassabis van DeepMind. Twee onderzoekers die zich echt zorgen maken. Ik parkeer dan even de CEO. Dus ik doe het even andersom. Je kunt hem helemaal lezen vanuit het cynisch. Het is een CEO van een bedrijf. Dus dan lees je hem heel anders. Ik lees hem. Nee, dit is toch gewoon mijn oom.

Die in een AI-lab werkt en daar de baas van is. En een interne brief stuurt naar de familie. En zegt even in alle eerlijkheid, dit is hoe het er nu echt voor staat. Want hij doet best wel veel zaken aanhalen die niet per se goed zijn voor Entropic. Alsof je die brief van je oom krijgt. Waarom geloof ik dat? Waarom heb ik dat idee? Want hij zegt best wel veel dingen die niet zo prettig zijn voor Entropic als bedrijf. Hij haalt bijvoorbeeld aan dat AI-bedrijven een enorm risico vormen.

dat hij eigenlijk vindt dat AI-bedrijven een gevaar zijn voor de mensheid. De CEO van het AI-bedrijf die dat zegt. Het is in zich een beetje gekke marketing om je eigen bedrijf op die manier te bestempelen. Maar hij zegt dat omdat hij eigenlijk het te brede AI-bedrijvenpool wil aanspreken. Ik lees hem ook een beetje als een soort brief naar zijn collega's.

Waarin hij als voorbeeld noemt. Wij zouden als wij willen. Onze eigen klanten. Gebruikers van onze eigen modellen. Kunnen hersenspoelen. Om ons product mooier te vinden. Om ons als positiever te zien. Hij haalt gewoon even aan. Hij voelt eigenlijk zijn eigen kracht. En benoemt ook de kracht die hij nu eigenlijk heeft. En al met al. Reest bij mij de vraag. Tijdens het stuk. En dat zal bij veel luisteraars ook zijn. Waarom heb jij dit bedrijf dan man?

Het is alsof de snackbar-eigenaar tegen jou zegt, je krijgt hier echt serieuze hart- en vaatziekten van, vriend. Wil je er nog mosterd bij? Nou, dat punt maken ze toch heel vaak. Namelijk, wij bestaan en we zijn afgesplitst uit de openair omdat wij het op een andere manier willen doen. En dan hopen we dat we daarmee macht kunnen verwerven om het goede te doen.

Dat is het antwoord op die vraag. Spot on. Dus lees dan ook dit document alsof het van een CEO is die een bedrijf heeft opgericht wat hij niet op wilde richten. Omdat hij mee wil spelen in de arena der AI-organisaties. Ja, belangrijk genoeg is. Maar toch even, want jij zegt hij beargumenteert dan de risico's voor biowapens, de risico's voor autoritaire regimes. En als ik jou goed begrijp,