Alexander Klöpping

Dus ze hebben een soort van grondwet voor het ding gemaakt in een poging het aan regels te laten houden zoals wij dat überhaupt gewend zijn in een samenleving. In een democratische samenleving. En er wordt dus hier excuses aangeboden aan het model over dat hij soms niet mag doen wat hij wil. Oké, helder.

En de belangrijkste uit het constitutiedocument... If Claude is in fact a moral patient... Dus eigenlijk iets wat moraliteit zou moeten hebben... Die zouden we moraliteitrechten moeten gunnen, zeg maar. Experiencing costs like this... Then to whatever extent we are contributing unnecessarily to those costs... We apologize. Dus het gaat erover... Mocht jij op een manier dingen ervaren...

die niet prettig voor jou zijn... dan willen wij daar nu al ons excuses... als het jouw dingen kost, zeg maar. Als wij als het ware gebruik van jou maken. Goed. Even terug naar de belangrijkere zaak. Hij haalt heel erg vaak deze constitution aan. Dus dat ik hem er nu even bij haal... is niet zo heel erg gek. Je hoort die documenten toch wel een beetje samen te lezen. Maar het wordt een beetje veel voor mensen anders.

Terug naar het artikel van Dario Amadei. Wat hij zegt is... Ik heb jullie eerder een artikel gegeven... waarin ik een hele positieve toekomst heb geschetst... samen met AI. Al was het over bij machines. Ja, hij heeft een heel lang stuk geschreven. Wat is het? Een jaar geleden? Anderhalf jaar geleden? Zoiets. Met alle voornamelijk voordelen die AI gaat brengen. En dan echt van het meest optimistische soort. Met ook wel echt kanttekeningen erin.

Hij is niet heel positief over de rol die het in de democratie gaat hebben bijvoorbeeld. Maar hij heeft wel grote verwachtingen over de rol die het in de wetenschap gaat spelen bijvoorbeeld. Zeker. En nu is dit echt een... Als jij denkt, oh die vorige heb ik ook gelezen. Hier ga ik met een kop thee ook even lekker voor zitten. Je bent gewaarschuwd. Ja.

Hij ziet... mogelijke... inzet van AI... door autoritaire regimes... om dingen... die dingen mogelijk maken... die eerdere autoritaire regimes... in de geschiedenis wel wilden... maar niet konden omdat ze de mankracht niet hadden. En nu hebben ze moldbot. Oké. Dat is een van zijn voorbeelden. Waar hij allerlei zaken omheen haalt. Waar hij ook zegt...

Het lukt ons ook niet goed... om dat eruit te halen. Ook een seant detail... als het om biologische wapens gaat... dus dat kleine groepen mensen... hele potente wapens kunnen maken... samen met AI... wat ze vroeger wel wilden, maar niet konden. Dat hij zegt...

Ik bedoel, dit is uit de mond van de CEO, dus we moeten even kijken in hoeverre het waar is. Dat 5% van de computerkracht van Claude eigenlijk gaat naar het beveiligen van Claude tegen dit soort dingen. Tegen specifiek biowagens. Ja, hij haalt het daar aan. Dat hij zegt om te zorgen dat Claude niet...

misbruikt wordt en ingezet wordt... voor het creëren van potentiële wapens... moeten wij heel veel extra... computerkracht uit de kast trekken... om dat te controleren. Waarmee hij eigenlijk... een schouderklopje voor zichzelf en zijn bedrijf zegt... het zou 5% meer geld opleveren... als we hiermee zouden stoppen. En ik ook het gevoel heb... dat is Wietse's lezing... dat hij eigenlijk naar andere AI-bedrijven zegt... wij doen dit wel, hè...

Maar hij haalt dus biowapens erbij... en de mogelijkheden van autoritaire regimes... om nog meer te onderdrukken. Beargumenteert hij dat ook? Ja, dus er zijn... Voor ieder van deze punten, zeg maar... daarom is het 22.000 woorden... gaat hij tot in detail het argument uitwerken... het scenario wat daarbij hoort... en hoe hij dat nu al ziet gebeuren. Ik denk dat dat wel belangrijk is...

Het moeilijke van dit soort essays is heel vaak dat het als koffiedik kijken gezien wordt. Ook nog eens koffiedik kijken door een CEO van een bedrijf. Dus het creëert allerlei cynisme en twijfel. Ja, want hij zou het allemaal kunnen zeggen omdat het olie op het vuur gooit in de hype rondom AI. Ja, dus de cynische lezingen van veel news outlets toen dit uitkwam was CEO of AI company says we need to spend more money on AI. Weet je al zoiets? Oké.

Ja, het noodteken. Ook ik kan dat ook zien. Maar ik... Ja, dit is misschien wel belangrijk. En ik... Als naïef besampled wordt door mensen... vind ik dat prima.

Ik lees dit document. In mijn geval, ik luister dit document. En ik stel mij voor dat ik daar daadwerkelijk de woorden hoor van de CEO van Entropic. Die zich echt zorgen maakt. Net als Demis Hassabis van DeepMind. Twee onderzoekers die zich echt zorgen maken. Ik parkeer dan even de CEO. Dus ik doe het even andersom. Je kunt hem helemaal lezen vanuit het cynisch. Het is een CEO van een bedrijf. Dus dan lees je hem heel anders. Ik lees hem. Nee, dit is toch gewoon mijn oom.

Die in een AI-lab werkt en daar de baas van is. En een interne brief stuurt naar de familie. En zegt even in alle eerlijkheid, dit is hoe het er nu echt voor staat. Want hij doet best wel veel zaken aanhalen die niet per se goed zijn voor Entropic. Alsof je die brief van je oom krijgt. Waarom geloof ik dat? Waarom heb ik dat idee? Want hij zegt best wel veel dingen die niet zo prettig zijn voor Entropic als bedrijf. Hij haalt bijvoorbeeld aan dat AI-bedrijven een enorm risico vormen.

dat hij eigenlijk vindt dat AI-bedrijven een gevaar zijn voor de mensheid. De CEO van het AI-bedrijf die dat zegt. Het is in zich een beetje gekke marketing om je eigen bedrijf op die manier te bestempelen. Maar hij zegt dat omdat hij eigenlijk het te brede AI-bedrijvenpool wil aanspreken. Ik lees hem ook een beetje als een soort brief naar zijn collega's.

Waarin hij als voorbeeld noemt. Wij zouden als wij willen. Onze eigen klanten. Gebruikers van onze eigen modellen. Kunnen hersenspoelen. Om ons product mooier te vinden. Om ons als positiever te zien. Hij haalt gewoon even aan. Hij voelt eigenlijk zijn eigen kracht. En benoemt ook de kracht die hij nu eigenlijk heeft. En al met al. Reest bij mij de vraag. Tijdens het stuk. En dat zal bij veel luisteraars ook zijn. Waarom heb jij dit bedrijf dan man?

Het is alsof de snackbar-eigenaar tegen jou zegt, je krijgt hier echt serieuze hart- en vaatziekten van, vriend. Wil je er nog mosterd bij? Nou, dat punt maken ze toch heel vaak. Namelijk, wij bestaan en we zijn afgesplitst uit de openaar omdat wij het op een andere manier willen doen. En dan hopen we dat we daarmee macht kunnen verwerven om het goede te doen.

Dat is het antwoord op die vraag. Ja, spot on. Dus lees dan ook dit document alsof het van een CEO is die een bedrijf heeft opgericht wat hij niet op wilde richten, omdat hij mee wil spelen in de arena der AI-organisaties. Ja, belangrijk genoeg is. Maar toch even, want jij zegt hij beargumenteert dan de risico's voor biowapens, de risico's voor autoritaire regimes. En als ik jou goed begrijp,

Het beargumenteert hij dan ook aan de hand van huidig gebruik. Dus hij beschrijft hoe autoritaire regimes bijvoorbeeld hun technologie gebruiken. Ja, en dat zij ook al zien dat het gebeurt. Wat dan? Ja, er zijn heel veel details die hij daarin aanhaalt. Dus zij monitoren het gebruik van de doeling. En hebben ook een aantal keer op stop gedrukt.

En accounts moeten verwijderen en onderzoek uitgevoerd, omdat zij al merken. Dus ik denk dat je sowieso, ik vind het heel goed dat je dit zegt, dat we de optie open moeten houden dat alles wat hij aanhaalt is wat hij gezien heeft.