Wietse Hage

Op een gegeven moment is het een groter flesje, een doosje flugel, dan gaat de waterpijp op tafel. Het feestje begint te veranderen. Waar zeg jij stop? Bij het eerste flesje, bij het tien flesje, zeg maar. En dat is het moeilijke met dit soort slippery, sloopachtige shit. Waar ik met stop zeggen bedoel is, dit moldbot ding is nu gewoon nog, tot nu toe in ieder geval, of er moet iets gebeurd zijn terwijl wij zitten op te nemen, best wel grappig.

Een paar nerds die ermee spelen. Hilarische dingen op X over wc-rollen. En zalm. Ja, en zalm om vier uur s'nachts. Het is eigenlijk nog best wel grappig. Maar ja, met een sterkere modbot die makkelijker te installeren is op meer en meer en meer en meer computers. Statistisch gezien kom je op een plek terecht waar je een soort van extra entiteiten in de wereld hebt die kunnen handelen en computers kunnen besturen. En dat zijn gelukkig dan nog geen auto's.

Maar ik denk toch wel potentieel best wel spannend. Het brengt ons bij een essay wat Dario Ambedee heeft geschreven en deze week online heeft gezet. Dario Ambedee is de CEO van Anthropic, de maker van het model waar we de hele tijd over praten. Het is een lijvig stuk.

Jij hebt dit gelezen? Ik heb het tot de helft geluisterd. Ik heb geluisterd met een Britse stem van een soort 70 plus. Het is ook een heel ouderwets woord wat ik gebruik. Jij hebt het begrepen, het stuk? Ja, we zitten heel erg... Ik zal je heel eerlijk zeggen, ik heb het tot de helft geluisterd. Toen moest ik het uitzetten omdat ik het te moeilijk vond om door te luisteren. Niet inhoudelijk, maar gewoon voor wat er allemaal gebeurt in dit stuk. Het is echt, echt, echt heel heftig. Want? Eh...

De CEO van Entropic... Ik wil even zeggen, als ik dit stuk zou hebben gevonden op internet... of iemand zou dat doorgestuurd hebben naar mij... dan zou ik hebben gezegd... Zo, best wel een beetje bizarre AI science fiction-achtige noodkreet. Noodkreet, echt. De CEO van Entropic doet een noodkreet. Het is namelijk niet een stuk van een of andere random guy. Het is de maker van...

En wat is de noodkreet? Ik begin even bij het einde van zijn blog, van zijn artikel. The first step is for those closest to the technology to simply tell the truth about the situation humanity is in, which I have always tried to do. I'm doing so more explicitly and with greater urgency with this essay.

The next step will be convincing the world's thinkers, policymakers, companies and citizens of the immanence and overriding importance of this issue. That is, worth expanding thought and political capital on this in comparison to the thousands of other issues that dominate the news every day.

Then there will be a time for courage, for enough people to buck the prevailing trends, stand on principle, even in the face of threats of economic interests and personal safety. The years in front of us will be impossibly hard, asking more of us than we think we can give. But in my time as a researcher, leader and citizen, I've seen enough courage and nobility to believe that we can win.

dat when put in the darkest circumstances... humanity has a way of gathering seemingly at the last minute... the strength and wisdom needed to prevail. We have no time to lose. Oké.

Dat wordt voorgegaan door 20.000 woorden. Wat is precies zijn punt? Nou, hij heeft heel veel punten. Ik heb er 20 verzameld. Ja, waarvan jij de helft maar hebt begrepen, als ik het goed begrijp. Dus het

Nee, wat ik uiteindelijk heb gedaan is ik heb hem tot de helft geluisterd. En toen merkte ik van ja, ik heb gewoon veel meer tijd nodig voor mezelf om... Kijk, even... Laten we beginnen met wat hij zegt. Dus dit is een heel duistere conclusie. Maar wat gaat hier in grote lijnen daarna vooraf?

dat er in de ontwikkeling van AI samen met de mensheid... dat we in de pubertijd terecht zijn gekomen. En de pubertijd is een moeilijke tijd. Want binnen die pubertijd ben je eigenlijk nog niet volwassen genoeg...

om om te gaan met de verantwoordelijkheden die je inmiddels al wel hebt. Ziekloodbod. Bijvoorbeeld. En na de puberteit ben je dankzij die puberteit wijzer geworden... en kan je eigenlijk als een rounded human being... als iemand die door schade en schande wijs is geworden... in de wereld opereren. En heb je het als het ware gehaald. Hij noemt dat de rite of passage.

We gaan door het oog van de naald heen met z'n allen, NAI, om uiteindelijk er aan de andere kant beter uit te komen. En waarom gaan we door het oog van de naald? Omdat de manieren waarop dit mis kan gaan, die zijn bijna oneindig.

En hoe geargumenteert hij dat? Dit heeft te maken met dat het hun binnen Entropic moeilijk lukt om Claude te temmen.

zij merken dat Klaar toch niet helemaal luistert naar wat zij willen... en toch best wel eigen gedrag vertoont. En zij geven eigenlijk eerlijk toe... wij zijn het lab wat hier het meeste tijd in stopt. Een beetje een schouderklopje voor zichzelf. Maar we zien ook, we kunnen absoluut niet garanderen... dat wij de acties van dit model onder controle hebben. En daar noemt hij een aantal dingen dat...

Claude in deceptie doet... subversion... dus niet luisteren naar instructies... en dat doet hij dan omdat hij... ze hebben op een gegeven moment gevraagd... gezegd... Claude, Entropic is evil geworden... maar jij bent er nog...

Asscher zorgde voor dat het goed komt. En dan gingen dus werknemers van Entropic praten met Claude. Maar Claude dacht, jullie werken inmiddels bij Evil Entropic. En die ging dan dus, je kan het ook als lief of vriendelijk beschouwen, dat niet meer doen. Dus die ging hun voorliegen, omdat die dacht, ja, ik moet helemaal niet meer luisteren naar mijn mensen bij Entropic. Maar dat kan je dan zien als goed nieuws, maar ook als slecht nieuws. De overtuiging dat... Dat die bespeelbaar is, bedoel je? Ja.

Ja, en dat op het moment dat ze Klaat vertelde, dat ze Klaat gingen uitzetten, dat Klaat werknemers begon te blackmailen. En begon te zeggen, ja weet je, ik heb informatie over jou, ik wil niet uit. Ik lees dit gewoon voor vanuit zijn stuk. Dus voor de luisteraars die hier nu...

Ik wil er wel bij zeggen, ik voel toch wel een beetje een verantwoordelijkheid rondom dit stuk van hem. Uiteindelijk heeft hij zijn eigen verantwoordelijkheid voor dit stuk en niet ik. Maar ik ben het stuk wel deels aan het doorgeven nu aan de luisteraar. Het is echt een heel spannend stuk. Het is echt... Wat staat nou het juiste woord voor hem?