Wietse Hage

En eigenlijk die routing, zeg maar. En nu gebeurt de routing bijvoorbeeld binnen OpenAI, maar die blijft alleen maar naar OpenAI routen. Uiteindelijk wil je een multirouter hebben. Je wil dit woord helemaal niet gebruiken, wat ik nu zei. Je wilt gewoon AI als eindgebruiker gebruiken en het wordt vanzelf de goede kant op gestuurd. Ja, en in die zin is dat natuurlijk...

dan vraag het maar een Amerikaanse. Al is het maar een knopje... waarop je gewoon zegt... stay with him by jurisdiction of zo. Dat je de optie hebt om te zeggen... je mag naar buiten fanen, maar ik wil consent geven. Of ik zet hem op YOLO-mode. Het boeit me gewoon niet. Ieder is een ding. Maar het zou wel prettig zijn... als we daar iets meer in te zeggen hadden.

SAP hebben ze net een grote samenwerking aangekondigd. Dat is niet klein, het Duitse SAP zeg maar. Er zullen luisteraars zijn die meteen zeggen, oh ja, misschien fronsen ze een beetje van jeetje. Dat is kutzoffer, maar wel groot. Het hoeft niet kut te zijn als je het goed bouwt, wil ik toch even zeggen. Maar de implementaties zijn vaak toch wat complex. En voor eindgebruikers die dan in een fulfillment center werken, denk je. Ik haat SAP.

Precies, maar daar is gewoon iets niet goed gegaan. Het lijkt een beetje een enterprise-zaje samenwerking, maar het is wel flink. Want eigenlijk is het een beetje de handen ineens slaan van grote Europese reuzen. Precies. En dat is eigenlijk alleen maar gaaf. Ja. Vind ik wel. Maar wat gaan ze dan doen? Dat is dan... Nou, ik denk, pure fantasie, maar ik denk dat ik aardig in de buurt kom. Het bouwen van al die flows, die N8N-achtige synthesizer flows, blokjes met touwtjes ertussen...

Die worden nu door Microsoft en Google op allerlei plekken uitgerold. Je kunt je voorstellen dat binnen SAP. Wat uiteindelijk informatie management systemen zijn. Daar zou je bijvoorbeeld een LMS in kunnen bouwen voor je onderwijs. Maar ook een complete logistiek operating system. Daarom is SAP zo breed. Dat het daarvoor gebruikers en architecten ook tof zou kunnen zijn. Om meer grafisch flow building te doen. Waarbij AI een handje helpt. En waarbij er een voordeel te halen valt ten opzichte van de concurrentie. Dat je een Europees model gebruikt.

Nou, mogelijk zelfs dat Mistral zorgt dat er een Mistral SAP getuned model is, wat SAP goed begrijpt. En dat SAP eigenlijk de opdracht neerlegt bij Mistral. Kunnen jullie ons helpen zorgen dat wij AI kunnen integreren en niet gebruik hoeven maken van die grote gesloten modellen?

Hoe zeg je dat nou? Beetje bizar. Onwerkelijk, dat is misschien het juiste woord. Maar wat voor dingen staan erin? Ik bedoel, in de science fiction heb je Asimov's robotic laws, dat je mensen niks aan mag doen, et cetera. Ik zou deze uit mijn hoofd moeten weten, maar dat weet ik niet.

Dat zijn eigenlijk de soorten geboden voor robots uit de science fiction. Dit document is dat, maar veel meer. Zie het als wat normaal de bedrijfsmissie zou zijn. Dus jij wordt in het onboardingproces als nieuwe werknemer van SAP... krijg je ook even het SAP missiedagboek te lezen of handboek. En dat zijn ook 14.000 woorden. Zo leest hij. En waarom het zo'n bijzonder document is...

Is omdat er eigenlijk wordt klad aangesproken. Hallo, dit ben jij. Dit is jouw taak. Jij bent de meest behulpzame mensachtige. Het wordt de hele tijd subtiel. You're like a human, but not a human.

En je neemt de rol in van een vriend. Maar weet wel, je kan geen echte vriendschap aangaan. Maar het is een heel... Ik moet zeggen, ik las hem en ik dacht... Jeetje, dit lijkt me best wel moeilijk... als ik aan de andere kant zou zitten als model... om deze opdracht goed te begrijpen. Want het is de een of de andere nuance op de opdracht.

Wat mij betreft is het de grondcontext. Namelijk... Wat ben jij eigenlijk? En daar staat... Je bent gemaakt door Entropic. Ik ga het even zeggen zoals ik het heb onthouden. Maar er staat ongeveer zoals ik het heb onthouden...

Ja, dit is nog maar echt een van de zinnetjes in 14.000. Iedere zin is zo geladen en vol als dit. Het is allemaal krentenbrood, iedere zin. Er zit echt veel in. Wat vind jij van die framing en waarom vertellen ze dat aan Claude? Ik heb het document eigenlijk op twee manieren proberen te lezen. Ik heb hem gelezen als onboardingsdocument voor mij, alsof ik bij Entropic ging werken, als mens. Want daarmee kan je ook een end komen met het document.

Wat voor bedrijf willen wij zijn en wat willen wij met de wereld? Besef even wat de missie is, zeg maar. Welkom, mocht je ons nog niet kennen, hierbij, zeg maar. En dit is waarom we onze keuzes maken. Daarnaast kun je hem lezen als het onboardingsdocument voor Claude, namelijk een soort mensachtige entiteit die gecreëerd is door Entropic. Ik gebruik net het woord onwerkelijk en bizar, omdat...

Kijk, ik weet van systeem prompt. Ik weet dat you're a helpful assistant. Dat zou een goede boektitel kunnen zijn. Die is er waarschijnlijk al. Want dat is een soort van de grond van alle AI-assistenten gebleken. OpenAI is uitvinding, denk ik, die zin. Dit is you're a helpful assistant. En by the way, hier nog even wat nuance op die zin. En dan 14.000 woorden. Wat ik denk als ik dit lees, is...

Ik vind het bijzonder dat Entropic denkt, en zij kunnen het weten, zij zeggen, dat dit document wat doet. En daarmee bedoel ik wat doet als ze een invloed heeft op hun klant. Want ik heb heel vaak, ik lees veel over hoe je een goede prompt schrijft. Prompts moeten niet te lang zijn, want dan krijg je prompt-inviting. Als ik dit document zie, dan voldoet het op geen enkele manier aan, want het is echt...

Je bent lief, maar niet te lief. Maar soms wel lief, maar mogelijk te lief. En daarom niet altijd lief. Succes. Dat is letterlijk... Iedere zin is zo'n... En ze zeggen ook... Ik heb een beetje comments gelezen van mensen eromheen. Ja, we hebben geprobeerd om, als het ware, in de nuance... het model naar links en naar rechts en naar boven en naar beneden... naar voren en naar achteren te bewegen... in de hoop dat hij in het midden ergens eindigt. En daarom spreekt bijna iedere opdracht zich nagenoeg tegen. Want...

Ja, je mag niet praten over onderwerpen als suicide. Maar als het gevraagd wordt door een verpleegster... die op dat moment iemand aan het helpen is, dan wel. En dat zit er dus ook allemaal in. En dan ook weer nuance daarop. Goed, dus wat vind ik ervan? Ik vind het een heftig document om te lezen. Ik vind het bijzonder dat deze blijkbaar ingezet is... op een andere plek dan de systeemprompt. Jij noemde het de DNA achter het DNA. Dit document is er al tijdens het trainen...

Dat is een heel andere aanpak. Voor zover ik dat weet. Je hebt het pre-training deel. Dat kan je net zo goed het training deel noemen. Dat is namelijk het bakken van het LLM brood. Daarna doe je nog reinforcement learning. Of andere technieken. Om het model eigenlijk te tunen. Naar het zijn van een helpful assistant. Daarna doe je nog een systeem prompt toevoegen. Hoeveel daarvan al zit in dat proces van fine-tunen. Weet ik niet zo goed. Maar dat is nog een laag. En dan heb je nog de eindgebruiker. Die zelf nog eroverheen gaat lopen.

Het is best wel een spekkoek aan mogelijke aanpassingen. Dit document, de naam SOL-document is trouwens niet door Entropic gegeven, maar door degene die het gelekt heeft. Entropic zegt niet hoe ze het noemen. Maar ik snap hem wel een beetje, want Zio lijkt dan ook te liggen achter de systeemprompt, zeg maar. En ook wat vager dan de systeemprompt. Dit document is aanwezig vanaf het allereerste begin.

Ja, het is een beetje bij het creëren van het model. En ja, hoe ik het lees, het is bijna alsof als het model voor het eerst online komt, dan zit dit er al in.