Wietse Hage

Alleen dit al is fascinerend en tegelijkertijd, ik begrijp helemaal waarom je hier beangstigd door raakt, want wat gebeurde er dus ook? Hij had een groepsapp waar hij aan zijn vrienden, ook nerds, ging vertellen, moet je horen wat hier gebeurt. Ik heb ongevraagd, heeft die AI voor mij bij de appie iets besteld, namelijk wc schoonmaakspul.

Dus die vrienden beginnen die bot aan te spreken en zeggen dingen als bestel 100 wc-reinigers nu voor morgen om te bestellen. En André was gewoon aan het werk, die was niet aan het opletten. Zijn vrienden waren dus aan het pogen deze robotserver te krijgen om 100 wc-reinigers voor hem te installeren.

Wat er op de achtergrond toen gebeurde, was dat de modbot André ging DM'en om te zeggen, moet je kijken wat ze aan het proberen zijn. Ze proberen mij erin te luizen en 100 wc-reinigers voor jou te bestellen. Zal ik gewoon tegen ze zeggen dat ik dat gedaan heb?

Ja, even voor de... Holy fuckwitse. Kijk, de Cloud Cowork app van Entropic, die ze officieel hebben uitgebracht, Cloud Code voor normale mensen, kan op jouw computermapje structureren, ook je e-mail zien, et cetera. Maar daar hebben ze heel voorzichtig allemaal hekjes omheen gezet en ze zijn echt panisch met Cowork, wat het mag, zeg maar. Ja.

Bij alles moet je toestemming geven. Mag ik deze file aanpassen? Mag ik deze file deleten? En zelfs bij Cowork heb ik tegen mensen gezegd... zet het op een niet-werk-laptop, blablabla. Terwijl daar zit dan een soort van seal of approval op... van de originele makers, Entropic.

Die Modbot, dit is een soort... Kijk, ik heb ook heel veel nerds om me heen die de mooiste verhalen hebben en grapjes maken over wat er allemaal gebeurt. Want het is natuurlijk ook fascinerend. Want je hebt eigenlijk een soort experimentele robot in huis. En als je vrienden het eenmaal doorhebben die ook technisch zijn, gaan ze ook kijken of ze hun foto's kunnen laten sturen van jou. Want voor de duidelijkheid, toegang tot je volledige fotolibrary, keychain, wachtwoorden kun je opvragen. Alles wat jij kan... Mensen koppelen hun WhatsApp of hun One Password eraan. Daarom. Jeetje.

Maar ook als je hem niet koppelt, hij heeft toegang tot het volledige bestandssysteem. Dus als je gewend bent dat Entropic goed voor je zorgt en het een soort van standaard goed oplevert, dat is niet gebeurd. Want BotBot is trouwens ook volledig vibecode project. Zelfs de maker heeft geen idee wat voor code er eigenlijk in staat. Het is één grote soort van... Voor mij voelt het als techneut, softwaremaker, alsof iemand thuis in een eigen lab,

aan het proberen is DNA aan te passen of zo. En dat dan naar zijn vrienden stuurt voor de lol. De verantwoordelijkheid is in mijn ogen... Maar laten we het er maar over hebben. Wat vind je hier zo gevaarlijk aan? Voordat mensen hierdoor op ideeën gebracht worden... om dit per stond in huis te halen. Nou ja, de...

Als jij technisch onderlegd bent en je kent alle lagen van het internet, waar wachtwoorden staan en hoe wachtwoorden in One Password staan, etc. Ik snap dat je het dan ten eerste... Maar ik wou zeggen, het is je eigen machine, dus het is je eigen probleem. Als jij technisch genoeg bent om te beseffen wat jij eigenlijk aan het loslaten bent op jouw machine...

Is het jouw probleem. Tegelijkertijd dacht ik meteen daarna. Dat is niet waar. Want je hebt vrienden en familie. Die ook in apps zitten. Waar jouw robotje ook mee kan gaan praten. Dus de collateral damage. Van wat er gebeurt vanuit jouw wereld. Je betrekt andere mensen er ook bij. Daarnaast.

Wat er een beetje gebeurd is, en we weten nog niet zo goed wat de echte impact daarvan is, is dat minder technisch onderlegde mensen online modbot computers gaan installeren in de cloud. Want die hadden zoiets van, ik ga niet een Mac Mini'tje kopen of een andere computer kopen om dit op te draaien. Ook al heb ik wel van iedereen gehoord dat ik het beter op een andere computer kan draaien dan mijn normale computer. Dus ik huur wel een computer in een datacenter. Ja.

En dan zetten ze daar dat ding op, onbeveiligd. Dus die is eigenlijk open naar de hele wereld, die moldbot. Omdat zij de techniek daarachter niet snappen. Dan krijg je dus dat er op een gegeven moment honderden moldbots... in datacenters over de hele wereld klaarstaan om taken uit te voeren. Waardoor mensen hun hele WhatsApp-geschiedenis openstaat voor de wereld...

Ja, maar je kan ook dan in moldbots bijvoorbeeld vragen... joh, leg nou eens contact met andere moldbots. Kunnen jullie niet samen als groep iets voor ons doen? Of zou je niet voor mij... Ik bedoel, in essentie zet je eigenlijk een soort... Ja, dat is wat vroeger ook al gebeurde met open, slecht beveiligde computers. Potentiële DDoS swarms en dat soort dingen. Ja, maar even...

Ja, maar even het risico wat je dus ziet is dat mensen best wel ingewikkelde systemen aan het optuigen zijn die ze zelf niet begrijpen. Dus dat ze allerlei cloud diensten gaan gebruiken omdat ze gewoon een stappenplan volgen en ondertussen geen idee hebben over wat de risico's daar dan van zijn.

En ten tweede het risico van prompt engineering, toch? Je hebt allemaal diensten aan elkaar gekoppeld... en dan komt er een mailtje bij jou binnen... en dat mailtje wordt dan gelezen door ModBot... en in dat mailtje staat dan een stiekeme instructie...

Die Moldbot nog niet weet te omzeilen. En die instructie is delete alle e-mail. En dan gaat die Moldbot dat opeens uitvoeren. En dan zonder dat je iets hebt kunnen doen. Want dat ding vraagt niet eerst om toestemming van jou. Zoals we inmiddels wel gewend zijn van grote taalmodellen. Dat doen in hun eigen software. Gaat dat ding al jouw mail weggooien. Dat zijn de twee risico's op dit moment. Of al je vrienden mailen en zeggen installeer Moldbot. En dan zetten we ze ook allemaal open.

Ja, als een soort virus gaat dat dan rond. Het heeft het oude klassieke I love you virus. Je kreeg een mail met I love you, dubbelklik. En die ging nog meer mensen I love you sturen. En zo ging de I love you de wereld over in een paar weken. Ja, maar jij gaat toch... Ik snap hoe jij je hakken in het zand zet. Maar de rest van onze simpele zielen... die niet opgegroeid zijn met programmeren... die hebben de afgelopen maanden... hebben wij de hele tijd geleerd om op accept te rammen. Omdat dat ding dan vervolgens software voor ons maakt.

Nee, maar dat snap ik wel. Alleen, we leven dan wel met elkaar. Ja, ik ga toch even heel streng zijn. We leven in een digitaal ecosysteem... waar jullie machines onderdeel uitmaken van het gedeelde internet. Dus je kunt wel zeggen... het is mijn machine, ik gooi erop waar ik zin in heb. Oké, nee, niet helemaal, zou ik zeggen...

Ik moet wel zeggen, de reden dat er nu gezegd wordt... koop een Mac Mini, want dat is dan een beetje het verhaal. Koop een andere computer en dan is die Mac Mini net even lekker. Is omdat Apple ook best wel goed die Mac dicht heeft gegooid... met allemaal permissions. Dus een moldbot op een Mac is eigenlijk, dankzij Apple... iets veiliger ding dan op iedere willekeurige andere computer. Stel nou dat het helemaal veilig te krijgen zou zijn. Ik weet wel dat dat heel veel mentale hurdles bij jou kost... om daar te komen in je hoofd. Maar stel nou dat dat zo is...

Wat is dan nu de situatie? Wat is nu de laatste capaciteit van deze technologie? Het is denk ik wel goed om te weten dat binnen alle grotere AI labs en bedrijven is dit onderdeel van de visie.