Alexander Klöpping

Ik bedoel het meer in context. Kijk, van OpenClaw is er veel gesproken over serieuze beveiligingsproblemen. Dat er opeens een of andere worm in zo'n plugin naar binnen kon slopen en sluipen en allemaal crypto-wachtwoorden heeft gejat. Er zijn best wel veel verhalen over OpenClaw-installaties die mis zijn gegaan. Dus in die context vraag ik dit. Zijn die serieuze beveiligingsproblemen waardoor OpenClaw iets was waarvan jij ook zei, doe dit niet...

Ja, en dan ondanks dat er wachtwoorden op zitten en dat het allemaal beveiligd is, zeg je eigenlijk, dit is wat dan beveiligingsexperts de service area noemen, de ruimte die er is om kwaad te doen, die wordt nou eenmaal groter als je...

Als je meer deelt, ook al heb je er wachtwoorden op staan, ook al heeft Anthropic ervoor gezorgd dat het serieuzer gebouwd is dan OpenClaw gebouwd is, wat toch een beetje een uit de hond gelopen hobbyproject is. Dan nog is puur en alleen het feit dat je het aanzet, is een groter risico dan dat je neemt dat je het uit laat staan.

Ja, want wat OpenClaw dus wel doet, wat OpenClaw niet doet, is expliciete toestemming vragen voordat het een nieuwe app opent, automatisch op verdachte activiteiten scant, bepaalde apps standaard uitsluit. Dat is bij OpenClaw ook allemaal met de tijd wel gekomen, maar...

Het lijkt alsof ze dit aan de poort in ieder geval iets serieuzer nemen... dat je heel expliciet ja zegt tegen dingen. En niet, zoals wat een beetje de neiging is van de meeste mensen die software maken... iedere stap opnieuw vragen of je het wel oké vindt. En ik denk wat jij...

Ik zie een beetje een botsing van wereldbeelden, want ik denk voornamelijk over capaciteiten die ik wil en jij ziet in je hoofd alle duizend manieren waarop het fout kan gaan. Al die dingen die ik wil door meer controle te geven over wat ik wil van mijn computer.

En de oplossing die tot nu toe in AI-systemen zat... en dan bedoel ik als je programmeert met AI bijvoorbeeld... is iedere drie seconden weer om toestemming van mij vragen. En wat je dan ziet gebeuren is dat er een soort tegenovergestelde reactie ontstaat... namelijk dat alle vragen eruit gefilterd worden. Hij mag alles doen om maar ervoor te zorgen... dat dat ding niet iedere drie seconden vraagt om toestemming bij dingen.

En dat is een totaal onwenselijke situatie, dat je totaal de andere kant op gaat. En wat je nu ziet is dat daar een soort van middenwegen aan het ontstaan zijn. En Tropic heeft een nieuwe modus in Cloud Code, die heet Auto Mode. En die biedt dus een middenweg tussen...

constant om toestemming vragen. Dat is heel veilig, maar ook vrij irritant. En wat mensen zoals ik aanzetten, de dangerously skip permissions optie. Dat is een optie die ervoor zorgt dat AI nooit meer vraagt om toestemming, maar gewoon bouwt wat je vraagt. En dat is weer zeer riskant. Wat ze nu hebben gemaakt is, omdat zij snappen dat mensen dit dus op de achtergrond wel aan het doen zijn,

met alle risico's van dien... is dat ze een tussenversie hebben bedacht... waarbij elke actie wordt beoordeeld door een AI... die gek genoeg meekijkt naar wat jij aan de AI vraagt... en die beoordeelt dan of dat commando veilig is. En veilige acties worden dan automatisch uitgevoerd... en riskanten, zoals massaal bestanden verwijderen... heb ik meegemaakt, dat opeens mijn hele nooddatabase leeg was...

Of data exfiltratie, dus hackers die proberen dingen te stelen zoals wachtwoorden, crypto wachtwoorden. Je complete wachtwoorden valt. Bijvoorbeeld worden geblokkeerd en dan zoekt Claude zelf naar een alternatieve aanpak. Dit is een research preview die nu voor een klein deel van de gebruikers beschikbaar is en dat zal me wel uitrollen.

Maar ook hierbij waarschuwt Anthropic dat het risico weliswaar kleiner is, maar niet helemaal geëlimineerd wordt. Want die AI kan ook verkeerd inschatten wat er gevraagd wordt aan dat ding. En dan alsnog kunnen die onschuldige acties of riskante dingen kunnen doorgelaten worden of onschuldige acties kunnen onterecht geblokkeerd worden. Dit blijft een soort van...

Die partijen zitten ook allemaal aan de zijlijn te wachten met... ja, dan willen wij dit ook in Windows gaan bakken. Nee, ik hoor je. Het is te vroeg. En jij kan ook veel beter overzien wat de risico's zijn... dan dat ik dat kan. En eigenlijk zeg je dus... dit is gewoon het bestanden delen van... of het delen van je complete harde schijf... en het laten overnemen van je computer door een AI... is niet iets wat je lichtzinnig aan moet zetten. Dat is eigenlijk wat jij zegt. En daar ben je nog steeds niet over gerustgesteld...

Toch rollen deze functies op grote snelheid uit. Een ander ding wat ze hebben gelanceerd is Schedule Tasks. Dus dat zijn AI's die niet wachten totdat je iets vraagt, maar zelf actie ondernemen. Dat is iets wat we van OpenClaw kennen. Je kan bijvoorbeeld dingen vragen als...

Ik heb dat ding wel eens gevraagd. Vertel me iedere zondagavond wat er die week in de theaters gebeurt. Welke films er draaien in de bioscopen. Zodat ik op een vast moment iedere week kan zien wat er allemaal is. En dat is een verzoek wat je dan doet om jou met enige regelmaat iets te sturen. En ook die functionaliteit is nu overgenomen door Anthropic. Scheduled noemen ze dat. Dat zit linksboven in de desktop app.

Wat je dan kan vragen bijvoorbeeld is iedere ochtend een briefing te maken van je inbox. Dat betekent dus dat je toegang moet geven tot je e-mail. En dan krijg je een overzicht zoals jij dat wil. Dus bijvoorbeeld je wil iedere ochtend een mailtje krijgen met alleen maar de berichten erin van weet ik veel, je baas, klanten.

Juist niet alleen maar privémails of alleen maar leuke dingen. Dan kan dat. Of elke vrijdag een weekoverzicht met cijfers uit een spreadsheet. Stel je voor dat je elke week op de hoogte wil gehouden wil worden... over hoe het gaat met een of ander project of zo. Dat die dan de brondata opzoekt en dat verwerkt tot iets wat een mailtje is. Bijvoorbeeld, want het kan van alles zijn. En je op vaste regelmaat dat stuurt. Cloud voert het dan uit op de achtergrond op je eigen computer. En dit gebruik ik dus ook voor dat project voor die klas...

Dat ik dat ding automatisch de agenda laat sturen... drie dagen van tevoren. Ik ben echt verschrikkelijk met dit soort dingen. Ik vergeet dat allemaal. En dan een minuut voor die meeting denk ik opeens... kut, ik had agenda moeten maken. Dat ding doet dat dus nu voor mij. Helemaal met het transcript van de vorige meeting... concludeert hij wat de acties waren. Als er een mail is binnengekomen van iemand die zegt... ik heb dit gedaan, ik heb dit en dit... concludeert hij dat die actie klaar is. Zet hij er keurig een vinkje bij...

al die shit gaat helemaal vanzelf. Echt waanzinnig. Misschien dat dat ook is waarom ik dan voel... dat ik een beetje tegen wil duwen tegen jouw veiligheidsframe. Omdat ik de hele tijd nu dingen aan het doen ben... die ik niet... Mijn productiviteit is gestegen. Ik kan letterlijk ervoor zorgen... dat mijn kinderen beeldende worming blijven krijgen door deze shit...

En dat is ook een stukje wat andere schade aanbrengt. Dus ja, ik zit tussen een soort technologische veiligheid... versus wat het kan bijdragen aan de samenleving. Ondertussen wordt Cloud nu ook gebruikt om nieuwe versies van zichzelf te maken. Dat is eigenlijk het meta-verhaal hieronder. Want het is allemaal mooi dat er op grote snelheid nieuwe features uitkomen... die delen van ons werk en ons leven veranderen. Maar...