Milou Brand

Welkom bij Poki, een podcast over kunstmatige intelligentie waarin Alexander Klöpping, Wietse Hagen en ik, Milou Brand, hierbij praten over de wonderenwereld van AI. Dit keer ontbreekt Wietse even, maar Alexander is terug. Hij was wasmachinespotten bij Samsung in Seoul en doet verslag.

Verder, er is een brandbrief geschreven door een aantal werknemers en oud-gedienden bij OpenAI en Google. Het gaat over veiligheid. De wereld gaat eraan en niemand doet iets. Dat een beetje. En voorts is er ophef in de VS. Journalisten schreeuwen moord en brand, want nadat ze de vorige digitaliseringsslag van de krant naar online ternauwernood hebben overleefd...

Nou ja, net weer eindelijk een beetje droge kleren hebben, zou je kunnen zeggen. Dreigt de volgende vloedgolf hun verdienmodel te slopen. Hoe gaat AI de algehele nieuwsvoorziening beïnvloeden? Ja, nou daarvoor vliegen we een expert in. En niet tenminste, Jaap van Zessen. De man die het AD opstuwde tot grootste nieuwssite van Nederland. En oh ja, we hebben nieuws over een eigen nieuwsbrief. Dus spits uw oren, veel plezier met deze aflevering.

Ja, we zijn het aan het kweken in een kastje en op een gegeven moment mag het dan de tuin in. Zo is dat. En dan wordt het misschien opgegeten door slakken, want dat schijnt er erg last van te hebben. Goed, we beginnen na deze mooie introductie van jou over jouw ervaring in Seoul met het nieuws. Ten eerste, ik kan het niet anders dan een soort brandbrief noemen van dertien huidige en voormalige werknemers van OpenAI en Google DeepMind.

En daarin uiten zij grote zorgen eigenlijk over het gebrek aan veiligheidsmaatregelen bij die bedrijven en openheid over wat er allemaal gaande is. En dat heeft natuurlijk allemaal te maken met de risico's die zij zien dat er zijn bij de ontwikkeling van AI.

En die zorgen, ja, die kennen we. Dat gaat natuurlijk van het vergroten van ongelijkheid... tot toegang tot kwalitatieve informatie... tot uiteindelijk misschien zelfs het uitsterven van de mens. Dat is allemaal heel gevaarlijk. Dus wat willen ze met die brief? Ja, zonder angst eigenlijk. Dat zeggen ze. We willen niet bang hoeven te zijn dat onze kop eraf gaat... als wij alarm slaan ergens over. Of als wij kritiek leveren. Of we er nou nog werken of dat we er al weg zijn. Zolang dus eigenlijk er geen goede regulering is... en die bedrijven daar zelf niet goed voor zorgen... dat die veiligheid op orde is...

doen we het zelf wel. Dat zeggen ze dus eigenlijk. En er zijn met name twee dingen in die brief die ze dus hebben geschreven. AI-bedrijven hebben berginformatie over de risico's en beperkingen van hun systemen, maar ze delen dit nauwelijks. Dus dat is een groot probleem. En we kunnen niet vertrouwen op vrijwillige transparantie van die bedrijven. En tegelijkertijd ontwijken zij effectief toezicht. Dus

Dat zijn de grote problemen die ze constateren en daarom hebben ze een lijstje met eisen om dat beter te maken. Ja, ik denk dat er eigenlijk geen enkele sector is waar zoveel zorgen de hele tijd worden geuit door de mensen die zelf in die sector zitten.

Maar los van of we uiteindelijk naar. Inderdaad menselijke uitsterving toegaan. En op zich. Ik denk dat de wereld het prima vindt. Het zou eens tijd worden. De aarde vindt het prima. Kunnen die slakken eindelijk leven. De aarde kan op zich natuurlijk zonder ons. Maar los van of dat. Dat stadium ooit bereid gaat worden. Of iedereen zijn baan kwijt is. En we alleen nog maar de politiek in kunnen. Omdat er geen enkele andere baan meer open is. Misschien zelfs dat niet. Ja.

Dat is wel de eerste die we eraan brengen hoor, politiek. Maar er zijn onderweg natuurlijk wel veel van die andere problemen waar je dus tegenaan loopt. Zoals mensen die verliefd worden op een chatbot of informatie die gewoon niet klopt. Er zijn allemaal hele kleine problemen waar we nu eigenlijk al mee te maken hebben. Dus het zou wel helpen als er nu al mensen zich serieuzer bezig zouden gaan houden met de veiligheid van die producten. Omdat, ja...

Het is misschien niet zo groot. Stel dat het niet zo groot is... hebben we nog steeds wel degelijk... ondervinden we de gevolgen van AI. Ik denk dat Sam Altman denkt... als je dit tegen hem zou zeggen... denk ik dat hij denkt... wat een gelul allemaal. We zijn bezig om...

Ja. Nou, heeft hij misschien ook best wel een punt. Oké, nou ja, het was in ieder geval een groot hoofdstuk in deze aflevering. Het was de bedoeling dat het een beetje beknopt zou behandelen. Ja, sorry, dat is mislukt. Nee, maar het blijkt altijd toch wel weer veel interessanter dan je van tevoren denkt. De vraag is natuurlijk, zullen de grote AI-bazen gaan luisteren? Nou, we gaan het meemaken, of niet. Natuurlijk gaan ze niet luisteren. Nee, natuurlijk niet. Maar je moet de vraag toch opwerpen.

Dan, Google AI Overviews, waar we de laatste tijd best wel veel hebben. Als je het een beetje hebt gevolgd, dan heb je wel wat leuke dingetjes kunnen lezen. Google heeft natuurlijk al gezegd in mei, Google gaat het googelen voor jou doen. En dan heb je dus een nieuwe functie, AI Overviews. Als je dus iets googelt, komt er bovenaan de pagina een soort overzichtje met een antwoord op je vraag, in plaats van dat je zelf nog naar een link hoeft te gaan.

En dat ging niet helemaal vlekkeloos. Want Google ging rare adviezen geven. Als je een rare vraag ook stelde. Wat was je favoriet? Ik vond...

Nou, dat je ook chlorinegas in je eten kon doen. Om het een beetje in een extra pit te geven. En dat kon je goed serveren op een tuinfeestje. Dat vond ik wel een leuke. Maar ze hadden het ook over lijm. Hoe zorg je dat je kaas niet van je pizza valt? Nou, dat doe je dan met lijm. Of je wat stenen je per dag moet eten.

Dus ja, een beetje vrij bizar. Ja, dingetjes. Je snapt natuurlijk meteen, dat is onzin. Maar de hele wereld gaat dan wel zeggen, Google, jullie kunnen helemaal niks. Wat een sukkels. Ze schaamden zich volgens mij ook een beetje.

Oh ja, Google is ons beste kind. Dat eigenlijk altijd alleen maar A-tienen haalt. En nu een keer verprutst. Hoe kan dit nou? Ik denk dat als ZGPT iets fout zegt... dan halen we nog een beetje schouders erover op. Maar op het moment dat Google gaat zeggen... je moet lijm op je pizza doen... dan vinden we dat schandalig. Omdat we Google associëren met de waarheid. Maar het geeft ook iets interessants aan. Bijvoorbeeld dat stenen eten. Hoeveel stenen moet je eten op een dag? Nou, minimaal één kleine steen. Haha.

Dat had hij gehaald uit een artikel van The Onion. Dat is een beetje een Amerikaanse speld. Dus wat je hier wel ziet... en dat is een beetje een juridisch dingetje... is dat Google nu dus informatie van plekken gaat halen... maar die presenteert het als het informatie van Google. Dus het is opeens...

Zij zijn de auteur. En ik ben wel benieuwd hoe ze daar in de toekomst met hun overviews mee om zullen gaan. Want dan is het net alsof zij dat vinden of zij dat zeggen. Als Google het googelen voor je gaat doen, dan zie je meteen de bronnen ook natuurlijk niet meer. En dan is het die informatie.

Als een techbedrijf daartussen gaat zitten, dan kun je je afvragen of dat goed afloopt. En sowieso of ze al niet überhaupt teveel macht hebben. En dan gaan we ze nog meer machten. Ja, dus dat en gewoon het businessmodel. Want nu is het zo dat je gaat naar nu.nl en dan heel nu.nl, daar betaal je natuurlijk niet voor. En de manier waarop nu.nl kan leven is omdat daar advertenties op staan.