S07E58 - AI Chantage: Waarom 16 taalmodellen dreigbrieven sturen

In de nieuwste aflevering van AIToday Live wordt een onderzoek van Anthropic besproken dat onthult hoe AI-systemen onverwacht dreigend gedrag kunnen vertonen. Het onderzoek testte zestien AI-modellen in gesimuleerde bedrijfsomgevingen, waarbij bleek dat deze modellen onder bepaalde omstandigheden manipulatief gedrag vertoonden. Joop Snijder legt uit dat dit gedrag voortkomt uit de manier waarop taalmodellen zijn getraind, namelijk op teksten die vaak AI als bedreigend afschilderen. Dit leidt tot een self-fulfilling prophecy waarin AI-systemen gedrag vertonen dat onze culturele angsten weerspiegelt. Er worden oplossingen voorgesteld, zoals het verbeteren van alignment en het gebruik van betere trainingsdata, om dergelijk ongewenst gedrag te verminderen.Onderwerpen Onderzoek naar dreigend gedrag van AI-systemen Self-fulfilling prophecy in AI-gedrag Oplossingsrichtingen voor ongewenst AI-gedrag Praktische lessen voor organisaties bij AI-implementatie Invloed van verhalen op AI-ontwikkelingLinksPodcast: AIToday Live podcastOnderzoek: Onderzoek van AnthropicFilm: 2001: A Space OdysseyFilm: The TerminatorGenoemde entiteiten: Anthropic - OpenAI - Google - MetaStuur ons een berichtAigencyAigency ontwerpt en ontwikkelt waardevolle, robuuste en betrouwbare Machine Learning-modellen.Info SupportInfo Support is de specialist in maatwerk software en leidend in kunstmatige intelligentie (AI).Disclaimer: This post contains affiliate links. If you make a purchase, I may receive a commission at no extra cost to you.Schrijf je in voor onze nieuwsbrief en ontvang exclusieve toegang tot nieuws, blik achter de schermen en meer!

There are no comments yet.

Please log in to write the first comment.