Как биксонимания обманула нейросети и ученыхИсследовательница Альмира Османович Тунстрём провела эксперимент, в ходе которого выдумала несуществующее заболевание под названием «биксонимания» и разместила фальшивые научные статьи о нем в открытом доступе. Несмотря на абсурдные детали и прямые указания на мистификацию, популярные чат-боты с искусственным интеллектом начали выдавать эту ложь за реальный медицинский диагноз. Проблема усугубилась тем, что ИИ-инструменты убедили некоторых ученых цитировать вымышленные данные в настоящих рецензируемых журналах. Данный инцидент наглядно демонстрирует уязвимость современных технологий перед дезинформацией и их склонность к созданию правдоподобных, но ложных фактов. Эксперты выражают серьезную обеспокоенность тем, что доверие к научному процессу подрывается из-за неспособности алгоритмов отличить истину от намеренного обмана. Подобные случаи заставляют пересмотреть методы проверки информации в эпоху стремительного развития генеративного интеллекта.

Ask this episode

“What did the council decide on item 42?” — answered with the speaker and the moment.

Transcript

Related