Episode Details

Как биксонимания обманула нейросети и ученых

Исследовательница Альмира Османович Тунстрём провела эксперимент, в ходе которого выдумала несуществующее заболевание под названием «биксонимания» и разместила фальшивые научные статьи о нем в открытом доступе. Несмотря на абсурдные детали и прямые указания на мистификацию, популярные чат-боты с искусственным интеллектом начали выдавать эту ложь за реальный медицинский диагноз. Проблема усугубилась тем, что ИИ-инструменты убедили некоторых ученых цитировать вымышленные данные в настоящих рецензируемых журналах. Данный инцидент наглядно демонстрирует уязвимость современных технологий перед дезинформацией и их склонность к созданию правдоподобных, но ложных фактов. Эксперты выражают серьезную обеспокоенность тем, что доверие к научному процессу подрывается из-за неспособности алгоритмов отличить истину от намеренного обмана. Подобные случаи заставляют пересмотреть методы проверки информации в эпоху стремительного развития генеративного интеллекта.