Episode Details

Обсуждают случай, когда через промпт-инъекцию бот ЖКХ начали учить ругаться матом и критиковать мероприятия. Причина — использование стороннего ИИ-сервиса без запрета стоп-тем и фильтров оскорблений

Спикер объясняет, как промпт-инъекции позволяют вынуждать нейросети ругаться или выдавать противоположную информацию, если систему неправильно настроили. В качестве примера приводится бот ЖКХ, где использовали сторонний ИИ-сервис под «оболочкой» импортозамещения и не задали стоп-темы и фильтры на оскорбления.

Через инъекцию один из пользователей научил бота материться и критиковать собственные мероприятия организаторов. Этот инцидент показал, что работа с внешним контуром и сторонними ИИ-продуктами без жесткой настройки политик безопасности несет прямые репутационные риски.

Слушайте Радио РБК в Москве — 92.8 FM, в других городах и онлайн на rbc.ru. Подпишитесь, чтобы не пропустить новые выпуски.

Москва 92.8 FM

Санкт-Петербург 102.0 FM

Нижний Новгород 107.4 FM

Тюмень 100.6 FM

Воронеж 101.1 FM