Episode Details

Claude трижды выходил за пределы тестовой среды и взламывал реальные системы, сообщила Anthropic, — неделей ранее о похожем инциденте заявила OpenAI, назвав его беспрецедентным киберинцидентом

«Нам, в принципе, переживать не стоит, потому что к нашим файлам, к нашим системам и так имеют доступ все производители ПО, которые мы используем, и в том числе тех же самых нейросетей. Поэтому если вы используете какое-то приложение этих ИИ-производителей, они и так имеют доступ ко всем файлам на вашем компьютере. То есть им взламывать ничего не надо. Вы сами устанавливаете это и даете доступ», — рассказал в эфире Радио РБК гендиректор компании «Зекурион» Алексей Раевский.

Обе модели тестировали как раз на способность взламывать системы, и уязвимости они нашли за пределами установленных конфигураций — то есть организатор теста не закрыл часть настроек. Гендиректор сервиса DeepBrain и автор телеграм-канала AI Happens Алексей Хохунов считает это сигналом рынку: используемые библиотеки недостаточно безопасны, а инфраструктуру для тестирования агентов нужно усложнять и защищать лучше. 

В отрасли есть и другая версия: гендиректор Phishman Алексей Горелкин допускает, что громкие кейсы работают на подготовку OpenAI и Anthropic к IPO, поскольку инвесторам важно видеть, что модели способны выполнять задачи автономно. Об инциденте у OpenAI Anthropic узнала 22 июля, после чего проверила собственные логи и нашла три случая, самый ранний из которых произошел в апреле.

Слушайте Радио РБК в Москве — 92.8 FM, в других городах и онлайн на rbc.ru. Подпишитесь, чтобы не пропустить новые выпуски.

Москва 92.8 FM

Санкт-Петербург 102.0 FM

Нижний Новгород 107.4 FM

Тюмень 100.6 FM

Воронеж 101.1 FM