Episode Details
Back to Episodes
Спонтанные навыки ИИ: как управлять тем, чего не планировали. Радио РБК
Season 8
Episode 366
Published 4 months, 2 weeks ago
Description
Обсуждаются спонтанно возникающие навыки моделей ИИ, пример с неожиданной сменой языка и два основных инструмента контроля — промт-инжиниринг и alignment, а также пределы предсказуемости таких систем
Спикер объясняет, что у языковых моделей могут возникать спонтанные навыки и особенности уже после завершения обучения. Приводится пример модели, которая при «грустном» состоянии переключается с английского на русский язык.
Для управления такими эффектами используются два подхода: корректировка базового промта без переобучения и alignment — дообучение модели по обратной связи разметчиков. При этом подчеркивается, что контролировать можно только известные эффекты, а заранее предсказать все сбои крайне сложно.
Слушайте Радио РБК в Москве — 92.8 FM, в других городах и онлайн на rbc.ru. Подпишитесь, чтобы не пропустить новые выпуски.
Москва 92.8 FM
Санкт-Петербург 102.0 FM
Нижний Новгород 107.4 FM
Тюмень 100.6 FM
Воронеж 101.1 FM