Спонтанные навыки ИИ: как управлять тем, чего не планировали. Радио РБК

Обсуждаются спонтанно возникающие навыки моделей ИИ, пример с неожиданной сменой языка и два основных инструмента контроля — промт-инжиниринг и alignment, а также пределы предсказуемости таких систем

Спикер объясняет, что у языковых моделей могут возникать спонтанные навыки и особенности уже после завершения обучения. Приводится пример модели, которая при «грустном» состоянии переключается с английского на русский язык.

Для управления такими эффектами используются два подхода: корректировка базового промта без переобучения и alignment — дообучение модели по обратной связи разметчиков. При этом подчеркивается, что контролировать можно только известные эффекты, а заранее предсказать все сбои крайне сложно.

Слушайте Радио РБК в Москве — 92.8 FM, в других городах и онлайн на rbc.ru. Подпишитесь, чтобы не пропустить новые выпуски.

Москва 92.8 FM

Санкт-Петербург 102.0 FM

Нижний Новгород 107.4 FM

Тюмень 100.6 FM

Воронеж 101.1 FM