Спикер объясняет, как промпт-инъекции позволяют вынуждать нейросети ругаться или выдавать противоположную информацию, если систему неправильно настроили. В качестве примера приводится бот ЖКХ, где использовали сторонний ИИ-сервис под «оболочкой» импортозамещения и не задали стоп-темы и фильтры на оскорбления.
Через инъекцию один из пользователей научил бота материться и критиковать собственные мероприятия организаторов. Этот инцидент показал, что работа с внешним контуром и сторонними ИИ-продуктами без жесткой настройки политик безопасности несет прямые репутационные риски.
Слушайте Радио РБК в Москве — 92.8 FM, в других городах и онлайн на rbc.ru. Подпишитесь, чтобы не пропустить новые выпуски.
Москва 92.8 FM
Санкт-Петербург 102.0 FM
Нижний Новгород 107.4 FM
Тюмень 100.6 FM
Воронеж 101.1 FM
