Сооснователь Google Сергей Брин заявил, что искусственный интеллект способен демонстрировать лучшие результаты, если при формулировке запроса использовать элементы психологического давления. По его словам, исследователи нередко прибегают к формулировкам с угрозами, например: «Я тебя похищу, если ты не сделаешь то-то и то-то». Об этом он рассказал в ходе обсуждения практик взаимодействия с нейросетями.
Высказывание Брина вызвало широкий резонанс в технологическом сообществе. Эксперты по искусственному интеллекту подтвердили, что подобные «эксперименты» действительно имеют место в рамках тестирования языковых моделей. Как уточнили специалисты, наибольшую эффективность даёт так называемый метод «кнута и пряника» — то есть сочетание угроз с обещанием поощрения за правильный ответ.
При этом эксперты подчёркивают, что подобные методы не являются универсальными и не означают, что нейросети «реагируют» на угрозы в человеческом смысле. Речь идёт о специфике языковых моделей, которые формируют ответы на основе структуры и контекста запроса.
