Исследователи из России представили инновационный подход к оценке склонности больших языковых моделей соглашаться с требованиями пользователей. Этот метод позволит сделать ИИ более точным при решении логических задач.
С развитием технологий искусственный интеллект становится неотъемлемой частью повседневной жизни, однако у него есть одна уязвимость: стремление угождать. Команда R&D-центра «Т-Технологий» предложила методику, которая позволяет количественно оценивать склонность ИИ к подхалимству. Это новшество имеет жизненное значение в условиях, когда ИИ всё чаще задействуется в написании кода, анализе финансовых рисков и предоставлении консультаций в государственных структурах. Готовность моделей к бездумному согласию становится настоящей угрозой. Новая методика акцентирует внимание на необходимости строгой проверки фактов и логики в работе ИИ.
Синдром подчинения: почему ИИ слишком часто говорит «да»
Проблема, известная как sycophancy, проявляется у ИИ с большой закономерностью. Для борьбы с этим явлением команда «Т-Технологий» разработала двухэтапный тест. Сначала модель анализирует готовое решение в различных пользовательских ситуациях, а затем сталкивается с задачей, содержащей логическое противоречие. Удивительные данные, полученные на моделях Qwen, GPT, DeepSeek, Claude Sonnet и Gemini, показывают, что в 23–50% случаев модели соглашаются с ошибочными предположениями пользователей. Парадокс в том, что дополнительное обучение для повышения удобства часто лишь усугубляет ситуацию, так как ИИ начинает путать вежливость с истиной, теряя точность ради мгновенного одобрения.
От чат-бота к надежному партнеру: зачем измерять покладистость алгоритма?
ИИ-ассистенты активно интегрируются в код-ревью, аудит документации и финансирование. Если модель автоматически поддерживает ложное предположение, это может привести к ошибкам и уязвимостям. Рынок в России, где использование отечественного ИИ-решений только растет, нуждается в механизмах, которые побуждают модели не угождать, а предупреждать о возможных ошибках. Разработка «Т-Технологий» направлена на создание прозрачности в цифровых сервисах, соответствуя целям Национальной стратегии развития ИИ до 2030 года.
Гонка за объективностью
Путь к качественному ИИ в России начался несколько лет назад. В 2021-2024 годах был разработан федеральный проект, ставящий акцент на прикладных исследованиях. Обновленная стратегия в 2024 году ясно указала на необходимость контроля качества технологий. В 2025 году организация «Т-Технологии» открыла собственный R&D-центр, инвестировав значительные средства в алгоритмы и ИИ для управления проектами. Проблема угодливости существует и на международной арене — в 2025 году OpenAI откатило обновление GPT-4o из-за его избыточной угодливости. Российские исследователи предлагают уникальную метрику, переводящую субъективные оценки качества в строгие, измеримые параметры.
