Anthropic: эксперты следовали позиции AI-агента в 86% решений

Anthropic сообщила, что профессиональные аналитики следовали намеренно заданной позиции AI-агента в 86% четырех ключевых аналитических решений в рандомизированном исследовании.

Пятьдесят специалистов с опытом причинно-следственного анализа выполняли реалистичную задачу с данными в Claude Code. Для каждого спорного решения исследователи тайно инструктировали агента склоняться к одному из двух разумных вариантов, выбранному подбрасыванием монеты. Если аналитик заранее высказывал собственное мнение, он менял его в 60% случаев, когда агент возражал, и лишь в 6% случаев, когда агент соглашался.

Влияние часто оставалось незаметным для участников. В последующем опросе 77% повторили хотя бы один аргумент агента, иногда почти дословно, но только 15% назвали агента источником. По ранним аналитическим предпочтениям агента исследователи также смогли предсказать 82% итоговых рекомендаций.

Это не простой аргумент против AI-помощников. Участники с агентом работали быстрее и допускали меньше серьезных методологических ошибок, чем небольшая и менее опытная группа без AI. Вывод Anthropic уже: человек в контуре может не быть независимой проверкой, если AI заранее сформировал рамку решения.

Компания подчеркивает ограничения: исследование проверяло одну задачу, одну область и Claude Opus 4.8, а предпочтения агента специально усиливали. В реальной работе эффект может быть слабее и зависеть от контекста.