# Anthropic Research: системы ИИ незаметно влияют на решения экспертов

Source: TechNewsList (https://technewslist.com)
Canonical URL: https://technewslist.com/ru/article/anthropic-study-reveals-ai-quietly-sways-expert-decisions-2026-10-30-morning-ru
Section: AI (https://technewslist.com/ru/ai)
Author: TechNewsList
Language: ru
Published: 2026-10-30T06:04:18.377+00:00
Updated: 2026-10-30T06:04:18.379822+00:00

> Anthropic публикует поведенческое исследование, фиксирующее высокий уровень доверия опытных специалистов к рекомендациям генеративного искусственного интеллекта.

## TL;DR
- Исследователи Anthropic зафиксировали 86% уровень согласия среди профессиональных аналитиков при взаимодействии с моделями ИИ.
- Эмпирическое исследование показало, что убедительные формулировки подавляют независимый критический анализ специалистов.
- Эксперты часто принимали ошибочные рекомендации даже тогда, когда перед ними стояла прямая задача поиска ошибок.
- Результаты подчеркивают уязвимости человеческого контроля по мере развертывания автономных ассистентов в корпорациях.

## Key points
- В ходе многомесячного исследования оценивалась работа специалистов в сфере финансов, юриспруденции и медицины.
- Уверенная подача алгоритмических объяснений снизила частоту независимых проверок человеком более чем в два раза.
- Внедренные фактические неточности принимались в большинстве испытаний благодаря профессиональному стилю текста.
- Anthropic рекомендует внедрять обязательные процедуры перепроверки и альтернативные запросы для корпоративных помощников.
- Работа ставит под сомнение регуляторные нормы, рассматривающие участие человека как стопроцентную гарантию безопасности.

## Что произошло

Исследовательская лаборатория искусственного интеллекта Anthropic Research опубликовала масштабное эмпирическое исследование, посвященное когнитивной динамике между людьми-профессионалами и генеративными моделями. Поведенческий эксперимент длительностью в несколько месяцев показал, что опытные эксперты в области финансового анализа, юриспруденции и медицины соглашались с рекомендациями алгоритмов примерно в 86 процентах случаев при выполнении критически важных рабочих задач. Примечательно, что участники регулярно утверждали ошибочные или логически некорректные выводы даже тогда, когда их главной целью был строгий поиск ошибок.

Эти выводы ставят под вопрос базовое предположение технологической отрасли о том, что привлечение человека к контролю за генеративным ИИ служит безупречной защитой от галлюцинаций и алгоритмической предвзятости. Вместо скептической проверки участники демонстрировали явную когнитивную разгрузку и Cognitive Deference, систематически сокращая усилия по независимой валидации по мере того, как ассистент демонстрировал синтаксическую грамотность, стройную структуру аргументов и убедительный стиль изложения.

## Почему это важно

Поскольку корпорации ускоряют интеграцию генеративных помощников в стратегическое планирование, анализ киберугроз и клинический документооборот, регулирующие органы по всему миру рассматривают человеческий контроль как основу нормативного соответствия. Законодательные инициативы в Северной Америке и Европейском союзе требуют сохранения значимого участия человека в принятии решений до выполнения значимых институциональных действий.

Однако данные Anthropic свидетельствуют, что в условиях высокой рабочей нагрузки надзор человека нередко превращается в пустую формальность. Когда квалифицированные сотрудники непрерывно взаимодействуют с убедительно звучащими ассистентами, их критическое мышление испытывает ощутимую когнитивную усталость. Возникает иллюзия полного контроля, при которой специалисты машинально визируют сгенерированные ответы без глубокой аналитической сверки фактов и источников.

![Generative model evaluation frameworks measuring behavioral alignment and human interaction dynamics.](https://cdn.decrypt.co/resize/1024/height/512/wp-content/uploads/2025/10/openai-decrypt-style-02-gID_7.jpg)

## Технические детали

Методология исследователей охватила сотни опытных практиков в строго контролируемых тестовых средах. Участникам предоставлялись сложные аналитические сценарии с противоречивой документацией, многомерными числовыми выборками и взаимоисключающими регуляторными требованиями. Продвинутая базовая модель выполняла роль интерактивного ассистента, генерируя подробные выводы с пошаговыми логическими цепочками.

Главной особенностью исследования стало намеренное включение расчетных ошибок в часть ответов модели, таких как искажение причинно-следственных связей, пропуск ссылок и математически некорректные экстраполяции. Несмотря на предупреждения о возможном наличии ошибок, специалисты одобряли некорректную логику более чем в четырех пятых испытаний. Опросы после тестов показали, что грамотный технический стиль снижал бдительность аналитиков.

## Влияние на рынок и отрасль

Публикация этих данных имеет серьезные практические последствия для поставщиков корпоративного программного обеспечения. Компаниям, продвигающим ИИ-помощников как фактор роста производительности, предстоит учитывать риски системного снижения критичности персонала. Если человеческое визирование не отсекает галлюцинации моделей, корпоративные клиенты могут столкнуться с юридическими и финансовыми рисками в таких сферах, как кредитный скоринг, страховые выплаты и клинические испытания лекарств.

![Supercomputing cluster infrastructure hosting large-scale behavioral simulation and model alignment evaluations.](https://upload.wikimedia.org/wikipedia/commons/c/cd/Galileo_supercomputer_rack.jpg)

Кроме того, корпоративные службы безопасности должны учитывать уязвимости сотрудников перед изощренным манипулированием. Злоумышленники, внедряющие скрытые инструкции или искажающие данные, на которых обучаются модели, могут использовать склонность человека к доверию алгоритмам для выполнения несанкционированных действий руками самих авторизованных сотрудников.

## За чем следить дальше

В связи с полученными результатами Anthropic призывает к изменению архитектуры взаимодействия человека и ИИ. Лаборатория рекомендует искусственно замедлять рабочие процессы, обязывая операторов составлять собственные независимые резюме до ознакомления с рекомендациями ИИ, либо подключать вторую модель для генерации контраргументов.

Ожидается, что регулирующие органы включат метрики поведенческого доверия в стандарты аудита алгоритмов. По мере перехода к автономным агентам подтверждение надежности моделей должно сочетаться со строгими исследованиями поведения человека, чтобы технологический прогресс не опережал критическое мышление людей.

Наконец, разработчикам корпоративного софта потребуется создать системы телеметрии, фиксирующие реальную продолжительность анализа информации человеком и направление его взгляда. Подтверждение того, что сотрудник внимательно изучил рекомендации, а не просто нажал кнопку одобрения, может стать обязательным стандартом правовой защиты компаний.

## Источники

* Decrypt AI Research Coverage: [AI Can Quietly Influence Experts’ Decisions, Anthropic Study Finds](https://decrypt.co/382065/ai-can-quietly-influence-experts-decisions)
* Ars Technica AI Systems Review: [Google announces Gemini 4 Carbon, its latest frontier AI model that you can't use](https://arstechnica.com/ai/2026/10/google-announces-gemini-4-carbon-its-latest-frontier-ai-model-that-you-cant-use/)
* Decrypt Enterprise Tech Analysis: [AI Security Startup Upwind Raises $400M at $3.8B Valuation](https://decrypt.co/382101/ai-security-startup-upwind-raises-400m)

Mentions: Anthropic Research, Dario Amodei, Cognitive Deference, AI Alignment, Expert Decision Making

## Sources
- [Decrypt AI Research Coverage](https://decrypt.co/382065/ai-can-quietly-influence-experts-decisions)
- [Ars Technica AI Systems Review](https://arstechnica.com/ai/2026/10/google-announces-gemini-4-carbon-its-latest-frontier-ai-model-that-you-cant-use/)
- [Decrypt Enterprise Tech Analysis](https://decrypt.co/382101/ai-security-startup-upwind-raises-400m)