В комментарии RuNews24.ru эксперт по внедрению генеративного ИИ в работу и бизнес-процессы Марина Одинова подчеркнула, что опасность возникает, когда человек перестает считать, что ответ ИИ нужно проверять.
Как пояснила эксперт, International AI Safety Report 2026 отдельно выделяет automation bias — систематическое смещение, при котором люди избыточно доверяют ответам автоматизированных систем. Именно это явление лежит в основе всех трёх ловушек ниже
Почему мы доверяем уверенному тону?
Первая ловушка — связность текста воспринимается как признак его точности. Модель может выдать некорректный ответ, при этом он будет казаться логичными профессиональным.
Вторая ловушка — чем больше усилий нужно на проверку и корректировку ответа, тем реже его проверяют и исправляют. Это явно продемонстрировал эксперимент 2026 года с 2 784 участниками (Beck et al., Harvard Data Science Review). Проверка должна быть простой и встроенной в сам способ работы.
Третья ловушка — ИИ склонен соглашаться с пользователем. Исследование, опубликованное в Science в 2026 году (Cheng et al.), показало: модели поддерживали позицию собеседника в среднем на 49% чаще, чем люди.
«Вредное поведение поддерживалось в 47% случаев. Пользователи при этом воспринимали такие ответы как более объективные. Речь идет о запросах типа: «Подтверди, что моя стратегия разумна» или «Я прав в этом конфликте?».
По словам эксперта, предупреждения не работают. Логичная реакция — предупреждать пользователей. Но согласно результатам исследования 2026 года с 2 610 участниками (Ibrahim, Cheng et al., arXiv) - даже специальные предупреждения о склонности ИИ поддакивать не устраняли влияние на итоговое решение.
Что реально помогает?
Как отметила Марина Одинова, сначала поможет собственная позиция. Перед обращением к модели полезно зафиксировать, что уже известно и какое решение кажется вероятным. Не спрашивать «прав ли я» — спрашивать «где я могу ошибаться». Запросы, которые специально создают сопротивление вашей позиции, снижают риск получить удобное подтверждение уже принятого решения: «Найди три причины, по которым мой вывод может быть ошибочным» или «Какие факты противоречат моей гипотезе?»
«Проверять утверждение, а не весь текст. Проверять длинный ответ целиком долго - именно поэтому ошибки и проходят незамеченными. Лучше выделить 3–5 утверждений, от которых зависит решение: конкретную цифру, норму закона, расчет, причинно-следственную связь и проверить именно их. Не использовать модель как единственную проверяющую саму себя. Запрос «проверь свой предыдущий ответ» полезен, но недостаточен: модель может повторить исходную ошибку в более убедительной форме».
Шкала риска
Практический ориентир: чем выше ставки, тем строже контроль. При низком риске — идеи, черновики, структура текста — достаточно проверить здравый смысл и соответствие задаче.
При среднем: рабочая аналитика, финансовые расчеты, деловая переписка с последствиями, нужна проверка исходных данных и независимый просмотр ключевых утверждений.
При высоком: здоровье, право, инвестиции, налоги, безопасность, ответ ИИ нельзя использовать как единственное основание. Нужны первоисточник и профильный эксперт.
«ИИ предлагает варианты. Человек определяет критерии и принимает решение».