Кризис доверия к ИИ: почему нейросети раздражают даже тех, кто ими пользуется
15 августа глава Anthropic Дарио Амодеи ответил в соцсети инвестору, который обвинил ИИ-руководителей в том, что их же мрачные прогнозы и породили общественное раздражение. Ответ вышел интереснее самого спора: Амодеи сказал, что дело не в формулировках и не в подаче, а в доверии, которого нет. Мы в Schai сами делаем ИИ-продукт, поэтому не будем ни защищать индустрию, ни присоединяться к критике на эмоциях. Разберём спокойно: из чего складывается недоверие, где оно оправдано, где держится на мифах и что реально уменьшает раздражение.
Повод: спор в соцсети и одно честное признание
Что именно сказал глава Anthropic
Инвестор Гэвин Бейкер написал, что негативное отношение к ИИ в США — включая протесты против дата-центров — во многом создали сами руководители отрасли, годами рассказывавшие о рисках. Амодеи не согласился: по его словам, его собственные высказывания были примерно поровну поделены между рисками и пользой, а корень проблемы лежит глубже и старше нейросетей.
Я думаю, это фундаментально кризис доверия. Обычные люди не доверяют компаниям, правительствам или технологической индустрии и всегда подозревают, что мы придумываем очередной способ их обмануть.
В пересказах обычно теряются две другие его мысли. Первая: самая точная претензия к ИИ-компаниям, включая Anthropic, — что они до сих пор не выполнили своих громких обещаний принести миру пользу, и это целиком их собственная вина. Вторая: ИИ структурно является технологией, которая склонна концентрировать власть. Оба тезиса звучат из уст человека, который эту технологию продаёт, — и это делает их заметно весомее.
Почему объяснение верное, но неполное
«Люди вообще никому не доверяют» — удобная рамка: она переносит причину наружу, в социологию и историю последних десятилетий. Проблема в том, что недоверие всегда конкретно. Человек не сердится на абстрактный прогресс — он сердится, когда кнопка, которой он пользовался пять лет, вдруг стала чатом; когда служба поддержки заменилась ботом, из которого не выбраться к живому оператору; когда его текст или музыка оказались в обучающей выборке без спроса. Каждый такой случай — не социологический фон, а чьё-то продуктовое решение.
Из чего складывается раздражение
Страх за работу
Это самая громкая причина и одновременно самая плохо измеренная. Проект Budget Lab Йельского университета, отслеживающий рынок труда США с момента появления массовых чат-ботов, за 33 месяца наблюдений не нашёл заметного общеэкономического сдвига: доля работников в профессиях с высокой, средней и низкой «подверженностью ИИ» держится стабильно, среди безработных нет перекоса в сторону уязвимых профессий. Единственный слабый сигнал — расхождение между свежими и более старшими выпускниками вузов, но и он может предшествовать нейросетям.
При этом страх абсолютно реален, и питается он не статистикой, а объяснительными записками компаний: когда сокращение официально объясняют внедрением ИИ, человеку неважно, что макроданные пока молчат. Экономисты видят агрегат, работник видит собственный отдел.
Ощущение навязанности
Второй источник — самый бытовой. Исследование агентства Go Mobile, опросившего в июне 2026 года 7855 жителей крупных российских городов в возрасте 18–64 лет, даёт довольно точную анатомию бытового раздражения: 26 % называют главной претензией то, что ИИ не понимает запрос и при этом мешает связаться с живым человеком; 23 % не нравится, что привычные функции приложения заменили ИИ-ассистентом; 19 % раздражают ошибочные рекомендации. И показательная цифра рядом: 40 % не готовы платить за ИИ-функции ни при каких условиях.
Обратите внимание: ни один из этих пунктов не про «восстание машин». Это претензии к дизайну, а не к технологии.
Уверенный тон при неверном ответе
Модель, которая ошибается, — это ожидаемо. Модель, которая ошибается ровно тем же спокойным уверенным голосом, каким говорит правду, — это уже про доверие. И причина здесь не мистическая: в сентябре 2025 года исследователи OpenAI вместе с соавтором из Georgia Tech показали, что галлюцинации во многом являются побочным продуктом самой процедуры оценки. Стандартные бенчмарки считают долю правильных ответов и штрафуют «не знаю» так же, как ошибку, — значит, угадывать выгоднее, чем признавать неуверенность. Модели просто оптимизированы под экзамен, где за пустой бланк ставят ноль.
Непрозрачность обучения на чужих данных
Здесь недоверие подкреплено деньгами и судебными документами. Anthropic — та самая компания, чей глава говорит о кризисе доверия, — согласилась выплатить 1,5 млрд долларов по коллективному иску авторов: около 3 тысяч долларов за каждое из более чем 480 тысяч произведений, скачанных из пиратских библиотек, плюс обязательство уничтожить исходные файлы. Это крупнейшее в истории США урегулирование по авторскому праву. Когда человек говорит «они учились на нашем без спроса», он опирается не на слух, а на решение суда.
Что обосновано, а что миф
Обоснованные претензии
1. Обучение на чужих текстах, изображениях и музыке без разрешения — было, доказано, оплачено штрафами. 2. Уверенные ошибки — это не баг конкретного продукта, а системное свойство того, как модели учат и оценивают. 3. Навязчивость ИИ-функций — прямое следствие того, что компаниям нужно показывать инвесторам «внедрение», а не решать задачу пользователя. 4. Невозможность добраться до человека в поддержке — реальная и массовая проблема, а не преувеличение. 5. Концентрация власти и данных у нескольких компаний — тезис, который признаёт даже руководитель одной из этих компаний.
Мифы и сильные преувеличения
1. «ИИ уже отобрал рабочие места» — на уровне экономики этого пока не видно ни в одном большом наборе данных; отдельные увольнения есть, массового сдвига нет. 2. «Он всё запоминает и передаёт кому-то» — в большинстве серьёзных продуктов обучение на переписке отключается настройкой, а корпоративные тарифы его не используют по умолчанию; проверять надо конкретную политику, а не подозревать все системы разом. 3. «Модель понимает, что говорит» — нет, и именно поэтому её уверенность ничего не сообщает о правильности ответа. 4. «Нейросети врут постоянно» — ошибки распределены неравномерно: хуже всего даются редкие факты, свежие события, точные числа и ссылки, а типовые задачи вроде переформулировки текста выполняются устойчиво. 5. «Раз ошибается — пользоваться нельзя» — вопрос не в наличии ошибок, а в цене ошибки: черновик письма и медицинское заключение находятся в разных весовых категориях.
Что показывают опросы
США: пользуются больше, доверяют меньше
Pew Research Center опросил 5119 взрослых американцев 17–23 февраля 2026 года. Доля пользующихся чат-ботами выросла с 33 % в 2024 году до 49 % — то есть примерно половина страны. При этом 63 % считают, что ИИ развивается слишком быстро, 59 % не испытывают уверенности, что американские компании будут разрабатывать ИИ ответственно, 67 % так же не верят в способность государства его регулировать, а 71 % ожидают, что их персональные данные станут менее защищёнными. Только 16 % ждут положительного влияния на общество в ближайшие двадцать лет.
Самое важное в этих числах — они не противоречат друг другу. Люди не «против ИИ»: они им пользуются и одновременно не доверяют тем, кто его делает. Именно это и называется кризисом доверия, а не кризисом технологии.
Мир разделён географией, а не возрастом
Ipsos AI Monitor 2026 (23 532 респондента в 32 странах, полевой этап — март–апрель 2026) показывает почти идеальный раскол: 51 % во всём мире говорят, что продукты с ИИ их радуют, и 50 % — что нервируют. Но среднее скрывает пропасть. Китай лидирует по энтузиазму — 83 %; в Индии 79 % воодушевлены и одновременно 63 % встревожены; страны Европы и Северной Америки в среднем заметно тревожнее. Разница объясняется не уровнем технической грамотности, а простым вопросом: ждёт ли человек, что технология улучшит лично его жизнь, или подозревает, что она улучшит чью-то чужую за его счёт.
Что делать разработчикам, чтобы не раздражать
Предсказуемость важнее умности
Пользователь прощает слабую модель и не прощает непонятную. Если функция запускается сама, неясно, что она сделала, и результат нельзя откатить — раздражение гарантировано даже при отличном качестве. Работает противоположное: заранее сказать, что произойдёт; показать промежуточный результат до применения; оставить видимую кнопку отмены. В Schai GPT мы держимся правила «черновик, а потом кнопка»: ассистент готовит текст поста или ответ в мессенджере, но публикует и отправляет только человек. Это медленнее ровно на один клик и радикально меняет ощущение контроля.
Возможность отказаться — без наказания
Отключаемая ИИ-функция вызывает меньше злости, чем обязательная, даже если её в итоге никто не отключает. Важна не сама настройка, а наличие выбора. Три практических следствия: старый интерфейс должен остаться доступным, а не «переехать»; отказ от ИИ не должен ухудшать базовый сервис; путь к живому человеку в поддержке обязан быть виден с первого экрана — это ровно та претензия, которую называет каждый четвёртый.
Честные ограничения вместо обещаний
Ничто не подрывает доверие так, как продукт, который обещал «всё» и не смог. Признание Амодеи о невыполненных обещаниях касается и маленьких продуктов: лучше заранее сказать, где ассистент силён, а где нет, чем позволить пользователю обнаружить это на важной задаче. Полезно прямо в интерфейсе помечать, что ответ основан на данных до определённой даты, показывать источники, а при неуверенности — говорить об этом вслух. Кстати, исследования рекламы стабильно фиксируют неприятный для маркетологов эффект: явное указание на то, что материал сделан ИИ, снижает воспринимаемую подлинность и намерение купить. Вывод из этого — не прятать ИИ, а перестать использовать его как самостоятельный аргумент: людям нужен результат, а не упоминание технологии в описании.
Что с этим делать пользователю
Полезно развести две вещи, которые обычно слиплись в одно чувство. Есть недоверие к технологии — оно лечится опытом и знанием её границ: попробовать на задаче, где вы сами способны проверить результат, и посмотреть, где она поплыла. И есть недоверие к компаниям — оно лечится только их поведением: политикой данных, возможностью отказаться, выполненными обещаниями. Первое зависит от вас, второе — нет, и смешивать их не стоит.
Практический минимум: проверяйте настройки обучения на ваших данных; не отдавайте ассистенту задачи, где цена ошибки высока, без последующей проверки; относитесь к уверенному тону как к особенности интерфейса, а не как к признаку правоты. Наш собственный опыт с Schai GPT говорит, что доверие растёт не от восторженных обещаний, а от скучных вещей: предсказуемого поведения, честных «я не знаю» и права нажать «отмена».
Амодеи прав в диагнозе: это действительно кризис доверия, а не кризис коммуникации. Только следствие из диагноза не «нужно лучше объяснять». Доверие возвращают не объяснениями, а поведением — и начинается это не с обещания вылечить рак, а с кнопки, которая делает ровно то, что написано.
Пока нет комментариев