Иллюзия разума

Политолог, первый заместитель председателя комиссии Общественной палаты РФ по общественной экспертизе законопроектов и иных нормативных актов, эксперт Центра ПРИСП Александр Асафов – о том, почему люди склонны одушевлять ИИ.

Массовое сознание все чаще наделяет нейросети человеческими качествами, а само понятие «ИИ» стало нарицательным – нередко большие языковые модели (LLM) сравниваются со «сверхразумом», способным дать ответ на любой вопрос. Чтобы оспорить эту набирающую популярность тенденцию и продемонстрировать иллюзорность убеждений об ИИ, исследователь Microsoft и Йоркского университета Адриан де Винтер опубликовал исследование, в котором пошел на нестандартный шаг и довел ситуацию до абсурда: создал простейшую нейросеть прямо внутри классической стратегии Age of Empires II.

Козы вместо вычислительных чипов

Эксперимент строился на то, что игру при определенных допущениях можно использовать как вычислительную среду: ее механики позволяют создавать логические схемы и выполнять вычисления произвольной сложности – фактически так же, как это делают процессоры в дата-центрах.

Используя этот принцип, исследователь создал внутри игры персептрон – простейшую модель нейросети.

Роль логических вентилей (переключателей NAND) и проводников сигналов в этой архитектуре выполняли внутриигровые объекты: особенности ландшафта, здания и козы. Животные выступали физическими носителями информации (ноли и единицы). Каждый бит кодировался двумя параллельными маршрутами: участок с травой означал «ноль», а деревянный мост – «единицу». В любой момент времени активной оставалась только одна колея, по которой перемещалась «коза-сигнал». При срабатывании логического вентиля старые животные удалялись с карты, а на выходных путях генерировались новые, передавая сигнал дальше по цепи.

Такая нарочито примитивная визуализация призвана показать, что искусственный интеллект (ИИ) может быть развернут не только на вычислительных процессорах: по сути, любая среда, допускающая изменение переменных (от видеоигры до группы жителей крупного мегаполиса), при достаточной сложности правил и отсутствии жестких ограничений по времени и памяти может стать физическим «субстратом» (платформой-носителем) для выполнения вычислений, необходимых для работы ИИ.

Ловушка очеловечивания

Главный вывод сводится к тому, что готовность людей наделять нейросеть человеческими свойствами зависит исключительно от ее интерфейса. Если беседа с чат-ботом вызывает у многих пользователей ощущение осмысленного диалога, то аналогичный ответ, генерируемый медленным перемещением стада цифровых коз на экране, воспринимался бы совершенно иначе, вскрывая механистическую природу ответов.

Примечательно, что склонность антропоморфизировать (очеловечивать) ИИ стала проблемой и в академической среде. Проанализировав 315 научных статей об LLM, выпущенных с 2024 по 2026 год, автор исследования выяснил, что в 57% из них эксперименты изначально строятся на допущении о наличии у нейросетей человеческих свойств. При этом среди работ, которые делают наличие таких качеств предметом своего исследования, в 77% из них приходят к выводу об их реальном существовании.

Опасность имитации

Наделяя ИИ эмоциями, люди поддаются убедительной имитации, приписывая машине сложнейшие когнитивные процессы лишь потому, что ее научили хорошо подражать человеку.

В долгосрочной перспективе это когнитивное искажение несет серьезные риски для всего общества. Ошибочно признавая программу мыслящим субъектом, пользователи проникаются к ней доверием и эмоционально привязываются, начиная полагаться на нее в важных вопросах и делегировать ответственность за принятие решений.

Однако каким бы гладким и эмпатичным ни казался текст на экране гаджета, по своей сути он ничем не отличается от суетливого перемещения пиксельных коз и крестьян в старой видеоигре. Очевидно, что проблема только обострится в случае интеграции LLM в человекподных андроидов, коммерческие модели которых уже постепенно начинают появляться на рынке.

Только отказавшись от поиска души в LLM и сохранив за человеком монополию на принятие решений, мы сможем безопасно и эффективно использовать ИИ в повседневной жизни.