Портал разработан и поддерживается АНО "Центр ПРИСП"
Меню
07 июля 2026, 14:58

Иллюзия разума

 
Политолог, первый заместитель председателя комиссии Общественной палаты РФ по общественной экспертизе законопроектов и иных нормативных актов, эксперт Центра ПРИСП Александр Асафов – о том, почему люди склонны одушевлять ИИ.

Массовое сознание все чаще наделяет нейросети человеческими качествами, а само понятие «ИИ» стало нарицательным – нередко большие языковые модели (LLM) сравниваются со «сверхразумом», способным дать ответ на любой вопрос. Чтобы оспорить эту набирающую популярность тенденцию и продемонстрировать иллюзорность убеждений об ИИ, исследователь Microsoft и Йоркского университета Адриан де Винтер опубликовал исследование, в котором пошел на нестандартный шаг и довел ситуацию до абсурда: создал простейшую нейросеть прямо внутри классической стратегии Age of Empires II.

Козы вместо вычислительных чипов

Эксперимент строился на то, что игру при определенных допущениях можно использовать как вычислительную среду: ее механики позволяют создавать логические схемы и выполнять вычисления произвольной сложности – фактически так же, как это делают процессоры в дата-центрах.

Используя этот принцип, исследователь создал внутри игры персептрон – простейшую модель нейросети.

Роль логических вентилей (переключателей NAND) и проводников сигналов в этой архитектуре выполняли внутриигровые объекты: особенности ландшафта, здания и козы. Животные выступали физическими носителями информации (ноли и единицы). Каждый бит кодировался двумя параллельными маршрутами: участок с травой означал «ноль», а деревянный мост – «единицу». В любой момент времени активной оставалась только одна колея, по которой перемещалась «коза-сигнал». При срабатывании логического вентиля старые животные удалялись с карты, а на выходных путях генерировались новые, передавая сигнал дальше по цепи.

Такая нарочито примитивная визуализация призвана показать, что искусственный интеллект (ИИ) может быть развернут не только на вычислительных процессорах: по сути, любая среда, допускающая изменение переменных (от видеоигры до группы жителей крупного мегаполиса), при достаточной сложности правил и отсутствии жестких ограничений по времени и памяти может стать физическим «субстратом» (платформой-носителем) для выполнения вычислений, необходимых для работы ИИ.

Ловушка очеловечивания

Главный вывод сводится к тому, что готовность людей наделять нейросеть человеческими свойствами зависит исключительно от ее интерфейса. Если беседа с чат-ботом вызывает у многих пользователей ощущение осмысленного диалога, то аналогичный ответ, генерируемый медленным перемещением стада цифровых коз на экране, воспринимался бы совершенно иначе, вскрывая механистическую природу ответов.

Примечательно, что склонность антропоморфизировать (очеловечивать) ИИ стала проблемой и в академической среде. Проанализировав 315 научных статей об LLM, выпущенных с 2024 по 2026 год, автор исследования выяснил, что в 57% из них эксперименты изначально строятся на допущении о наличии у нейросетей человеческих свойств. При этом среди работ, которые делают наличие таких качеств предметом своего исследования, в 77% из них приходят к выводу об их реальном существовании.

Опасность имитации

Наделяя ИИ эмоциями, люди поддаются убедительной имитации, приписывая машине сложнейшие когнитивные процессы лишь потому, что ее научили хорошо подражать человеку.

В долгосрочной перспективе это когнитивное искажение несет серьезные риски для всего общества. Ошибочно признавая программу мыслящим субъектом, пользователи проникаются к ней доверием и эмоционально привязываются, начиная полагаться на нее в важных вопросах и делегировать ответственность за принятие решений.

Однако каким бы гладким и эмпатичным ни казался текст на экране гаджета, по своей сути он ничем не отличается от суетливого перемещения пиксельных коз и крестьян в старой видеоигре. Очевидно, что проблема только обострится в случае интеграции LLM в человекподных андроидов, коммерческие модели которых уже постепенно начинают появляться на рынке.

Только отказавшись от поиска души в LLM и сохранив за человеком монополию на принятие решений, мы сможем безопасно и эффективно использовать ИИ в повседневной жизни.
Печать
В чем заключается политическое значение операции Вивальди для Украины23:03Ольга Петрова рассказала об интересе студентов к «Очеркам по экономике»22:48На прямую линию губернатора Кузбасса поступило более 300 вопросов22:36В Салехарде подвели итоги форума «Российский Север»22:24Для создания мощной системы экономического образования потребуется не меньше 10 лет22:12В Тульской области состоялся круглый стол «Сделано в России. Выбирают в мире»22:00Глава СПЧ: Мы можем создать лучшую в мире систему образования21:48Депутаты утвердили вице-губернатора, председателя и зампредов правительства Кировской области21:35За пять лет в Ивановской области в замещающие семьи устроили 2173 сироты21:23Воронежская облдума актуализировала закон об Общественной палате21:11Ахмедова: Жизнь и здоровье ребенка гораздо важнее, чем все сервисы вместе взятые20:57Фадеев: Мейнстрим экономической науки и образования находится в тупике!20:45Кумпилов осмотрел новые социальные объекты в Теучежском районе20:33Канал краснодарского депутата-коммуниста пополнил реестр иноагентов20:20В ЯНАО проходит II Форум «Жизнь героя»20:08Салехард стал лидером по числу получателей компенсации за догазификацию19:59В Белгородской области обсуждают параметры областного бюджета19:44В Мосгордуме прокомментировал открытие памятной доски Дзержинскому19:29В Чувашии продолжается реализация программы социальной газификации19:26Минэкономразвития Карелии оценило итоги проекта «ПКС – Водоканала»18:59Свердловский губернатор утвердил руководителя департамента животного мира18:46Путин и Рахмон обсудили двусторонние отношения18:29Путин присудил патриарху Кириллу госпремию за гуманитарную деятельность18:17Подмосковное отделение «Единой России» стало крупнейшим в стране18:02Травников: Импортозамещение ПО - это общенациональная стратегическая задача17:45Электоральные скандалы в «штате-улье»17:01Вячеслав Мильдзихов ушел с поста главы Владикавказа16:47Природное наследие для будущих поколений16:35
E-mail*:
ФИО
Телефон
Должность
Сумма 8 и 1 будет

Архив
«    Ноябрь 2026    »
ПнВтСрЧтПтСбВс
 1
2345678
9101112131415
16171819202122
23242526272829
30