Обратная сторона технооптимизма

Политолог, первый заместитель председателя комиссии ОП РФ по общественной экспертизе законопроектов и иных нормативных актов, эксперт Центра ПРИСП Александр Асафов – о том, почему ИИ рискует стать глупее вместе с человечеством.

Эпоха ИИ началась с обещания освободить человека от рутины и открыть дорогу невиданной продуктивности. Однако у технооптимизма есть обратная сторона: работа нейросетей полностью зависит от переработки накопленного человечеством опыта. И чем больше машина подменяет собой человеческое мышление, тем слабее становится среда, из которой она сама черпает силу.

Оптимизация без тормозов

Лейтмотив эпохи ИИ звучит просто: машины стремительно учатся думать самостоятельно, поэтому человеку остается лишь постепенно отойти в сторону, уступая место цифровому совершенству.

Корпоративный мир первым воспринял эту идею, приступив к оптимизации бизнес-процессов. Еще в 2023 году руководство IBM заявило о возможной замене ИИ примерно 7,8 тыс. работников. Вскоре после этого платформа Duolingo сократила десятую часть своих подрядчиков, а финтех-гигант Klarna объявил, что их новый ИИ ассистент выполняет объем работы, сопоставимый с деятельностью 700 специалистов службы поддержки.

Внедрение ИИ показалось топ-менеджерам лучшей идеей со времен замены лошади двигателем внутреннего сгорания: рутинный когнитивный труд автоматизируется, штат младших сотрудников редеет, а продуктивность кратно возрастает.

Однако, как предупреждает исследователь Брайт Саймонс в статье «The Social Edge of Intelligence», повсеместное внедрение нейросетей может парализовать развитие самого ИИ и, что самое главное, оказать крайне негативное воздействие на когнитивные способности всего человечества.

Слепок человеческой мысли

Главное заблуждение состоит в том, что ИИ способен «думать» самостоятельно. LLM — это колоссальный цифровой слепок всей социальной сложности нашей цивилизации. Источник всех возможностей ИИ — впитанный им огромный массив человеческого взаимодействия: научные статьи, судебные прецеденты, моральные дилеммы и художественная литература. Каждое слово в датасете, на котором обучается ИИ — это своего рода производная человеческой коммуникации.

По сути, ИИ лишь воспроизводит то, что когда-то придумало человечество. Если взять все тексты Древнего Египта и обучить на них современный ИИ, то он сможет блестяще предсказывать разливы Нила, но у него никогда не появится концепция эмпиризма или римского права, которые возникнут века спустя. Иными словами, «интеллект» LLM напрямую зависит от той социальной среды, которая его породила.

Основа этого «интеллекта» создавалась в течение веков в ходе сложных отношений и взаимодействий индивидов, социальных групп, государств и цивилизаций, поэтому развитие LLM требует «усложнения» цивилизации и ее интеллектуальных плодов.

Цена интеллектуального комфорта

Возникает основная проблема: если ИИ вытесняет людей из сфер, где рождаются новые смыслы и интеллектуальный продукт, то он, по сути, уничтожает источник собственной «жизненной силы».

Весной 2024 года британские исследователи наглядно продемонстрировали это с помощью эксперимента, в котором приняли участие около 300 писателей. Авторы, использовавшие GPT-4, написали заметно более креативные рассказы, но при анализе всего массива текстов выяснилось, что в совокупности они стали поразительно однородными.

Параллельно атрофируется и человеческий разум. Исследование 2025 года от Microsoft и Carnegie Mellon, охватившее 319 работников и 936 бизнес-процессов, показало пугающую картину: в 40% случаев люди вообще не применяли критическое мышление при работе с чат-ботом. При этом чем выше доверие к ИИ, тем ниже когнитивные усилия человека: по данным Anthropic, пользователи нейросети Claude перепроверяли полученные ответы лишь в 8,7% случаев.

В результате возникает «интеллектуальная лень»: люди получают удобную версию реальности и постепенно отвыкают от живого, иногда болезненного процесса познания. Хотя личная продуктивность на какое-то время возрастает, общий темп и качество результатов интеллектуальной деятельности человечества начинают снижаться.

Налицо классический пример феномена «трагедии общин» — выигрыш индивида оборачивается убытками для коллектива.

Смерть неявного знания

Для бизнеса ставка на ИИ оборачивается институциональной ловушкой: внедрение ИИ для решения «базовых» задач уничтожает среду формирования будущих экспертов. С 2022 года занятость специалистов 22-25 лет в сферах, сильнее всего подверженных автоматизации, упала на 13%. Однако, упраздняя младшие позиции, компании в перспективе столкнутся с острым дефицитом опытных специалистов, начавших карьеру с самых низов.

Исследование Гарвардской школы бизнеса подтверждает наличие такой проблемы: с помощью GPT-4 сотрудники повышали качество работы на 40% в рамках одной бизнес-задачи, но теряли 19% результативности там, где требовался практический опыт и профессиональное чутье, которые невозможно получить при взаимодействии с ИИ.

Проблема в том, что основы человеческого интеллекта сугубо социальны. Как доказал эволюционный биолог Майкл Томаселло, человеческое познание выделилось благодаря уникальной способности к совместной деятельности для достижения общих целей. Эту мысль подтверждает и антрополог Робин Данбар: язык эволюционировал для управления сложными социальными связями, а не просто для передачи информации. Синхронизация когнитивных усилий — от постройки пирамид до полетов на Марс — всегда была основой человеческого развития.

У края человеческого наследия

Проблема выходит далеко за рамки кадрового дефицита. По оценкам исследовательской группы Epoch AI, запас качественных, написанных человеком текстов для обучения LLM может быть исчерпан уже к 2032 году. Хотя технические специалисты часто описывают ситуацию так, словно речь идет о пустеющем складе, суть проблемы гораздо глубже: истощается сама социальная среда, генерирующая новые сложные смыслы.

Когда ИИ начинает учиться на результатах работы других нейросетей, качество ответов неизбежно снижается: редкие знания исчезают первыми, нестандартные формулировки сглаживаются, а сложные точки зрения подменяются усредненной нормой. На выходе получается текст, который выглядит уверенно и аккуратно, но из него выхолощена вся сложность живого человеческого опыта.

В этом и заключается парадокс «предела человеческого наследия»: технология буквально подтачивает основы нашей цивилизации, поскольку мы перестаем производить уникальные духовные и материальные продукты. Это происходит из-за сокращения профессиональных траекторий, ослабления института наставничества, тотальной унификации смыслов и подмены живого диалога готовыми машинными выводами.

ИИ — это тоже интеллектуальное наследие человека, своего рода зеркало, отражающее наш багаж, накопленный за тысячелетия социальной жизни. Однако, глядя в это зеркало, человечество рискует за пару поколений бездумно проесть этот капитал.

Человеческая сложность

Лидеры индустрии ИИ, такие как Сэм Альтман (OpenAI), Дарио Амодей (Anthropic) и Леопольд Ашенбреннер (Situational Awareness LP), верят, что простое увеличение вычислительных мощностей и объемов данных для обучения LLM неизбежно приведет к созданию искусственного сверхразума.

Однако в их стратегических расчетах кроется ключевая проблема: технологическая элита не задается вопросом, как массовое внедрение ИИ разрушает те самые социальные процессы, которые были главным условием для возникновения их «искусственного интеллекта» и других технических достижений человечества.

В мире, где базовый интеллектуальный труд внезапно стала дешевым товаром, истинную ценность приобретает способность к человеческому взаимодействию и созданию новых смыслов.

Главный экзистенциальный вопрос наступающей эпохи вовсе не касается того, сколько сотрудников лишатся работы из-за нейросетей. Гораздо важнее другое: какой объем «человеческой сложности» мы готовы — ценой финансовых и нематериальных жертв — сохранить сегодня, чтобы завтра ИИ не стал цифровым уроборосом, обреченным вечно питаться эхом собственного нейрослопа. Печать