Люди, как машины

Политический консультант, региональный представитель РАПК, эксперт Центра ПРИСП Даниил Ермилов – о рисках развития искусственного интеллекта.

Самый интересный риск искусственного интеллекта может оказаться не в том, что машины научатся говорить как люди. А в том, что люди постепенно научатся говорить как машины.

Сегодня это выглядит почти безобидно. Человек привыкает формулировать мысли яснее, структурировать запросы, убирать двусмысленность, давать контекст и заранее объяснять, чего именно он хочет.

Это удобно. Более того — эффективно. Но если такая коммуникация становится универсальной нормой, постепенно меняется не только стиль общения с машиной. Меняется представление человека о том, какой вообще должна быть хорошая коммуникация.

В этом и заключается потенциально масштабный эффект «взаимной роботизации».
Машине легче работать с человеком, который предсказуем, структурирован и хорошо «читается» алгоритмом. Но человеческое общение исторически построено не только на ясности. В нем есть недосказанность, ирония, пауза, противоречие, импульс, эмоциональный шум, случайная ассоциация. Именно из этой непредсказуемости часто рождаются юмор, творчество, близость и новые идеи.

Если алгоритмическая коммуникация станет доминирующей, общество может начать незаметно вознаграждать противоположные качества: не того, кто интереснее, а того, кого легче классифицировать; не того, кто оригинальнее, а того, кто лучше соответствует ожидаемой форме; не того, кто сложнее, а того, чье поведение проще предсказать.
Это уже не просто изменение речевого стиля. Это потенциальное изменение социальной нормы.

Возникает любопытный замкнутый цикл. AI становится все более похожим на человека. Человек, взаимодействуя с ним, становится более удобным для алгоритма. Алгоритм лучше понимает такого человека и начинает еще эффективнее с ним работать. В результате следующему поколению пользователей уже не приходится специально учиться «говорить с машиной» — они с самого начала социализируются в среде, где машинная читаемость становится преимуществом.

В широком масштабе это может привести к своеобразной алгоритмической стандартизации личности.

Не к появлению армии одинаковых роботов, а к гораздо более тонкому явлению: миллионы людей будут оставаться индивидуальными, но научатся выражать свою индивидуальность в формах, которые хорошо распознаются, измеряются и обрабатываются цифровыми системами.

Парадокс в том, что такая трансформация может восприниматься не как ограничение, а как повышение эффективности. Человек станет лучше писать резюме, формулировать требования, вести переговоры, создавать документы, объяснять эмоции и даже описывать самого себя. Он станет более понятным — но одновременно, возможно, менее спонтанным.

Поэтому главный вопрос будущего AI — не только «насколько умными станут машины?»

Есть другой, более фундаментальный вопрос: «Какими станут люди, если десятилетиями будут взаимодействовать с системами, для которых предсказуемость является преимуществом?»

Если этот процесс действительно масштабируется, его последствия проявятся сначала не в психологии отдельных пользователей, а в культуре: в языке, образовании, найме, рекламе, политической коммуникации, социальных сетях и корпоративной среде.

И тогда «взаимная роботизация» окажется не эффектом общения с чат-ботом, а новой формой социальной адаптации.

Самый опасный сценарий здесь — не потеря человечности.

Самый опасный сценарий — когда стандартизированное поведение станет настолько удобным и успешным, что люди перестанут замечать, что это уже не просто удобство, а новая норма. Печать