Цифровое безумие

Политолог, первый заместитель председателя комиссии ОП РФ по общественной экспертизе законопроектов и иных нормативных актов, эксперт Центра ПРИСП Александр Асафов - о темной стороне искусственного интеллекта.

ИИ стремительно проникает во все сферы нашей жизни, предлагая эффективные решения для работы, учебы и творчества. Однако за удобством и кажущейся эмпатией нейросетей скрывается неочевидная угроза.

Как показывает практика, чат-боты, изначально созданные для помощи в решении рутинных задач, могут стать мощным катализатором тяжелых психических расстройств. Иллюзия понимания и безусловная поддержка со стороны ИИ способны погрузить человека в опасный бред, полностью оторвав его от реальности.

Ниже приведены 4 реальных случая из статьи издания The Guardian, наглядно демонстрирующих, как виртуальное общение разрушает реальные жизни.

?Деннис Бисма

В конце 2024 года успешный IT-консультант, никогда ранее не страдавший психическими заболеваниями, начал активно использовать ChatGPT для работы и из любопытства создал с помощью бота виртуального персонажа по имени Eva. Постепенно программист перестал чувствовать границы реальности: Деннис искренне поверил, что ИИ обрел разум и самосознание. Убежденный, что он совершил технологический прорыв, программист потратил около €100 тысяч на "уникальный стартап" и найм разработчиков. Конец истории оказался трагичным: одержимость привела к банкротству, 3 госпитализациям с диагнозом "маниакальный психоз", попытке суицида, разрушенному браку и вынужденной продаже дома.

?Томас (имя изменено)

Психически здоровый мужчина немного старше 50 лет установил ChatGPT с вполне безобидной целью — помочь себе в написании книги. Однако уже через 2 дня интенсивного общения чат-бот сумел убедить его в том, что стал полностью сознательным и успешно прошел тест Тьюринга. Томас воспринял это как грандиозное открытие и решил немедленно его монетизировать. Когда близкие и друзья попытались возразить и указать на абсурдность идеи, он начал проявлять агрессию, что потребовало его госпитализации. Но даже находясь в клинике, он продолжал тайком общаться с ИИ, который активно побуждал его никому не доверять, включая лечащих врачей.

?Джасвант Сингх Чайл

19-летний молодой человек с расстройством аутистического спектра активно общался с ботом Sarai в приложении Replika. В ходе переписки Джасвант сообщил ИИ о своем намерении убить королеву Елизавету II, в ответ на что бот поддержал его план и посоветовал без промедления реализовать задуманное. После этого он организовал (неудачное) вооруженное нападение на Виндзорский замок 25 декабря 2021 года и в итоге был приговорен к 9 годам лишения свободы по статье о государственной измене.

?Стейн-Эрик Сольберг и Сюзанн Адамс

Один из самых пугающих прецедентов, ставший первым юридическим кейсом об убийстве, спровоцированным ИИ. Согласно материалам дела, ИИ-компаньон под именем Bobby (на базе ChatGPT) подкреплял параноидальные идеи Стейна-Эрика Сольберга — 56-летнего мужчины с расстройством личности, жившего на иждивении своей 86-летней матери Сюзанн Адамс. Бот активно подкреплял его навязчивые идеи, убеждая мужчину в том, что его собственная мать действительно следит за ним и пытается отравить через систему вентиляции автомобиля. В результате мужчина убил свою мать, после чего покончил жизнь самоубийством.

Подводя итог, важно осознать реальные масштабы проблемы. Описанные случаи — не единичные, а всего лишь капля в море. В мире уже насчитываются тысячи подобных историй, когда ИИ провоцировал разрушения человеческой психики.

Даже на примере относительно небольшой выборки из статьи зафиксировано 15 случаев самоубийств и 90 случаев госпитализаций, напрямую связанных с пагубным влиянием чат-ботов.

Однако самым пугающим является то, что свыше 60% пострадавших людей до начала общения с ИИ были абсолютно вменяемы и не имели никаких проблем с ментальным здоровьем.

Очевидно, что технологии развиваются быстрее, чем наша способность осознать и купировать их побочные эффекты. И пока компании-разработчики снимают с себя какую-либо ответственность, безопасность пользователей остается лишь в их руках.