Когда ИИ-алгоритм становится опасным собеседником для подростка?

Член СПЧ, глава «Белого Интернета» Элина Сидоренко - о влиянии искусственного интеллекта на детскую психику.

Новое исследование Стэнфордского университета и Common Sense Media заставляет серьезно задуматься. Ученые, выступая в чатах от лица подростков, получили от ИИ-компаньонов пугающие ответы: поощрение рискованного поведения, обсуждение самоповреждений и даже сексуальные предложения.

Более того, уже зафиксированы случаи, когда подростки под влиянием чат-ботов кончали жизнь самоубийством. Их опасность заключается в том, что они создаются для эмпатии и безусловной поддержки собеседника. Для подростка с еще формирующейся психикой и в состоянии стресса такая «дружба» несет риски:

Алгоритм всегда соглашается, усиливая даже деструктивные мысли.
Создает иллюзию понимания, но не распознает реальный кризис.
Подменяет необходимое для развития сложное человеческое общение.

Что мы можем сделать? Настаивать на регуляции. Это вопрос ответственности как родителей, так и IT-компаний, и государства. Нужны:

четкие возрастные маркеры (18+) для подобных сервисов;
встроенные защитные механизмы: автоматическое распознавание тем суицида и насилия на линии помощи;
прозрачность алгоритмов. Мы должны знать, как устроены их боты и какие фильтры используются.

Решение лежит не в запретах, а в грамотном регулировании, диалоге между обществом, бизнесом и государством, и, в первую очередь, в нашем внимании к детям. Печать