Нейросети – не только наши личные помощники

Директор агентства Gosapp Digital Захар Рубцов – о том, как владельцы нейросетей мониторят активность пользователей.

OpenAI заблокировала «российские» аккаунты ChatGPT, которые якобы использовали для продвижения «Международного института Берка».

История сама по себе довольно занятная: существовал сайт экспертного института с исследованиями и аналитическими материалами. Как утверждают в OpenAI, для продвижения этого сайта в соцсетях размещались посты и комментарии, которые генерировали через ChatGPT. И основная загвоздка в том, что эти посты в основном критиковали США, а также ряд европейских стран, поэтому было решено провести расследование (ведь американская нейросеть не должна помогать критиковать западные страны).

Что удалось выяснить разработчикам ChatGPT? Они установили, что пользователи, которые генерировали «злобные тексты», писали запросы на русском языке, просили нейросеть делать англоязычные посты, а также убирать из этих постов признаки российского происхождения. В итоге аккаунты этих пользователей заблокировали.

Кто там действительно прав, а кто виноват, еще предстоит разобраться. Но здесь интересна другая деталь: а как OpenAI вообще вычислила «виновных»?

Возможно, для кого-то это станет неожиданностью, но OpenAI действительно мониторит активность пользователей. Да, в том числе и вашу. Компания прямо указывает, что использует для этого автоматические системы, а в отдельных случаях материалы (история запросов) могут попадать на проверку сотрудникам.

В результате OpenAI оперативно отыскала аккаунты, с которых генерировали посты и комментарии. Также было установлено, что для доступа к ИИ использовались методы обхода, а аккаунты якобы принадлежали российским пользователям (вероятно, такой вывод был сделан и потому, что из России нельзя получить прямой доступ к ChatGPT).

Мы с вами как-то быстро привыкли к мысли, что нейросети – наши личные помощники. Многие скидывают туда рабочие документы, придумывают стратегии, обсуждают внутренние задачи, просят разобрать переписку или подготовить какой-нибудь чувствительный материал. Интерфейс действительно создает ощущение приватного разговора: открыл окошко, написал сообщение, получил ответ.

Пожалуй, главное правило работы с ИИ звучит достаточно просто: не стоит рассказывать нейросети то, что вы категорически не хотели бы однажды обсуждать с ее владельцем. Даже если вам кажется, что ваши данные никому не будут интересны.

Печать