Загрузил документы в нейросеть – отправил их неизвестно кому

Директор агентства Gosapp Digital Захар Рубцов – о новой головной боли корпоративных служб безопасности.

Похоже, у корпоративных служб безопасности появилась новая головная боль: в Москве руководителя отдела по продажам одной из компаний уволили за разглашение коммерческой тайны. Оказалось, сотрудница загружала конфиденциальные документы в китайскую нейросеть DeepSeek.

Правда, помимо «скармливания» важных документов ИИ, девушка также отправляла себе их на личную почту, но нам интересен этот кейс именно с точки зрения передачи данных нейросети. Итак, компания заметила слив, сотрудницу уволили, после чего начались судебные разбирательства (девушка требовала изменить формулировку на расторжение договора «по соглашению сторон» и выплатить ей 5 миллионов рублей). Суд же решил, что производственной необходимости передавать данные через внешние сервисы не было, признав увольнение законным.

А вот теперь скажите, вы сами когда-нибудь загружали рабочие документы в нейросети? Например, чтобы они помогли в сортировке, дополнили данными, переделали формат и прочее. Видите ли, с точки зрения информационной безопасности загрузка документа в публичную нейросеть – примерно то же самое, что отправить его неизвестному внешнему подрядчику. Тот же DeepSeek прямо указывает, что собирает введенные запросы и загруженные файлы, может использовать информацию для развития своих технологий, а данные пользователей могут храниться на серверах в Китае.

В 2023 году был громкий скандал, когда сотрудники Samsung загрузили в ChatGPT закрытый исходный код, информацию о полупроводниковом оборудовании, а также расшифровку внутреннего совещания. Никто из них не хотел намеренно навредить компании, напротив: нейросеть просили найти ошибку в программе, оптимизировать код и быстро подготовить протокол встречи. После нескольких таких инцидентов Samsung ограничила, а затем запретила использование публичных генеративных сервисов.

Забавная история была и с американским Amazon. Юрист компании потребовал не отправлять ChatGPT внутренние материалы, поскольку ответы нейросети начали подозрительно напоминать закрытую информацию Amazon. Google также запретила сотрудникам вводить конфиденциальные данные во внешние чат-боты. Пока что мы не слышали о больших волнах увольнений в зарубежных компаниях за передачу рабочих документов нейросетям, но там сейчас вводят тотальные ограничения и проводят внутренние расследования.

Предполагаю, что одним инструктажем в стиле «не загружайте секретные документы в ChatGPT» тут не отделаешься. Большие компании будут пытаться технически отслеживать, какие данные сотрудники копируют данные и что отправляют ИИ. И такие механизмы уже существуют. В итоге нейросеть может постепенно стать обычной частью корпоративного контура: разрешенные модели, журналирование запросов, автоматическая проверка документов и персональная ответственность за каждый загруженный файл. В интересное время живем… Печать