В настоящее время ИИ-ассистенты стали такими же привычными инструментами, как электронная почта или мессенджеры. Сотрудники используют их для написания кода, анализа документов, подготовки отчётов и решения рутинных задач. Однако мало кто задумывается о том, что каждый запрос в публичный ИИ представляет собой потенциальную утечку конфиденциальной информации.

Многие сотрудники компаний, включая руководителей и специалистов технических служб, используют общедоступные нейросети для решения рабочих задач. Они загружают в интерфейс чат-бота фрагменты кода, внутреннюю документацию, аналитические отчёты, персональные данные клиентов и даже коммерческую тайну. Проблема усугубляется тем, что современные ИИ -агенты стали настолько удобными и эффективными, что сотрудники перестают воспринимать их как внешний сервис и забывают, что информация, переданная в открытый ИИ-сервис, перестаёт быть конфиденциальной. Для них это просто «умный помощник», которому можно доверить информацию.
Как происходит утечка данных через ИИ-агентов?
Существует несколько основных сценариев утечки конфиденциальной информации через публичные ИИ-сервисы.
Прямая передача конфиденциальной информации.
Сотрудник копирует в чат с ИИ фрагменты кода с коммерческой логикой, персональные данные клиентов из CRM, финансовые отчёты и прогнозы, внутренние документы компании, а в ряде случаев даже пароли и ключи доступа. Большинство публичных ИИ-сервисов сохраняют историю диалогов на своих серверах. Эти данные могут использоваться для дообучения моделей, анализа качества сервиса, доступа сотрудников платформы при технической поддержке, а также для передачи третьим лицам согласно пользовательскому соглашению.
Косвенная утечка через контекст.
Даже если сотрудник не передаёт прямые секреты, ИИ может получить достаточно информации для реконструкции конфиденциальных данных. Через серию на первый взгляд невинных вопросов злоумышленник или конкурент, имеющий доступ к тем же данным ИИ, может восстановить структуру базы данных компании, её бизнес-логику и уязвимости системы.
Утечка через загруженные файлы.
Современные ИИ-агенты позволяют загружать документы в различных форматах. Сотрудник может загрузить договор с клиентом для анализа, техническое задание для доработки или отчёт с метриками для интерпретации. Эти файлы остаются на серверах провайдера ИИ, часто без шифрования и с неопределённым сроком хранения.
Технические аспекты проблемы
Когда пользователь отправляет запрос в публичный ИИ, данные покидают корпоративный периметр и идут через интернет на серверы провайдера, часто расположенные в другой стране. Запрос и ответ сохраняются в логах для улучшения качества сервиса. Данные могут храниться от тридцати дней до неопределённого срока. Информация может использоваться для дообучения моделей. Согласно условиям использования, провайдер может передавать данные партнёрам, регуляторам и правоохранительным органам.
Большинство популярных ИИ-сервисов зарегистрированы в США или других иностранных юрисдикциях. Это означает применение иностранного законодательства, при котором правоохранительные органы могут получать доступ к данным. Кроме того, передача персональных данных граждан Российской Федерации таким сервисам нарушает требования Федерального закона № 152-ФЗ.
Реальные инциденты
Зафиксированы случаи, когда сотрудник IT-компании загрузил в публичный чат-бот фрагмент проприетарного кода для поиска ошибки. Через несколько месяцев аналогичный код появился в открытом репозитории конкурента. Расследование показало, что данные использовались для дообучения модели.
В другом случае менеджер по продажам скопировал в ИИ-сервис базу из пятисот клиентов, содержащую фамилии, телефоны и адреса электронной почты, для анализа эффективности рассылки. Данные остались в истории чата, доступ к которому был скомпрометирован при утечке у провайдера ИИ.
Третий инцидент связан с разработчиком, который попросил ИИ помочь с отладкой API и вставил в запрос реальный ключ доступа. Этот ключ сохранился в логах сервиса, был обнаружен при сканировании уязвимостей и использован для несанкционированного доступа.
Что именно утекает
Через публичные ИИ-сервисы могут передаваться коммерческая тайна, включая алгоритмы расчёта цен, стратегии развития и условия контрактов с поставщиками. Под угрозой находятся персональные данные клиентов и сотрудников. В ИТ-компаниях утекает исходный код, архитектура систем, уязвимости и ключи доступа. Финансовые данные, включая отчётность и данные о сделках, также могут стать достоянием третьих лиц. Наконец, интеллектуальная собственность компании, включая патенты, дизайн и маркетинговые материалы до их публичного раскрытия, может быть скомпрометирована.
Как защитить бизнесЕсли в вашей компании ещё не введены ограничения на использование публичных ИИ-агентов, необходимо действовать незамедлительно.
Защита от утечек данных через публичные ИИ-сервисы требует комплексного подхода, включающего организационные, технические и процессные меры.
Организационные меры.
Прежде всего необходимо принять письменную политику использования ИИ, которая чётко определяет, какие сервисы разрешены, какие данные категорически запрещено передавать, а также процедуру согласования использования новых инструментов и ответственность за нарушения. Следует провести инвентаризацию используемых сотрудниками ИИ-сервисов, выявить, какие данные уже могли быть переданы, и организовать регулярное обучение персонала, объясняя не только запреты, но и причины их введения, а также предоставляя легальные альтернативы.
Технические меры.
Наиболее эффективным решением является внедрение корпоративных ИИ-решений, которые гарантируют полный контроль над данными. Альтернативами публичным сервисам выступают локальные языковые модели, работающие на собственных серверах, корпоративные версии популярных ИИ-ассистентов с гарантиями неиспользования данных для обучения, а также российские решения, соответствующие требованиям 152-ФЗ. Параллельно необходимо настроить системы предотвращения утечек для мониторинга передачи данных во внешние сервисы, блокировки загрузки конфиденциальных файлов и оповещения о попытках отправки чувствительной информации. Также рекомендуется внедрение инструментов контроля доступа к облачным сервисам, позволяющих применять политики безопасности и шифровать данные перед отправкой.
Процессные меры.
Следует внедрить процедуру обязательного согласования любых ИИ-инструментов перед их использованием, включающую проверку поставщика, анализ пользовательского соглашения, оценку рисков и тестирование в изолированной среде. Необходимо проводить регулярные аудиты, сканируя корпоративные устройства на наличие неразрешённых ИИ-клиентов, анализируя логи и опрашивая сотрудников. Также требуется разработать план действий при инциденте утечки через ИИ, включающий смену скомпрометированных учётных данных, оценку масштаба утечки, уведомление регуляторов и пострадавших клиентов, а также расследование и пересмотр политик.
ИИ-агенты на публичных ресурсах представляют собой не просто инструмент повышения продуктивности, а канал утечки данных, который часто остаётся вне периметра безопасности компании. Сотрудники, стремясь работать эффективнее, неосознанно передают конфиденциальную информацию внешним сервисам, которые не подпадают под действие российского законодательства, используют данные для собственных целей и не гарантируют конфиденциальность.
Защита требует комплексного подхода: организационные меры, технические решения и выстроенные процессы должны работать в единой связке. Один запрос в публичный ИИ может стоить компании миллионов рублей, репутации и доверия клиентов. Не следует ждать инцидента. Начать необходимо с аудита: проверить, какие ИИ-сервисы уже используют сотрудники и какие данные они туда передают. Это первый шаг к надёжной защите.
Задача сотрудника или подразделения по информационной безопасности - донести эту простую истину до каждого сотрудника и создать условия, в которых у работников не будет необходимости рисковать корпоративными данными ради скорости и удобства работы.