Теневой ИИ: почему публичные нейросети создают риск утечек для бизнеса
Использование искусственного интеллекта сотрудниками становится отдельной задачей для служб информационной безопасности. По данным опроса руководителей ИБ в Казахстане, 85% из них считают безопасное применение ИИ внутри компаний главным связанным с технологией вопросом. Эта проблема актуальна и для российского бизнеса: сотрудники могут передавать корпоративную информацию публичным нейросетям раньше, чем компания успевает сформулировать правила и внедрить технические ограничения.
Еще 76% опрошенных руководителей ожидают, что в период с 2025 по 2028 год злоумышленники начнут применять новые и более эффективные методы кибератак. При этом руководителей сильнее беспокоит поведение сотрудников при работе с ИИ, чем защита самих моделей от внешних атак.
Чем опасен теневой ИИ
Основной риск связан с так называемым теневым ИИ — использованием нейросетевых сервисов без согласования с ИТ-подразделением и службой информационной безопасности. В запросы к публичным моделям сотрудники могут загружать внутренние документы, персональные данные и сведения, составляющие коммерческую тайну.
Компания при этом не всегда знает, какими сервисами пользуются сотрудники, какие данные передаются в запросах и сохраняется ли эта информация у поставщика нейросети. В результате организация теряет контроль над движением чувствительных сведений, даже если формального инцидента информационной безопасности еще не зафиксировано.
Какие меры предлагают компаниям
Для контроля ИИ-сервисов бизнесу рекомендуют создать реестр разрешенных моделей и вести журнал запросов и ответов. Дополнительно следует отслеживать передачу чувствительной информации во внешние приложения и учитывать все используемые сотрудниками инструменты.
Системы предотвращения утечек данных (Data Loss Prevention, DLP) можно настроить на обнаружение попыток загрузить корпоративные сведения в публичные нейросети. Для работы с конфиденциальной информацией компании могут использовать закрытые модели, развернутые в контролируемом контуре.
При разработке внутренних политик организации могут ориентироваться на стандарт управления искусственным интеллектом ISO/IEC 42001, рамочную модель управления рисками ИИ NIST AI RMF и перечень уязвимостей приложений на базе больших языковых моделей OWASP Top 10 for LLM Apps.
«Полный запрет публичных нейросетей не дает компании контроля над реальным поведением сотрудников. Нужны разрешенные инструменты, понятные правила работы с данными и технический мониторинг», — отметил Виктор Гулевич, руководитель направления информационной безопасности управления международного бизнеса ГК Softline. По его словам, реестр моделей и журналирование запросов помогают понять, где применяется ИИ и какие сведения ему передаются.
Результаты опроса показывают уровень обеспокоенности руководителей, но не позволяют оценить число фактических утечек: открытой статистики по Казахстану пока нет. Поэтому компаниям рекомендуют заранее включить ИИ-сервисы в общую систему контроля внешних приложений и определить правила передачи данных, не дожидаясь подтвержденных инцидентов.
