Arenadata: каждая вторая организация не контролирует использование ИИ
Организации активно внедряют искусственный интеллект, однако системы контроля и безопасности не успевают за распространением технологии. К такому выводу пришла группа Arenadata по итогам опроса участников форума «Цифровые решения». ИИ уже используют 76% опрошенных компаний, при этом более чем в половине организаций сотрудники работают с ним без какого-либо контроля.
Еще более показателен уровень формального регулирования: в 78% организаций нет действующей политики применения искусственного интеллекта. Это создает ситуацию, при которой сотрудники самостоятельно выбирают сервисы, передают им рабочие данные и подключают модели к корпоративным инструментам без единых правил и оценки рисков.
От чат-ботов к автоматизации
Зрелость ИИ-сценариев в большинстве компаний остается невысокой. Для половины участников опроса самым продвинутым вариантом использования технологии оказался обычный чат-бот. Сквозную автоматизацию бизнес-процессов смогли реализовать только 12% организаций.
Наиболее распространенная задача для ИИ — помощь в написании программного кода: такой сценарий используют 63% респондентов. При этом агентные сценарии, предполагающие самостоятельное выполнение моделью цепочки действий, пока внедрены лишь у 10% участников исследования.
Какие модели выбирают компании
Среди наиболее востребованных решений оказались Qwen и ChatGPT — каждую из этих моделей используют примерно половина опрошенных. Американские LLM обычно применяются не вместо, а вместе с китайскими и российскими разработками. Доля организаций, использующих отечественные модели, при этом не превышает 20%.
Результаты опроса также указывают на заметные риски утечек. Почти 70% респондентов замечали, что коллеги передают ИИ закрытую информацию компании. Более половины участников признались, что сами отправляли данные в нейросети, чаще всего считая их неконфиденциальными. Передачу закрытой информации моделям недопустимой назвали только 15% опрошенных.
Защита и ответственность
Практические меры защиты пока распространены ограниченно. DLP-системы используют 26% респондентов, а 21% организаций полностью запретили публичные модели. Большинство компаний не применяет ограничений, хотя ИИ уже используется в повседневной работе.
По мнению директора по дата-стратегии и искусственному интеллекту группы Arenadata Петра Емельянова, риски растут не только из-за передачи данных в нейросети. Компании предоставляют ИИ-ассистентам доступ к почте, календарям, файлам и корпоративным системам, что увеличивает поверхность атаки и потенциальный ущерб при компрометации.
Участники исследования считают необходимым создавать технически защищенную среду для работы с ИИ. Среди возможных мер они называют локальные модели, обезличивание данных и пересмотр правил обращения с конфиденциальной информацией. При этом вопрос ответственности за ошибки остается дискуссионным: 59% респондентов возлагают ее на сотрудника, а 41% выступают за совместную ответственность человека и технологии.
