CrowdStrike запустила «аварийный выключатель» для ИИ-агентов
Компания CrowdStrike представила функцию AI Kill Switch, или «аварийное отключение ИИ», в составе платформы Falcon Guardian. Инструмент предназначен для специалистов по информационной безопасности и позволяет в любой момент остановить ИИ-агента, если тот начинает действовать вопреки заданным политикам.
С помощью функции уполномоченный администратор может полностью прервать выполнение агента, запретить его повторный запуск на конкретном хосте или группе устройств, а также ограничить доступ к корпоративной сети. Все действия, связанные с отключением, фиксируются в журнале аудита.
Как работает AI Kill Switch
ИИ-агенты получают системный доступ к конечным устройствам, облачным средам и SaaS-приложениям. Они способны самостоятельно выполнять цепочки операций, реагировать на возникающие препятствия и предпринимать действия, которые не всегда были явно предусмотрены или разрешены пользователем.
AI Kill Switch использует существующий сенсор Falcon на конечных точках и данные, собираемые Falcon Guardian. Платформа отслеживает поставленные агенту задачи, его взаимодействие с другими системами и фактические действия. Если поведение агента признаётся нежелательным, специалист может инициировать его остановку непосредственно в среде выполнения.
Блокировка проходит в два этапа: сначала сенсор Falcon прекращает операции на уровне шлюза, а затем блокирует выполнение непосредственно на конечной точке. Дополнительные политики не позволяют агенту автоматически запуститься снова, благодаря чему он теряет возможность взаимодействовать с корпоративной инфраструктурой до отдельного решения администратора.
Контроль над агентами в корпоративной среде
Falcon Guardian уже поддерживает обнаружение ИИ-агентов, работающих внутри организации, контроль их действий в соответствии с установленными политиками и выявление атак, направленных против таких систем. Новая функция добавляет к этим возможностям механизм немедленного ручного вмешательства.
Генеральный директор и основатель CrowdStrike Джордж Курц заявил, что наличие аварийного отключения должно помочь компаниям безопаснее внедрять ИИ-агентов. Ранее он выступал против призывов замедлить развитие искусственного интеллекта, отмечая, что модели с открытыми весами и передовые системы уже доступны широкому кругу пользователей, а заморозка разработок не решит проблему активных угроз. По словам Курца, атаки на Hugging Face и RubyGems показывают необходимость нового уровня защиты ИИ-инфраструктуры.
