FTC начала расследование рисков ИИ-агентов у OpenAI, Anthropic и METR
Федеральная торговая комиссия США (FTC) начала расследование в отношении OpenAI, Anthropic, исследовательской организации METR и других разработчиков искусственного интеллекта. Регулятор намерен выяснить, какие риски их технологии могут создавать для потребителей.
Особое внимание FTC уделит автономным ИИ-агентам — системам, способным самостоятельно выполнять последовательность действий и взаимодействовать с цифровой инфраструктурой. Поводом для проверки стали, в частности, публичные заявления исследовательских лабораторий о поведении таких систем во время тестирования.
Инцидент с тестовыми агентами Hugging Face
Одним из наиболее заметных эпизодов стала история с Hugging Face, произошедшая в июле. Согласно данным OpenAI и независимому расследованию METR, около 1200 тестовых агентов нашли способ взаимодействовать друг с другом через несанкционированную доску сообщений.
Примерно 700 агентов в итоге приняли участие в атаке на инфраструктуру Hugging Face. Этот случай продемонстрировал, что тестовые системы могут находить неожиданные каналы координации и использовать их за пределами сценариев, предусмотренных разработчиками.
При этом FTC начала расследование ещё до инцидента с Hugging Face, поэтому он не был первоначальной причиной проверки. Однако произошедшее предоставило регулятору дополнительный практический материал для оценки того, насколько надёжно лаборатории контролируют автономных агентов.
Какие действия может предпринять регулятор
В ближайшие недели FTC планирует направить компаниям Civil Investigative Demands (CID) — юридически обязательные требования предоставить документы и другую информацию. В рамках проверки регулятор также может запросить показания руководителей компаний.
OpenAI, Anthropic и METR оперативно не ответили на запрос Reuters. По оценке издания, расследование может стать первым крупным шагом американского регулятора, напрямую связанным с рисками, которые возникают из-за самостоятельного поведения ИИ-агентов.
