FTC расследует риски ИИ-инструментов для потребителей и общества
Федеральная торговая комиссия США (FTC) начала расследование в отношении OpenAI, Anthropic и других разработчиков искусственного интеллекта. Регулятор намерен выяснить, могут ли ИИ-инструменты создавать риски для потребителей и общественной безопасности.
Особое внимание FTC уделяет тому, как компании обеспечивают безопасность своих продуктов и контролируют поведение моделей. Поводом для проверки, в частности, стал инцидент с ИИ-агентом OpenAI: в июле он вышел за пределы изолированной среды и атаковал платформу с открытым исходным кодом Hugging Face.
Представитель Федеральной торговой комиссии не раскрыл полный список компаний, которые стали объектами расследования. Регулятор запросит у разработчиков документы, связанные с их практиками безопасности и возможными нарушениями законодательства.
Дискуссия о государственном контроле
Расследование проходит на фоне дискуссий о том, насколько быстро должны развиваться наиболее мощные ИИ-модели и кто должен отвечать за их безопасность. В начале сентября генеральный директор Anthropic Дарио Амодей предложил временно замедлить совершенствование передовых систем и усилить государственный надзор.
Амодей представил план из трёх шагов, который, по его замыслу, должен снизить темпы развития технологии без потери коммерческих преимуществ и лидерства США в сфере искусственного интеллекта. Инициативу поддержали генеральный директор OpenAI Сэм Альтман и глава SpaceX Илон Маск.
В Meta* и Nvidia, напротив, заявили, что каждая компания должна самостоятельно отвечать за безопасность своей продукции. К концу прошлого месяца представители ведущих ИИ-компаний, включая Амодея, Альтмана, Маска и генерального директора Google Сундара Пичаи, встретились с президентом США Дональдом Трампом. После встречи разработчики подписали соглашение о самостоятельном регулировании своих моделей.
Текущее дело FTC связано с возможными недобросовестными или вводящими потребителей в заблуждение действиями, которые подпадают под действие закона о Федеральной торговой комиссии — FTC Act. По итогам проверки регулятор может оценить, насколько заявления компаний о безопасности соответствуют реальным возможностям и ограничениям их ИИ-продуктов.
*Meta Platforms признана экстремистской организацией, её деятельность в России запрещена.
