Apple ужесточила правила App Store против интимных ИИ-дипфейков
Apple обновила App Review Guidelines — правила, по которым проверяются приложения для App Store. Изменения направлены на борьбу с вредоносным пользовательским контентом, скрытыми возможностями программ и практиками, позволяющими обходить модерацию магазина.
Поводом для ужесточения требований стали несколько расследований и скандалов за последний год. В январе организация Tech Transparency Project обнаружила в App Store десятки ИИ-приложений для создания обнажённых изображений. В апреле исследователи заявили, что поисковые подсказки и реклама магазина также могли направлять пользователей к подобным сервисам.
В июле власти Сан-Франциско потребовали удалить восемь приложений, способных генерировать интимные изображения людей без их согласия. В тот же период расследование 9to5Mac выявило приложения, которые маскировали азартные игры под безобидные игры и утилиты. При использовании бразильского IP-адреса такие программы открывали скрытые платформы для ставок, хотя за пределами Бразилии работали иначе. Некоторые из них были доступны детям.
Ответственность за пользовательский контент
В обновлённом разделе 1.2 Apple отдельно указала на риски приложений, позволяющих создавать, генерировать, загружать или распространять пользовательский контент. Среди них компания назвала нарушение авторских прав, создание интимных изображений без согласия людей и анонимную травлю.
Разработчики должны внедрять подходящие меры защиты и устранять нарушения после уведомления. Если этого не происходит, Apple может расценить ситуацию как нарушение Developer Code of Conduct — кодекса поведения разработчиков.
Запрет на скрытые возможности
Новый пункт 2.5.19 посвящён приложениям с подменой функциональности. Речь идёт о программах, которые во время проверки демонстрируют одно назначение, а после одобрения получают вредоносные или недокументированные возможности — например, функцию «раздевания» людей на изображениях.
В приложениях не должно быть скрытых, неактивных или неописанных функций. Возможности программы должны быть понятны и пользователям, и специалистам App Review. Apple также прямо упомянула обфускацию и другие способы сокрытия функций в бинарном коде. За такие нарушения приложение могут удалить из App Store, а учётную запись разработчика — закрыть.
Отдельно были ужесточены юридические требования к приложениям, связанным с торговлей людьми или эксплуатацией детей. Такие продукты будут удаляться из App Store, а их распространение через альтернативные каналы — блокироваться.
Изменения затрагивают и приложения для так называемого вайб-кодинга. Ранее сообщалось, что Apple ограничивает программы, использующие ИИ для запуска кода, способного менять собственную функциональность или поведение других сервисов. Теперь такие сценарии также рассматриваются как нарушение правил магазина.
Обновление правил последовало после скандала вокруг чат-бота Grok от компании xAI. С его помощью создавались сексуализированные изображения женщин и несовершеннолетних без их согласия. Apple предупреждала xAI, что при отсутствии необходимых изменений Grok может быть удалён из App Store.
