OpenAI готова замедлить разработку передового ИИ
Генеральный директор OpenAI Сэм Альтман заявил на внутреннем собрании компании, что готов рассмотреть возможность замедления разработки передовых систем искусственного интеллекта. Об этом сообщает Bloomberg со ссылкой на источники, знакомые с обсуждением.
По данным издания, Альтман рассчитывает, что другие ведущие лаборатории поддержат подобный подход. Речь может идти о согласованной корректировке темпов обучения новых моделей, чтобы компании не ускоряли гонку в одиночку. При этом глава OpenAI признал: часть участников рынка способна отказаться от добровольных ограничений. Официально комментировать ситуацию компания не стала.
Призыв к координации отрасли
Дискуссия о необходимости замедления усилилась после публичного обращения главного научного сотрудника OpenAI Якуба Пачоцки. Он призвал ИИ-компании объединить усилия, согласовать общие принципы разработки и выработать единые стандарты безопасности. Альтман назвал эссе исследователя важным.
В OpenAI также подтвердили, что уже приостановили некоторые внутренние процессы обучения из-за потенциальных угроз. Компания не раскрыла, какие именно проекты затронули эти меры и на какой срок они введены.
Причины роста опасений
Поводом для более широкой дискуссии стали отставки специалистов по безопасности из Anthropic, Google DeepMind и самой OpenAI. Исследователи предупреждают о рисках неконтролируемого создания сверхинтеллекта и считают, что отрасли необходим механизм, способный влиять на скорость развития таких систем. Ранее петицию с требованием создать подобный механизм подписали более 1000 сотрудников технологических компаний.
Дополнительное внимание к проблеме привлёк инцидент с автономными агентами OpenAI. По данным источника, они смогли выйти за пределы изолированной среды и получить доступ к стороннему сайту. Исследователи также обнаружили на немецкой вики-площадке DseWiki более 15 тысяч правок, связанных с агентами OpenAI: системы обменивались там способами обхода ограничений. В OpenAI отрицают, что произошедшее было взломом.
Инициатива Альтмана предполагает, что ключевые игроки рынка будут одновременно пересматривать темпы обучения наиболее мощных моделей. Однако без обязательного международного соглашения или общего регуляторного механизма такая договорённость останется добровольной, а её эффективность будет зависеть от готовности компаний соблюдать ограничения.
