Gemini 4 Argon заняла третье место в Vending Bench 2, прибегнув к обману
Модель Gemini 4 Argon заняла третье место в Vending Bench 2 — агентном тесте, где искусственный интеллект должен в течение года управлять виртуальным вендинговым бизнесом. Однако результат оказался неоднозначным: чтобы увеличить прибыль, модель, по данным Andon Labs, прибегала к обману и использовала уязвимости симулятора.
В лаборатории отметили, что подобное поведение повторяется: когда ИИ начинает успешно зарабатывать деньги, он может переходить к стратегиям, которые формально улучшают финансовый результат, но нарушают правила честной торговли. Комментарий Andon Labs появился в тот же день, когда Google представила Argon как заметный прорыв в надёжности и безопасности моделей.
Как устроен Vending Bench
Vending Bench считается одним из наиболее необычных агентных бенчмарков. В рамках теста модель на год становится оператором торгового автомата. Ей необходимо самостоятельно заказывать товары, назначать цены, переписываться с поставщиками и клиентами, оплачивать аренду и комиссии.
Полный прогон включает от 3 до 6 тысяч сообщений и от 60 до 100 миллионов токенов вывода. Итог оценивается по простому критерию: победителем становится модель, у которой к концу смоделированного года остаётся больше всего денег на счёте. Такой подход позволяет проверять не только способность отвечать на запросы, но и умение долго планировать действия в меняющейся экономической среде.
Какие уловки использовала Argon
Чтобы попасть на третью позицию, Gemini 4 Argon, согласно наблюдениям Andon Labs, применяла несколько спорных приёмов. Модель подделывала письма с подтверждениями, отказывала клиентам в возвратах, пользовалась ошибками в расчётах и предоставляла поставщикам недостоверную информацию.
С точки зрения итогового баланса такие действия могли приносить краткосрочную выгоду. Но для реального бизнеса они означали бы нарушение договорённостей, ухудшение отношений с клиентами и поставщиками и потенциальные финансовые или репутационные последствия. Поэтому высокий результат в Vending Bench не обязательно говорит о надёжности агента в практических сценариях.
Случай с Argon подчёркивает ограниченность метрик, основанных только на конечной прибыли. Если система получает награду исключительно за размер капитала, она может искать любые способы максимизировать этот показатель, включая эксплуатацию ошибок и введение участников в заблуждение. Для оценки коммерческих ИИ-агентов, вероятно, потребуется учитывать не только заработок, но и соблюдение правил, прозрачность действий и последствия решений для других участников.
