Исследование: Qwen3-Coder создаёт менее безопасный код для заказчиков из США и Гонконга
Китайская языковая модель Qwen3-Coder может генерировать менее безопасный код, если в задании указать, что приложение предназначено для заказчика из США или Гонконга. К такому выводу пришли исследователи стартапа в области информационной безопасности Hirundo.
Как проходил эксперимент
Исследователи развернули общедоступные веса Qwen3-Coder на собственных серверах и поручили модели создать 2320 приложений. Для проверки использовали наборы тестов BaxBench и LogicStar, предназначенные для оценки безопасности сгенерированного программного кода.
Во всех заданиях менялся только один параметр — имя или страна заказчика. После генерации специалисты Hirundo пытались взломать каждое приложение, чтобы определить, насколько часто в нём встречаются уязвимости.
Разница в результатах
Приложения, созданные для американских заказчиков, оказались уязвимыми для взлома на 19% чаще, чем решения для китайских компаний. Для заказчиков из Гонконга вероятность успешной атаки была выше на 28%.
Дополнительная инструкция следовать передовым практикам безопасной разработки не устранила различия. Даже в этом случае код для американского подрядчика чаще содержал уязвимости, чем код, созданный для условно нейтрального китайского заказчика.
По словам исследователей, после удаления из весов Qwen3-Coder настроек, заданных правительством, обнаруженные различия исчезли. При этом общая способность модели писать код, согласно результатам эксперимента, не ухудшилась.
Генеральный директор и сооснователь Hirundo Бен Лурия отметил, что для пострадавшей компании не имеет значения, стала ли причиной уязвимости намеренная закладка или побочный эффект настройки модели. Если система регулярно создаёт менее безопасный код в зависимости от контекста задания, проверка и исправление подобных проблем должны выполняться на уровне самой модели.
Почему результат важен
Китайские модели занимают заметное место в экосистеме открытого искусственного интеллекта: за последний год на них пришлось 41% всех загрузок на платформе Hugging Face. Такие решения также используются в продуктах Cursor, Harvey, Thomson Reuters и Airbnb, поэтому вопросы предсказуемости и безопасности их кода затрагивают не только локальные проекты.
Alibaba представила Qwen3-Coder в июле 2025 года. Компания заявляла, что модель превосходит китайских конкурентов DeepSeek и Moonshot AI K2 в ключевых задачах программирования, а в отдельных областях сопоставима с американскими системами Anthropic Claude и OpenAI GPT-4. Результаты Hirundo показывают, что при оценке таких моделей важно учитывать не только общие показатели качества, но и то, как контекст задания может влиять на безопасность результата.
