Alibaba готовит Qwen 4 с перспективой масштабирования до 10 трлн параметров
Alibaba Group объявила о планах по созданию новой языковой модели, которая по числу параметров сможет в несколько раз превзойти нынешний флагман компании. Об этом генеральный директор Alibaba Эдди Ву рассказал на ежегодной конференции Apsara в Ханчжоу.
Команда Qwen уже обучает следующую версию модели — Qwen 4. В дальнейшем Alibaba намерена выпустить Qwen 4.5 и Qwen 5, для которых заявлен масштаб от 5 трлн до 10 трлн параметров. Для сравнения, актуальная флагманская модель Qwen 3.8 Max насчитывает 2,4 трлн параметров.
Модели для долгосрочного планирования
По словам Эдди Ву, системы такого масштаба должны решать более сложные задачи, связанные с долгосрочным планированием. В Alibaba рассматривают их как один из этапов на пути к созданию искусственного сверхинтеллекта.
Компания также развивает методы автоматизированного обучения. Модели Qwen уже способны самостоятельно находить слабые места в алгоритмах, проводить тестирование и формировать обучающие датасеты при минимальном участии человека. Это должно ускорить подготовку следующих поколений систем.
Новый ИИ-чип Alibaba
Вторым крупным анонсом конференции стал процессор Zhenwu V900, разработанный полупроводниковым подразделением Alibaba T-Head. В компании называют его самым мощным ИИ-процессором в Китае. По заявленным данным, новинка втрое производительнее предыдущего чипа M890.
Zhenwu V900 можно объединять в вычислительные кластеры численностью до 500 000 чипов. Серийный выпуск и коммерческий запуск устройства запланированы на первый квартал 2027 года. Такие системы должны обеспечить инфраструктуру для обучения и работы крупных моделей Alibaba.
Параллельно Alibaba Cloud собирается существенно расширить собственные вычислительные мощности. К 2032 году компания планирует увеличить глобальную мощность дата-центров более чем до 20 ГВт. После анонсов на конференции акции Alibaba на Гонконгской бирже выросли на 5,1%, достигнув максимального уровня за месяц.
