ИИИ МФТИ создал центр экспертизы для внедрения ИИ на китайских ускорителях
Институт искусственного интеллекта МФТИ создал центр экспертизы на базе лаборатории исследования аппаратного обеспечения для приложений ИИ. Подразделение помогает компаниям подбирать вычислительное оборудование, адаптировать нейросетевые модели и готовить программно-аппаратные комплексы под конкретные задачи бизнеса.
Основное внимание центр уделяет китайским GPU и специализированным ускорителям искусственного интеллекта. Такой выбор связан с высокой стоимостью американского оборудования и сложностями с его приобретением, которые затрудняют планирование и расчёт экономики ИИ-проектов.
Перед покупкой оборудования заказчики могут проверить, насколько выбранная платформа совместима с нужными моделями и программной средой. В лаборатории также оценивают производительность при реальных нагрузках, поведение системы при одновременной работе пользователей, возможности масштабирования и стабильность программно-аппаратной конфигурации.
От подбора оборудования до сопровождения
Центр работает как с отдельными этапами проекта, так и с комплексными задачами. Совместно с технологическими партнёрами специалисты подбирают оборудование и организуют его поставку, рассчитывают необходимое количество ускорителей и объём памяти с учётом моделей, нагрузки, числа пользователей и требований к скорости работы.
В подготовленную конфигурацию могут входить серверы, драйверы, библиотеки, программные движки и нейросетевые модели. Специалисты также адаптируют CUDA-совместимые решения к китайским ускорителям и оптимизируют использование памяти и параллельные вычисления. В рамках этой работы тестируются, в частности, DeepSeek, Qwen, GLM и Kimi.
После испытаний центр помогает подготовить решение к эксплуатации в инфраструктуре заказчика, обновлять программную среду и устранять проблемы совместимости. Перспективным направлением называют автономные дистрибутивы для закрытых контуров, где требуется локальная работа без зависимости от внешних сервисов.
Лабораторные платформы и результаты испытаний
Вычислительная инфраструктура ИИИ МФТИ включает GPU-серверы Alibaba T-Head и MetaX. Специалисты проводят тестирование платформ Moore Threads, Sugon, Iluvatar и Evas. Потенциальные и действующие заказчики могут получить доступ к лабораторному оборудованию, чтобы испытать собственные модели и сценарии работы.
В рамках программы «ИИ ПАК-2026» специалисты провели 70 зачётных испытаний на платформе Alibaba T-Head PPU-ZW810E. Исследования охватили разные классы моделей, программные движки, инструменты оценки качества, а также сценарии обучения и дообучения. По итогам были определены работоспособные сочетания оборудования, программных компонентов и моделей, а также выявлены особенности программного стека производителя.
Для ускорения экспериментов в институте разработали программный комплекс, который автоматизирует подготовку среды, запуск и испытания больших языковых моделей и фиксацию результатов. Для воспроизведения конфигураций используются контейнерные образы, скрипты запуска и инструкции. Результаты можно оформлять в технический профиль с описанием оборудования, программной среды, модели, параметров запуска и измеренных характеристик.
Прямое взаимодействие с китайскими разработчиками и производителями позволяет получать консультации по архитектуре оборудования, драйверам и библиотекам, а также разбирать вопросы совместимости и дорабатывать программное обеспечение. Для бизнеса это даёт возможность оценить целесообразность затрат ещё до покупки инфраструктуры и снизить риск приобретения избыточного оборудования или платформы, которая не обеспечит требуемую производительность.
