Hugging Face открыла 207 WebGPU-ядер для запуска ИИ прямо в браузере
Команда WebAI из Hugging Face опубликовала набор инструментов для выполнения нейросетевых операций непосредственно в браузере. Проект рассчитан на сценарии, в которых модели работают без облачного API, подписок и передачи пользовательских данных на сторонние серверы.
Публикация получила заметное внимание в сообществе r/LocalLLaMA. Пост с объявлением об открытии исходного кода самых быстрых, по заявлению команды, WebGPU-ядер собрал 521 голос. Для узкоспециализированной библиотеки низкоуровневых GPU-операций такой интерес показывает, что локальный запуск ИИ становится важным направлением для разработчиков.
Что вошло в релиз
Релиз состоит из трёх связанных компонентов. Первый — коллекция из 207 WebGPU-ядер с лицензией Apache-2.0. Они покрывают базовые операции, из которых строится выполнение нейросетевых моделей: матричные умножения, нормализацию, softmax, механизмы внимания и квантизацию.
WebGPU позволяет обращаться к возможностям графического процессора из веб-приложений. Благодаря этому вычисления можно выполнять на устройстве пользователя, не отправляя входные данные на удалённую инфраструктуру. Набор Hugging Face должен упростить перенос таких операций в браузерные приложения и сделать их более производительными.
Вторая часть проекта — JavaScript-библиотека @huggingface/kernels. Она предназначена для загрузки и запуска подготовленных ядер из Hugging Face Hub. По описанию команды, подключение выполняется всего несколькими строками кода, что снижает порог для разработчиков, создающих приложения с локальными ИИ-функциями.
Тестирование на реальных устройствах
Третий компонент называется Fleet. Это краудсорсинговая система бенчмаркинга, в которой пользователи могут запускать тесты в собственном браузере. С их согласия результаты используются для выявления сбоев и дальнейшей настройки производительности ядер на разных конфигурациях устройств.
Такой подход позволяет собирать данные не только на нескольких эталонных компьютерах, но и на широком наборе пользовательского оборудования. Для WebGPU это особенно важно: итоговая скорость и стабильность зависят от браузера, видеодрайвера и конкретного графического процессора.
Открытый релиз Hugging Face объединяет готовые GPU-операции, JavaScript-интерфейс и систему практического тестирования. В результате разработчики получают основу для приложений, где часть ИИ-вычислений выполняется прямо на странице, а пользователи сохраняют больший контроль над своими данными.
