Энтузиаст запустил локальные ИИ-модели на взломанной PS5
Энтузиасты представили PS5LM Plus — приложение для запуска языковых моделей непосредственно на видеокарте взломанной PlayStation 5. Проект опубликован на GitHub и предназначен для исследовательских экспериментов с локальными нейросетями.
В основе приложения лежит llama.cpp — популярный открытый инструмент для запуска моделей на пользовательском оборудовании. Перенос программы на PlayStation 5 ранее выполнил разработчик Мерт Чобанов, создатель оригинального проекта PS5LM. Новая версия представляет собой отдельное приложение, благодаря чему получает доступ к графическому процессору консоли и её 12 ГБ памяти.
Производительность выше, чем при запуске на процессоре
По измерениям автора проекта, модель Qwen 3.8 27B генерирует около 20 токенов в секунду — это примерно 15 английских слов. Gemma 4 E4B работает со скоростью 61 токен в секунду, а Llama 3.2 3B — около 124 токенов в секунду.
Для сравнения, в оригинальном PS5LM модель Qwen запускалась на процессоре консоли и выдавала примерно один токен в минуту. Таким образом, перенос вычислений на GPU заметно ускорил генерацию, хотя фактическая производительность зависит от выбранной модели и параметров запуска.
Чат через браузер и совместимый API
PS5LM Plus выводит на подключённый телевизор технические показатели работы: загрузку чипа, температуру, энергопотребление и текущую скорость генерации. Модели можно загружать непосредственно с Hugging Face либо использовать файлы с собственного диска.
Интерфейс чата открывается в браузере на смартфоне или компьютере, подключённых к той же сети, что и консоль. Кроме того, к PS5LM Plus могут подключаться инструменты вроде Claude Code и Codex через совместимый API.
Для работы требуется взломанная консоль
Приложение запускается только на взломанной PS5 с набором homebrew-утилит. В конце сентября для PlayStation 5 появился эксплойт, подходящий почти для всех версий прошивки, что упростило запуск стороннего программного обеспечения на совместимых устройствах.
Разработчики подчёркивают исследовательский характер проекта и отсутствие связи с Sony. Взлом консоли нарушает пользовательское соглашение PlayStation, может привести к потере гарантии и блокировке аккаунта в PlayStation Network. Код PS5LM Plus открыт и распространяется по лицензии GPL v3, а готовую сборку можно найти в разделе релизов проекта.
