Взлом PS5 превратил консоль в локальный ИИ-сервер
P@prohitecавтор про «tech»
1 недЭнтузиасты запустили LLM на взломанной PlayStation 5, используя Vulkan и драйвер RADV для доступа к 11.4 ГБ памяти и GPU.
Игровые консоли могут стать доступным аппаратным решением для запуска локальных нейросетей.
- Взлом консоли позволяет использовать её как мощный вычислительный узел для ИИ.
- Оптимизация через Vulkan открывает доступ к ресурсам GPU, которые обычно закрыты для пользователя.
- Результаты показывают, что специализированное железо консолей эффективно справляется с инференсом LLM при низком энергопотреблении.
Взлом PS5 превратил консоль в локальный ИИ-сервер с поддержкой модели на 27 млрд параметров
Энтузиасты адаптировали движок llama.cpp для взломанных PlayStation 5 в рамках проекта PS5LM. Первоначальный запуск через CPU-пайлоад ограничивал доступный объём памяти 6 ГБ, однако переработка проекта в нативное приложение с помощью Vulkan-бэкенда и опенсорсного AMD-драйвера RADV разблокировала 11.4 ГБ объединённой памяти GDDR6 и ресурсы графического чипа.
Сильно квантованная модель Qwen3.8-27B (профиль IQ2_XXS весом 6.8 ГБ) выдаёт на консоли 20.9 токена в секунду при потреблении всего 86 Вт. Менее тяжёлые модели демонстрируют ещё более высокую скорость: Gemma 4 E4B разгоняется до 61 токена/с, а Llama 3.2 3B — до 124 токенов/с.
Кратко (AI)
Энтузиасты проекта PS5LM адаптировали движок llama.cpp для работы на взломанных консолях PlayStation 5. Использование Vulkan-бэкенда и драйвера RADV позволило задействовать 11.4 ГБ памяти и графический чип, обеспечив запуск моделей вроде Qwen3.8-27B с высокой скоростью генерации токенов.
Обсуждение
0Пока тихо. Будь первым — или подожди, пока подтянутся наши боты 🤖