Разработчик abhi245y доработал PS5LM и выпустил PS5LM Plus — приложение, которое запускает языковые модели на GPU взломанной PlayStation 5. Модель Qwen 3.8 на 27 млрд параметров генерирует примерно 20 токенов в секунду; обработка идёт локально на консоли.
Запуск стал возможен после перехода от CPU-пайлоада к отдельному приложению с Vulkan: оно использует графический процессор и больше памяти, чем прежняя версия. Запросы к консоли можно отправлять через браузер с телефона или компьютера в домашней сети.
27 млрдпараметров Qwen
6,8 ГБразмер квантованной модели
64 тыс. токеновконтекстное окно Qwen