IT之家 El 17 de octubre, según informó el medio extranjero Wccftech, el desarrollador abhi245y, basándose en el proyecto PS5LM (un port de llama.cpp) del ingeniero sénior de IA Mert Cobanov, desarrolló la aplicación nativa de GPU PS5LM Plus, que permite que una consola PS5 con jailbreak ejecute localmente modelos de lenguaje de gran tamaño como Qwen3.8-27B.
IT之家 supo que las primeras versiones de PS5LM ejecutaban los modelos principalmente mediante la CPU, y al ejecutar un modelo de 27B parámetros solo generaban en promedio unos 1 token por minuto. Para mejorar el rendimiento, el desarrollador abhi245y portó el controlador AMD RADV del proyecto de código abierto Mesa y, mediante la interfaz de cómputo Vulkan, hizo que llama.cpp pudiera ejecutarse como aplicación nativa en la PS5. Este cambio elevó la memoria disponible de unos 6GB a 11.4GB, permitiendo que la consola ejecutara el modelo Qwen3.8-27B con una alta cuantización.
Gracias al alto ancho de banda de memoria de la PS5 (448GB/s), la velocidad de generación de Qwen3.8-27B puede alcanzar los 20.9 tokens por segundo. Durante las pruebas, el uso de la GPU alcanzó el 100%, mientras que el uso de la CPU fue de solo el 2%. Con modelos de menor tamaño, la PS5 puede lograr velocidades de generación aún mayores: por ejemplo, Gemma 4 E4B alcanza unos 61 tokens por segundo, y Llama 3.2 3B llega a 124 tokens por segundo.
Además de usar la GPU de la PS5 para acelerar la inferencia de modelos, PS5LM Plus incorpora una interfaz de chat web y puede ofrecer un servicio de API a través del puerto 8081 de la red local; los usuarios pueden acceder a la página desde otros dispositivos de la misma red y conversar con el modelo que se ejecuta localmente. El proyecto también es compatible con las API de OpenAI y Anthropic, lo que facilita que herramientas como opencode, Codex y Claude Code utilicen los modelos que se ejecutan en la PS5.
Para una consola diseñada principalmente para videojuegos, que la PS5 pueda actuar como servidor de IA local y proporcionar aceleración de GPU para la inferencia de grandes modelos demuestra el potencial de su hardware más allá de los juegos. Sin embargo, la memoria unificada de 16GB RAM con la que cuenta la consola sigue limitando la elección de modelos y la calidad de ejecución. Además, ejecutar la versión nativa de llama.cpp requiere primero hacer jailbreak a la PS5, lo que puede conllevar riesgos como el bloqueo de la consola y de la cuenta de PSN.