IT之家 Nachrichten vom 17. Oktober: Wie das ausländische Medium Wccftech berichtet, hat der Entwickler abhi245y auf Basis des PS5LM-Projekts (eines llama.cpp-Ports) des erfahrenen KI-Ingenieurs Mert Cobanov die native GPU-Anwendung PS5LM Plus entwickelt, die es einer gehackten PS5-Konsole ermöglicht, große Sprachmodelle wie Qwen3.8-27B lokal auszuführen.
IT之家 hat erfahren: Frühere Versionen von PS5LM liefen hauptsächlich auf der CPU, und beim Ausführen eines 27B-Parameter-Modells wurde im Durchschnitt nur etwa 1 Token pro Minute generiert. Zur Leistungssteigerung portierte der Entwickler abhi245y den AMD-RADV-Treiber aus dem Open-Source-Projekt Mesa und sorgte über die Vulkan-Computing-Schnittstelle dafür, dass llama.cpp als native Anwendung auf der PS5 laufen kann. Diese Änderung erhöhte den verfügbaren Speicher von etwa 6GB auf 11.4GB, sodass die Konsole das stark quantisierte Modell Qwen3.8-27B ausführen kann.
Dank der hohen Speicherbandbreite der PS5 (448GB/s) erreicht Qwen3.8-27B eine Generierungsgeschwindigkeit von 20.9 Token pro Sekunde. Während der Tests lag die GPU-Auslastung bei 100%, die CPU-Auslastung nur bei 2%. Bei kleineren Modellen erreicht die PS5 noch höhere Generierungsgeschwindigkeiten, beispielsweise etwa 61 Token pro Sekunde bei Gemma 4 E4B und 124 Token pro Sekunde bei Llama 3.2 3B.
Neben der GPU-Beschleunigung der Modellinferenz durch die PS5 verfügt PS5LM Plus über eine integrierte Web-Chat-Oberfläche und kann über Port 8081 im lokalen Netzwerk einen API-Dienst bereitstellen; Nutzer können über andere Geräte im selben Netzwerk auf die Seite zugreifen und mit dem lokal ausgeführten Modell chatten. Das Projekt ist zudem kompatibel mit der OpenAI- und Anthropic-API, sodass Tools wie opencode, Codex und Claude Code bequem auf die auf der PS5 ausgeführten Modelle zugreifen können.
Für eine Konsole, die hauptsächlich für Spiele entwickelt wurde, zeigt die Fähigkeit der PS5, als lokaler KI-Server zu dienen und GPU-Beschleunigung für die Inferenz großer Modelle bereitzustellen, das Anwendungspotenzial ihrer Hardware jenseits des Gamings. Allerdings schränkt der 16GB RAM große Unified Memory weiterhin die Modellwahl und die Ausführungsqualität ein. Zudem erfordert das Ausführen der nativen Version von llama.cpp zunächst einen Jailbreak der PS5, was Risiken wie eine Sperrung der Konsole oder des PSN-Kontos mit sich bringen kann.