PS5LM: Die Playstation 5 als privater LLM-Server im Heimnetz

Was es ist

PS5LM ist eine App für gejailbreakte PlayStation-5-Konsolen. Sie lädt ein GGUF-Modell auf die GPU der Konsole und bedient damit alle Geräte im Heimnetz: Laptop, Handy und Coding-Tools. Laut Projekt braucht es währenddessen keinen PC, keine Cloud und keinen Account.

Technik

• GPU-Inferenz: llama.cpp mit Vulkan-Backend auf der RDNA-2-GPU, 11,4 GB des geteilten Speichers für Modell und Kontext. Alle von llama.cpp unterstützten Architekturen und Quantisierungen laufen mit.
• APIs: OpenAI-kompatibles /v1/chat/completions, Anthropic-kompatibles /v1/messages (Claude Code funktioniert dagegen) und eine Chat-Seite im Browser. Client auf http://<konsole>:8081 zeigen, beliebigen Modellnamen angeben – das geladene Modell antwortet.
• Entscheidungsmodelle: Über Ollaya laufen Jev-artige Decision-Modelle und beantworten dieselbe /v1/systemone-API mit typisierten Entscheidungen samt Wahrscheinlichkeiten.
• TV-Oberfläche: Anfragen laufen live als Chat über den Fernseher; Seiten für Modelle, Konsole (Temperatur, Leistung, Last), API und Einstellungen.

Das README zeigt etwa Qwen 3.5 9B auf einer PS5 Slim, das Anfragen von einem Laptop beantwortet. Ein Bastelprojekt mit Nischenvoraussetzung (Jailbreak), aber ein schönes Beispiel dafür, wie weit llama.cpp auf Fremd-Hardware kommt.

Quelle: GitHub: cobanov/PS5LM