Die Homebrew-Szene rund um die PlayStation 5 sorgt für die nächste technische Überraschung. Nachdem Entwickler auf modifizierten PS5-Konsolen bereits Xbox-Spiele, klassische PlayStation-Titel und alternative Anwendungen zum Laufen gebracht haben, geht es jetzt einen Schritt weiter. Eine gehackte PS5 wurde in einen lokalen KI-Server verwandelt, auf dem sich Sprachmodelle direkt ausführen lassen. Besonders erstaunlich sind die gemeldeten Leistungswerte: Ein großes KI-Modell mit 27 Milliarden Parametern erreicht laut einem Entwickler rund 21 Token pro Sekunde, kleinere Modelle sollen sogar auf bis zu 124 Token pro Sekunde kommen.
Das Experiment zeigt, dass Sonys Konsole technisch weit mehr kann als nur Videospiele ausführen. Allerdings handelt es sich um eine inoffizielle Entwicklung, die einen Jailbreak voraussetzt und mit einigen erheblichen Einschränkungen verbunden ist.
Eine PlayStation 5 führt jetzt große KI Modelle aus
Im Mittelpunkt der aktuellen Entwicklung steht ein Projekt namens PS5LM.
Das könnte dich auch interessieren
Der Entwickler cobanov arbeitet daran, die bekannte KI-Software llama.cpp direkt auf einer modifizierten PlayStation 5 nutzbar zu machen.
Diese Software ermöglicht es, unterschiedliche Sprachmodelle lokal auszuführen. Dazu gehören Modelle aus Familien wie Llama, Qwen, Mistral und Gemma.
Im Gegensatz zu cloudbasierten KI-Diensten werden die Berechnungen dabei direkt auf der vorhandenen Hardware durchgeführt.
Die Konsole benötigt also keinen externen KI-Rechenserver, um eine Antwort zu erzeugen, sobald die notwendigen Modelldateien vorhanden sind.
Das ursprüngliche PS5LM-Projekt setzte zunächst auf die CPU der Konsole.
Ein weiterer Entwickler ging anschließend noch einen Schritt weiter und verlagerte die aufwendigen Berechnungen auf die Grafikeinheit.
Dadurch wurden größere Modelle und deutlich höhere Geschwindigkeiten möglich.
Selbst ein KI Modell mit 27 Milliarden Parametern läuft
Besonders interessant ist der Test mit Qwen 3.8 in einer Variante mit 27 Milliarden Parametern.
Solche Modelle benötigen normalerweise erhebliche Mengen Arbeitsspeicher, insbesondere wenn ihre Daten mit hoher Genauigkeit gespeichert werden.
Die PlayStation 5 besitzt insgesamt 16 GB GDDR6-Arbeitsspeicher, der allerdings zwischen CPU, GPU und Systemfunktionen aufgeteilt wird.
Damit steht nicht die gesamte Kapazität für ein einzelnes KI-Modell zur Verfügung.
Die Entwickler setzen deshalb auf eine Technik namens Quantisierung.
Dabei werden die Gewichte eines Modells in einer kompakteren Form gespeichert, sodass wesentlich weniger Speicher benötigt wird.
Im aktuellen Experiment kommt eine stark komprimierte Variante mit ungefähr zwei Bit pro Gewicht zum Einsatz.
Das reduziert den Speicherbedarf des 27-Milliarden-Parameter-Modells auf rund 6,8 GB.
Allerdings hat diese Einsparung ihren Preis.
Durch die starke Komprimierung kann die Qualität der Antworten leiden. Je nach Aufgabe können mehr Fehler entstehen oder komplexe Zusammenhänge schlechter verarbeitet werden.
Es handelt sich also nicht um dieselbe Erfahrung wie bei einer unkomprimierten Version auf einem leistungsstarken KI-Rechner.
Die PS5 erreicht überraschende Geschwindigkeiten
Trotz der Einschränkungen fallen die veröffentlichten Leistungswerte bemerkenswert aus.
Das große Qwen-Modell soll etwa 20,9 Token pro Sekunde erreichen.
Ein Token entspricht vereinfacht gesagt einem kleinen Textbestandteil. Die genaue Zahl der Wörter pro Token hängt von der jeweiligen Sprache und vom Inhalt ab.
Für die Praxis bedeutet der gemeldete Wert, dass das System Text schrittweise in einem durchaus nutzbaren Tempo erzeugen kann.
Noch schneller sollen kleinere Sprachmodelle laufen.
Bei Gemma 4 E4B nennt der Entwickler ungefähr 61 Token pro Sekunde.
Llama 3.2 mit drei Milliarden Parametern soll sogar auf etwa 124 Token pro Sekunde kommen.
Diese Ergebnisse wurden laut Bericht auf einer entsprechend modifizierten PS5 gemessen.
Die Grafikeinheit war dabei stark ausgelastet, während die CPU vergleichsweise wenig Arbeit übernehmen musste.
Allerdings wurden die Werte bislang nicht durch unabhängige Vergleichstests unter identischen Bedingungen bestätigt.
Außerdem lässt sich die Geschwindigkeit unterschiedlicher KI-Modelle nicht direkt mit ihrer Antwortqualität gleichsetzen.
Ein kleineres Modell kann schneller reagieren, bei schwierigeren Fragen aber dennoch schlechtere Ergebnisse liefern.
Warum die PS5 für solche Experimente interessant ist
Auf den ersten Blick wirkt eine Spielekonsole wie eine ungewöhnliche Plattform für lokale künstliche Intelligenz.
Technisch besitzt die PS5 allerdings mehrere Eigenschaften, die sich für solche Anwendungen nutzen lassen.
Dazu gehört vor allem ihr schneller GDDR6-Arbeitsspeicher.
Die Standard-PS5 bietet eine theoretische Speicherbandbreite von 448 GB pro Sekunde.
Gerade bei KI-Sprachmodellen kann diese Bandbreite eine wichtige Rolle spielen, weil während der Texterzeugung ständig große Mengen an Modellgewichten verarbeitet werden müssen.
Hinzu kommt die AMD-Grafikarchitektur, die grundsätzlich auch für allgemeine Rechenaufgaben geeignet ist.
Sony bietet für solche Experimente allerdings keine frei zugängliche, offiziell unterstützte Entwicklungsumgebung für gewöhnliche PS5-Besitzer an.
Die Homebrew-Community verwendet deshalb angepasste Software und alternative technische Schnittstellen.
Im aktuellen Projekt kommt unter anderem Vulkan zusammen mit einem angepassten RADV-Treiber zum Einsatz.
Damit können die KI-Berechnungen auf der GPU ausgeführt werden.
Diese Vorgehensweise macht deutlich, dass die PlayStation-Hardware nicht grundsätzlich auf die Darstellung von Videospielen beschränkt ist.
Das Experiment hat einige deutliche Grenzen
So beeindruckend die Leistungswerte wirken, die PS5 wird dadurch nicht automatisch zum Ersatz für einen leistungsstarken KI-PC.
Eine wichtige Einschränkung bleibt der verfügbare Speicher.
Obwohl die Konsole insgesamt 16 GB GDDR6 besitzt, kann die verwendete Anwendung nicht den gesamten Speicher für das KI-Modell reservieren.
Beim aktuellen Test mit dem großen Qwen-Modell sollen rund 91 Prozent des verfügbaren Speicherbudgets belegt gewesen sein.
Das begrenzt insbesondere die Größe der nutzbaren Modelle und die möglichen Einstellungen für längere Gespräche.
Auch die starke Quantisierung beeinflusst die Qualität der Ergebnisse.
Hinzu kommt, dass die bisherigen Leistungsangaben aus experimentellen Entwickler-Benchmarks stammen.
Wie stabil solche Anwendungen bei längerer Nutzung laufen, welche Fehler auftreten und wie sich unterschiedliche Modelle im Alltag verhalten, muss sich erst zeigen.
Für gewöhnliche Nutzer wäre ein PC mit entsprechend unterstützter KI-Software derzeit ohnehin wesentlich unkomplizierter.
Auf einer normalen PS5 funktioniert das nicht
Eine besonders wichtige Einschränkung betrifft die Voraussetzungen.
Weder PS5LM noch die davon abgeleiteten KI-Anwendungen können regulär über den PlayStation Store installiert werden.
Benötigt wird eine modifizierte Konsole, auf der sich nicht autorisierte Homebrew-Software ausführen lässt.
Damit ist das Projekt vor allem für technisch erfahrene Nutzer interessant, die sich bereits mit der entsprechenden Entwicklungsumgebung beschäftigen.
Sony unterstützt solche Anwendungen nicht offiziell.
Modifikationen können außerdem die Nutzung regulärer Systemupdates und bestimmter Online-Funktionen beeinträchtigen.
Auch Sicherheits- und Stabilitätsprobleme lassen sich nicht ausschließen.
Die aktuellen Entwicklungen sind deshalb in erster Linie als technische Experimente zu verstehen und nicht als gewöhnliche neue Funktion der PlayStation 5.
Die PS5 Homebrew Szene entwickelt sich rasant
Der lokale KI-Server ist nur das jüngste Beispiel dafür, wie vielseitig die PS5 mittlerweile von unabhängigen Entwicklern genutzt wird.
Erst vor wenigen Tagen sorgte PSBox Cloud Gaming für Aufmerksamkeit.
Die Anwendung ermöglicht es, Xbox Cloud Gaming auf einer modifizierten PlayStation 5 zu verwenden.
Dabei werden die Spiele allerdings über Microsofts Server gestreamt und nicht unmittelbar auf der Sony-Konsole berechnet.
Über diese Entwicklung haben wir bereits in unserem Artikel PS5 wird plötzlich zur Xbox und Modder zeigen was Sony nicht anbietet berichtet.
Auch klassische Spiele anderer Plattformen lassen sich inzwischen experimentell ausführen.
So unterstützt der Emulator XPSemu unter anderem erste Xbox-Titel wie Halo 2.
In unserem Artikel PS5 startet jetzt sogar Xbox Spiele und Halo 2 läuft bereits überraschend gut hatten wir die Fortschritte bereits genauer vorgestellt.
Mit dem aktuellen KI-Experiment verlässt die Homebrew-Szene nun sogar den klassischen Gaming-Bereich.
Die Konsole wird nicht mehr nur als Spieleplattform genutzt, sondern als allgemeiner Rechner für anspruchsvolle Aufgaben.
Wird die PlayStation irgendwann offiziell zur KI Plattform?
Aus dem aktuellen Experiment lässt sich keine entsprechende Strategie von Sony ableiten.
Der Konzern beschäftigt sich bereits mit künstlicher Intelligenz, beispielsweise zur Verbesserung der Bildqualität in Spielen.
Solche Technologien verfolgen allerdings einen völlig anderen Zweck als ein lokal ausgeführtes Sprachmodell.
Bei einem Upscaling-System geht es darum, Bilder effizient zu rekonstruieren und die Grafikdarstellung zu verbessern.
Ein Sprachmodell verarbeitet dagegen Texteingaben und erzeugt darauf basierende Antworten.
Dass beides bestimmte Hardwareeigenschaften der Konsole nutzen kann, macht die Anwendungen noch nicht vergleichbar.
Eine offizielle KI-Chatfunktion für die PS5 hat Sony im Zusammenhang mit diesem Homebrew-Projekt nicht angekündigt.
Trotzdem liefert der Versuch einen interessanten Einblick in die technischen Möglichkeiten der mittlerweile fast sechs Jahre alten Hardware.
Besonders bemerkenswert ist, dass ein Gerät, das ursprünglich zum Spielen entwickelt wurde, inzwischen auch größere Sprachmodelle direkt berechnen kann.
Ob daraus langfristig praktische Anwendungen entstehen, bleibt offen.
Schon jetzt zeigt das Projekt aber eindrucksvoll, welche Möglichkeiten unabhängige Entwickler auf einer modifizierten PlayStation 5 entdecken.
Quelle: Reddit
Lass uns deine Meinung in den Kommentaren wissen.
