Das Wichtigste in 30 Sekunden
- Der Raspberry Pi AI HAT+ 2 ist da und kostet 130 US-Dollar. Herzstück ist der neue Beschleuniger Hailo-10H mit 40 TOPS (INT4).
- Neu und entscheidend: 8 GB eigener Arbeitsspeicher auf der Platine. Damit laufen Sprachmodelle lokal, nicht nur Bilderkennung.
- Laut Raspberry Pi sind Modelle mit bis zu rund 6 Milliarden Parametern möglich — LLMs und Vision-Language-Modelle inklusive.
- Bei reiner Bildverarbeitung liegt die Leistung etwa auf dem Niveau des 26-TOPS-Vorgängers. Der Sprung ist die generative KI, nicht die Kamera.
Hinweis: Dieser Beitrag enthält Affiliate-Links (mit * gekennzeichnet). Kaufst du über einen dieser Links, erhalte ich eine kleine Provision — für dich ändert sich der Preis nicht.
Bisher war die Sache klar: Wer auf dem Raspberry Pi KI wollte, bekam Objekterkennung, Posenschätzung und Bildklassifikation. Ein Sprachmodell auf dem Pi? Ging, aber quälend langsam und nur in winzigen Größen. Mit dem AI HAT+ 2 ändert sich diese Rechnung — und der Grund steht nicht in der TOPS-Zahl, sondern daneben.
Der eigentliche Trick sind die 8 GB auf der Platine
Sprachmodelle sind speicherhungrig. Wenn ein Beschleuniger sich den Arbeitsspeicher mit dem Rest des Systems teilen muss, wird der Speicherzugriff zum Nadelöhr, und die schönste Rechenleistung nutzt nichts.
Genau hier setzt der AI HAT+ 2 an: Er bringt 8 GB dedizierten Arbeitsspeicher direkt auf der Erweiterungskarte mit. Der Hailo-10H arbeitet damit auf eigenem Speicher, statt dem Pi seinen wegzunehmen. Erst dadurch werden Modelle mit mehreren Milliarden Parametern überhaupt praktikabel.
Angebunden wird die Karte über PCI Express des Raspberry Pi 5. Und die angenehmste Nachricht für Einsteiger: Auf einem aktuellen Raspberry Pi OS wird der Beschleuniger automatisch erkannt. Kein Gefummel mit Treibern, kein Kernel-Basteln.
Was drin ist und wofür es reicht
- Hailo-10H, 40 TOPS bei INT4-Berechnungen
- 8 GB eigener Speicher auf der Karte
- beschleunigt LLMs, Vision-Language-Modelle und andere generative Anwendungen
- Bildverarbeitung etwa gleich schnell wie beim 26-TOPS-Vorgänger
- im Lieferumfang: optionaler Kühlkörper, 16-mm-Stapelstecker, Abstandshalter und Schrauben für die Montage auf dem Pi 5
Diese letzte Zeile klingt nach Kleinkram, ist aber wichtig: Der Kühlkörper liegt nicht ohne Grund dabei. Wer dauerhaft Modelle rechnen lässt, sollte die Karte auch kühlen.
Für wen sich das wirklich lohnt
Der offensichtliche Anwendungsfall ist die Hausautomatisierung ohne Cloud: eine Sprachsteuerung, die Befehle lokal versteht, ein Assistent, der Fragen im eigenen Netz beantwortet, oder ein Kamerasystem, das nicht nur „Person erkannt“ meldet, sondern beschreiben kann, was es sieht. Genau dafür sind Vision-Language-Modelle gemacht.
Der zweite Fall ist Datenschutz aus Prinzip. Eine lokale Auswertung sendet nichts an einen Anbieter, hat keine Abokosten und funktioniert auch dann, wenn die Leitung gerade weg ist.
Wer die Karte dagegen nur für Bilderkennung will, sollte zweimal rechnen. Da ist der Gewinn klein, und der günstigere Vorgänger, der Raspberry Pi AI HAT+ mit 26 TOPS*, erledigt denselben Job. Als Basis brauchst du in beiden Fällen einen Raspberry Pi 5*, weil die Anbindung über PCI Express läuft — auf einem Pi 4 geht es nicht.
Realistische Erwartungshaltung
Sechs Milliarden Parameter sind ein ordentlicher Sprung für ein Gerät in dieser Größe und Preisklasse. Sie sind aber keine Konkurrenz zu einem Desktop mit dedizierter Grafikkarte und erst recht nicht zu einem großen Cloud-Modell. Realistisch bekommst du damit: solide Alltagsaufgaben, Zusammenfassungen, Befehlsverständnis, Bildbeschreibung. Was du nicht bekommst: langes Kontextfenster, Spitzenqualität bei komplexem Denken oder Tempo für mehrere Nutzer parallel.
Genau richtig eingeordnet ist die Karte damit als das, was sie ist: der erste Baustein, mit dem generative KI im Homelab auf einem Gerät läuft, das man mit einer Hand hochheben kann — und das mit wenigen Watt auskommt.
Häufige Fragen
Passt der AI HAT+ 2 auch auf einen Raspberry Pi 4?
Nein. Die Karte kommuniziert über die PCI-Express-Schnittstelle des Raspberry Pi 5. Ältere Modelle haben diese Anbindung nicht. Für den Pi 4 bleibt es bei USB-Beschleunigern, die deutlich weniger leisten.
Lohnt sich das Upgrade vom 26-TOPS-Vorgänger?
Nur, wenn du generative Modelle laufen lassen willst. Bei klassischer Bildverarbeitung liegt die Leistung laut Raspberry Pi etwa gleichauf. Der Unterschied sind die 8 GB eigener Speicher, die Sprach- und Vision-Language-Modelle erst möglich machen.
Welche Modellgrößen laufen praktisch gut?
Raspberry Pi nennt als Obergrenze rund 6 Milliarden Parameter. Erwarte bei dieser Größe kein Desktop-Tempo: Für kurze Anfragen, Befehlsverständnis und Zusammenfassungen reicht es, für lange Texte oder mehrere gleichzeitige Nutzer nicht. Kleinere Modelle im Bereich von 1 bis 3 Milliarden Parametern fühlen sich flüssiger an.
Brauche ich den Kühlkörper wirklich?
Er liegt bei, und du solltest ihn montieren. Dauerlast beim Rechnen von Modellen erzeugt Wärme, und ein heißer Beschleuniger taktet herunter. Für ein Gehäuse mit wenig Luftzug lohnt sich zusätzlich ein leiser Lüfter.