Wer bislang lokale KI-Workloads mit AMD-Grafikkarten unter Proxmox betreiben wollte, war meist auf Forenwissen und Trial-and-Error angewiesen. Das ändert sich jetzt: AMD hat einen offiziellen, end-to-end getesteten Leitfaden veröffentlicht, der genau diesen Weg beschreibt — vom BIOS bis zur laufenden KI-Umgebung in der virtuellen Maschine.
WAS GENAU IM GUIDE STEHT
AMD beschreibt den kompletten Pfad, um eine Radeon-GPU per Passthrough einer VM unter Proxmox VE 9.1 zuzuweisen und darin ROCm 7.2 zusammen mit PyTorch 2.9.1+rocm7.2 laufen zu lassen. Getestet wurden zwei sehr unterschiedliche Konfigurationen:
- Integrierte Grafik: Ein Ryzen AI Max+ 395 mit der eingebauten Radeon 8060S und 64 GB LPDDR5X-Arbeitsspeicher.
- Diskrete Karten: Ein Threadripper PRO 9965WX mit gleich vier Radeon AI PRO R9700 und 128 GB DDR5.
Als Gast-Betriebssystem kommt in beiden Fällen Ubuntu 24.04 HWE zum Einsatz. Der Guide deckt BIOS-Einstellungen, die Aktivierung von IOMMU, das Binden der Geräte über VFIO, die VM-Erstellung und die anschließende ROCm-Installation ab — inklusive eines Sonderfalls: Bei integrierter Grafik muss die VM nach der ROCm-Installation einmal gestoppt, der Proxmox-Host neu gestartet und die VM danach erneut gestartet werden. Bei diskreten Karten reicht ein einfacher Neustart des Gastsystems.
WARUM VM-PASSTHROUGH UND NICHT EINFACH DOCKER?
AMD begründet den VM-Weg gegenüber der naheliegenden Alternative — Container mit direktem Zugriff über /dev/kfd — mit drei konkreten Vorteilen: Fehlerisolation der GPU bleibt innerhalb der VM, es gibt keine Probleme bei der VRAM-Aufteilung wie bei manchen Container-Setups, und ein Rollback per Snapshot ist bei einer VM deutlich unkomplizierter als bei einem laufenden Container-Host.
WARUM DAS FÜR DEUTSCHE HOMELABS INTERESSANT IST
Lokale KI-Workloads — vom eigenen Sprachmodell bis zur Bildgenerierung — laufen in der Homelab-Szene traditionell fast ausschließlich auf Nvidia-Hardware, weil CUDA dort seit Jahren der De-facto-Standard ist. Ein offizieller, von AMD selbst durchgetesteter und dokumentierter Weg über Proxmox senkt die Einstiegshürde für alle, die bereits eine Radeon-Karte besitzen oder bewusst auf AMD setzen wollen, deutlich — gerade weil Proxmox in deutschen Homelabs ohnehin eine der meistgenutzten Virtualisierungsplattformen ist.
SO GEHST DU VOR
- Voraussetzungen prüfen: IOMMU-fähiges Mainboard/BIOS, Proxmox VE 9.1 oder neuer.
- VFIO einrichten: Die GPU vom Host-System lösen und für die Passthrough-Nutzung binden — AMDs Guide verlinkt die nötigen Proxmox-Befehle direkt.
- Gast-VM aufsetzen: Ubuntu 24.04 HWE als getestete Basis, ROCm 7.2 und PyTorch 2.9.1+rocm7.2 installieren.
- Bei iGPU-Nutzung: Den zusätzlichen Host-Neustart nach der ROCm-Installation nicht vergessen.
FAZIT: Ein kleiner Schritt mit großer Symbolik
Technisch ist GPU-Passthrough unter Proxmox nichts grundlegend Neues — die Community experimentiert damit seit Jahren. Dass AMD diesen Weg jetzt aber selbst dokumentiert und offiziell für ROCm/PyTorch validiert, ist ein deutliches Signal: Proxmox wird für AMD zu einer ernstgenommenen Plattform für KI-Workloads, nicht nur eine von vielen Community-Lösungen.