Wer schon einmal versucht hat, eine eigene Dokumentensuche mit Bildern, Tabellen und PDF-Layouts zu bauen, kennt das Problem: Klassische Texterkennung (OCR) zerstört oft genau die Struktur, die eine Tabelle überhaupt lesbar macht. Perplexity hat jetzt ein Werkzeug veröffentlicht, das dieses Problem umgeht — und verschenkt es gleich als Open Source.
ZWEI MODELLE, EIN GEMEINSAMER RAUM
Am 7. Oktober 2026 hat Perplexity die Modellfamilie pplx-embed-v2-late auf Hugging Face veröffentlicht — unter der freien MIT-Lizenz, also auch für kommerzielle Projekte ohne Einschränkung nutzbar. Es gibt zwei Größen: ein kompaktes 0,6-Milliarden-Parameter-Modell für den Edge-Einsatz und ein großes 9-Milliarden-Parameter-Modell für maximale Genauigkeit. Der eigentliche Clou: Beide Modelle teilen sich denselben Embedding-Raum. Das bedeutet, ein mit dem kleinen Modell aufgebauter Suchindex lässt sich direkt mit dem großen Modell abfragen — und umgekehrt. Für die Praxis heißt das: schnelle, günstige Indexierung mit dem kleinen Modell, präzise Abfragen mit dem großen, ohne alles neu zu berechnen.
TEXT, BILD UND PDF OHNE OCR
Technisch setzen die Modelle auf eine Late-Interaction-Architektur nach dem ColBERT-Prinzip, destilliert aus einem internen 18-Milliarden-Parameter-Lehrmodell, mit Qwen3.5 als Basis. Statt einen ganzen Text oder ein ganzes Bild in einen einzigen Vektor zu quetschen, erzeugen die Modelle einen eigenen 128-dimensionalen Vektor pro Token und vergleichen Anfrage und Dokument darüber per „MaxSim“. Der praktische Vorteil: Die Modelle verarbeiten Bilder und ganze Dokumentseiten direkt, ohne vorherige Texterkennung oder Layout-Zerlegung — Tabellen, Diagramme und mehrspaltige Layouts bleiben dabei inhaltlich erhalten, statt beim OCR-Schritt verlorenzugehen.
WAS DIE BENCHMARKS ZEIGEN
Auf dem Bild-Retrieval-Benchmark ViDoRe v3 erreicht die Kombination aus kleinem Modell für Indexierung und Abfrage 62,3 Prozent. Nutzt man das große 9B-Modell nur für die Indexierung und das kleine für Abfragen, steigt der Wert auf 63,5 Prozent. Setzt man durchgehend das 9B-Modell ein, liegt die Bestmarke bei 65,2 Prozent. Die gestaffelten Werte zeigen genau den Sinn des gemeinsamen Embedding-Raums: Man kann je nach Budget zwischen Geschwindigkeit und Genauigkeit wählen, ohne die Architektur zu wechseln.
WARUM DAS FÜR SELF-HOSTING INTERESSANT IST
Für alle, die eigene RAG-Systeme (Retrieval-Augmented Generation) oder eine private Dokumentensuche betreiben — etwa über selbstgehostete Tools wie Paperless-ngx, eigene Wissensdatenbanken oder lokale KI-Assistenten — ist die MIT-Lizenz der entscheidende Punkt: Die Modelle lassen sich komplett offline und ohne Cloud-API betreiben, direkt von Hugging Face herunterladen und lokal ausführen. Das kleine 0,6B-Modell ist dabei bewusst so dimensioniert, dass es auch auf bescheidenerer Homelab-Hardware läuft, während das 9B-Modell eher für Systeme mit mehr GPU-Speicher gedacht ist.
FAZIT: KLEINES TOOL MIT GROSSEM PRAXISNUTZEN
Es ist kein Modell, über das Boulevard-Schlagzeilen geschrieben werden — aber für alle, die eigene Such- oder Wissenssysteme pflegen, ist pplx-embed-v2-late eine der praktischeren KI-Veröffentlichungen der Woche. OCR-freie Dokumentensuche unter einer freien Lizenz zum Selbstbetreiben ist ein Baustein, der bisher meist in geschlossenen Cloud-Produkten steckte.