Unlimited-OCR im Test: 3B-Parameter-Modell verarbeitet 100 Seiten PDF in einem Durchgang mit 93% Genauigkeit

Warum Unlimited-OCR beachtenswert ist

Im Juni 2026 hat Baidu das Unlimited-OCR-Projekt als Open Source veröffentlicht, das auf GitHub schnell über 24.000 Sterne und auf Hugging Face mehr als 3,2 Millionen Downloads erreichte. Das Hauptverkaufsargument ist direkt: Ein Modell mit nur 3B Parametern kann komplette 100-seitige PDFs in einem Durchgang lesen, ohne Seitentrennung, ohne Kontextverlust, ohne Cloud-Rechnungen.

Traditionelle OCR-Tools (Tesseract, PaddleOCR) verarbeiten Dokumente Seite für Seite, wobei jede Seite unabhängig erkannt wird. Tabellenübergreifende Beziehungen, Zitate und die Kohärenz der Absätze gehen verloren. Cloud-OCR-Dienste (Google Vision, Azure Document Intelligence) bieten höhere Genauigkeit, kosten jedoch $1,5-$15 pro 1.000 Seiten und erfordern das Hochladen sensibler Dokumente auf Drittanbieterserver.

Unlimited-OCR durchbricht dieses Dilemma: Lokale Ausführung, vollständig kostenlos, gesamte Dokumente in einem Durchgang verarbeiten. In standardisierten OCR-Benchmark-Tests erreicht es 93% Genauigkeit, 6 Prozentpunkte höher als die DeepSeek-OCR-Basislinie, und die Fehlerrate bleibt auch nach 40+ Seiten unter 0,11.

Kerntechnologie: R-SWA-Aufmerksamkeitsmechanismus

Der technologische Durchbruch von Unlimited-OCR stammt aus R-SWA (Reference Sliding Window Attention, Referenz-Gleitfenster-Aufmerksamkeit).

Das Speicherproblem traditioneller LLM-Decoder

End-to-End-OCR-Modelle (wie DeepSeek-OCR) verwenden große Sprachmodelle als Decoder und nutzen Sprachprioritätsverteilungen zur Verbesserung der Erkennungsgenauigkeit. Es gibt jedoch einen fatalen Nachteil: Mit zunehmender Ausgabesequenz verbraucht der akkumulierte KV-Cache enorm viel Speicher, und die Generierungsgeschwindigkeit nimmt allmählich ab.

Das ist wie beim menschlichen Abschreiben von Dokumenten: Wenn man sich an alles bisher Abgeschriebene erinnern muss, um fortzufahren, ist das Gehirn bei Seite 50 überlastet.

Die Lösung von R-SWA

R-SWA simuliert den menschlichen "Analyse-Arbeitsspeicher"-Mechanismus und ersetzt alle Aufmerksamkeitschichten im Decoder durch Referenz-Gleitfenster-Aufmerksamkeit:

1. Konstanter KV-Cache: Die KV-Cache-Größe bleibt während des gesamten Dekodierungsprozesses konstant und wächst nicht mit der Ausgabelänge
2. Referenzmechanismus: Das Modell kann jederzeit auf das ursprüngliche Dokumentenbild "zurückblicken", anstatt sich auf akkumulierte Zwischenzustände zu verlassen

In Kombination mit der hohen Kompressionsrate des DeepSeek-OCR-Encoders und dem konstanten KV-Cache transkribiert Unlimited-OCR bei einer standardmäßigen Maximallänge von 32K dutzende Seiten in einem einzigen Vorwärtsdurchgang.

Noch wichtiger: R-SWA ist ein universeller Analyse-Aufmerksamkeitsmechanismus, der gleichermaßen für Spracherkennung (ASR), Übersetzung und andere Sequenzaufgaben geeignet ist.

Technische Spezifikationen

Vergleich mit traditionellem OCR und Cloud-Diensten

Vergleich mit traditionellen OCR-Tools

Vergleich mit Cloud-OCR-Diensten

Wichtigste Erkenntnis: Unlimited-OCR hat eine leicht niedrigere Genauigkeit als Top-Cloud-Dienste (93% vs. 95%+), bietet aber überwältigende Vorteile bei Kosten, Datenschutz und Offline-Verfügbarkeit. Für die meisten Unternehmensszenarien (Verträge, Finanzen, technische Dokumente) sind 93% völlig ausreichend, und Daten müssen das lokale Umfeld nicht verlassen.

Lokale Bereitstellungspraxis

Hardwareanforderungen

Mindestanforderung: 12GB VRAM (3B-Parameter FP16 benötigt etwa 6GB, plus KV-Cache und Bildkodierung benötigt 12GB+)

Umgebungsvorbereitung

# Virtuelle Umgebung erstellen
python3 -m venv unlimited-ocr-env
source unlimited-ocr-env/bin/activate

# Abhängigkeiten installieren (Python 3.12 + CUDA 12.9)
pip install torch==2.10.0 torchvision==0.25.0 \
    --index-url https://download.pytorch.org/whl/cu129
pip install transformers==4.57.1 Pillow==12.1.1 \
    einops==0.8.2 addict==2.4.0 easydict==1.13 \
    pymupdf==1.27.2.2 psutil==7.2.2

Basis-Inferenzcode (Transformers)

import os, torch, tempfile, fitz
from transformers import AutoModel, AutoTokenizer

# Modell laden
model_name = 'baidu/Unlimited-OCR'
tokenizer = AutoTokenizer.from_pretrained(
    model_name, trust_remote_code=True)
model = AutoModel.from_pretrained(
    model_name, trust_remote_code=True,
    use_safetensors=True, torch_dtype=torch.bfloat16,
).eval().cuda()

# PDF zu Bildern
def pdf_to_images(pdf_path, dpi=300):
    doc = fitz.open(pdf_path)
    tmp_dir = tempfile.mkdtemp(prefix='pdf_ocr_')
    mat = fitz.Matrix(dpi / 72, dpi / 72)
    paths = []
    for i, page in enumerate(doc):
        out = os.path.join(tmp_dir, f'page_{i+1:04d}.png')
        page.get_pixmap(matrix=mat).save(out)
        paths.append(out)
    doc.close()
    return paths

# Mehrseitige PDF-Analyse
model.infer_multi(
    tokenizer,
    prompt='<image>Multi page parsing.',
    image_files=pdf_to_images('your_doc.pdf', dpi=300),
    output_path='output_dir',
    image_size=1024,
    max_length=32768,
    no_repeat_ngram_size=35,
    ngram_window=1024,
    save_results=True,
)

Wichtige Parametererklärung

Hochleistungs-Bereitstellung (vLLM)

Für Produktionsumgebungen wird vLLM empfohlen, das einen 3-5-fach höheren Durchsatz als Transformers bietet:

# Docker-Image ziehen (CUDA 13.0)
docker pull vllm/vllm-openai:unlimited-ocr

# Dienst starten (OpenAI-kompatible API)
docker run --gpus all \
    -v ~/.cache/huggingface:/root/.cache/huggingface \
    -p 8000:8000 \
    vllm/vllm-openai:unlimited-ocr \
    --model baidu/Unlimited-OCR \
    --served-model-name Unlimited-OCR \
    --max-model-len 32768 \
    --gpu-memory-utilization 0.9

vLLM bietet eine OpenAI-kompatible API, unterstützt Batch-Anfragen und kontinuierliche Batch-Verarbeitung, ideal für den Aufbau von OCR-Diensten auf Unternehmensniveau.

Testergebnisse in der Praxis

Stärkenszenarien: Mehrseitige Kontextkohärenz, komplexe Formatierung (zweispaltig/Bild-Text-Mischung), mathematische Formeln und Codeblöcke, mehrsprachige Mischung.

Einschränkungsszenarien: Extrem niedrige Scanqualität (<150 DPI) reduziert Genauigkeit auf 85%, Handschrifterkennungsrate etwa 70%, ultra-dichte Tabellen (>20 Spalten) können Spalten-Ausrichtungsfehler aufweisen.

Einschränkungen und wichtige Hinweise

Bekannte Grenzen

1. VRAM-Verbrauch: 32K-Kontextfenster benötigt ausreichend KV-Cache-Speicher
2. Langsames erstes Laden: Modell ist etwa 6GB groß, erste Inferenz erfordert Kompilierung von Optimierunggraphen
3. GPU erforderlich: Unterstützt keine CPU-Inferenz (zu langsam, unpraktisch)
4. Ausgabeformat: Reiner Text/Markdown, kann ursprüngliche Formatierung nicht beibehalten

Häufige Problembehebung

Best Practices

• DPI-Auswahl: 300 DPI für normale Dokumente, 400-600 DPI für kleine Schrift/niedrigqualitative Scans
• Batch-Verarbeitung: vLLM oder SGLang verwenden, nicht Seite-für-Seite mit Transformers aufrufen
• Ausgabevalidierung: Für kritische Dokumente (Verträge, Finanzen) manuelle Stichproben durchführen
• Caching-Strategie: PDF-zu-Bilder-Konvertierungen auf Festplatte cachen, um wiederholte Konvertierung zu vermeiden

Zusammenfassende Bewertung

Unlimited-OCR ist der wichtigste Open-Source-Durchbruch im OCR-Bereich 2026. Es beweist: Kleine Modelle + innovative Architektur = große Fähigkeiten. Der R-SWA-Aufmerksamkeitsmechanismus löst nicht nur das Langdokumentenproblem von OCR, sondern bietet auch eine universelle Lösung für Sequenzaufgaben wie ASR und Übersetzung.

Für Teams, die große Dokumentenmengen verarbeiten müssen, kann Unlimited-OCR teure Cloud-OCR-Dienste ersetzen und zehntausende Dollar pro Jahr sparen. Noch wichtiger: Sensible Daten müssen das lokale Umfeld nicht verlassen, was die Compliance-Anforderungen in Branchen wie Finanzen, Gesundheitswesen und Regierung erfüllt.

Empfehlungsbewertung: ⭐⭐⭐⭐⭐ (5/5)