Modelpublic

Keyven/belegant-4b

sourceHugging Faceapache-2.0updated 3mo agoView on Hugging Face

3likes228downloads

Model Card

<h1 align="center">Belegant-4B</h1>

<p align="center">🇨🇭 🇩🇪 🇫🇷 🇮🇹 🇦🇹  ·  Schweizer Belege & QR-Rechnungen → sauberes JSON</p>

Belegant-4B ist eine spezialisierte, professionell paketierte GGUF-Distribution für die strukturierte Extraktion von Schweizer Belegen, Rechnungen und QR-Rechnungen. Aus dem Bild eines Belegs entsteht striktes, schema-treues JSON – in Deutsch, Französisch und Italienisch. Belegant-4B ist multimodal (image-text-to-text) und liest Text und Bild.

Der Fokus liegt auf Belastbarkeit statt Raten: Belegant setzt harte Regeln für den Schweizer Zahlungsverkehr durch – QR-IBAN- und Referenz-Logik (QRR / SCOR / NON), Schweizer Zahlenformat (1'234.50), gültige MWST-Sätze (8.1 / 2.6 / 3.8 / 0) – und erzwingt NULL-Disziplin: Was nicht eindeutig im Bild steht, wird null, nie erfunden.

📦 Quantisierungen

Quant	Größe	Empfehlung
`belegant-4b-Q3_K_M.gguf`	≈ 2.2 GB	Kleinster Footprint, für knappe RAM-/Edge-Setups
`belegant-4b-Q4_K_M.gguf`	≈ 2.6 GB	Empfohlen – bestes Verhältnis Größe ↔ Qualität
`belegant-4b-Q5_K_M.gguf`	≈ 3.0 GB	Etwas höhere Genauigkeit, moderat größer
`belegant-4b-Q6_K.gguf`	≈ 3.4 GB	Nahe F16-Qualität, für anspruchsvolle Belege
`belegant-4b-Q8_0.gguf`	≈ 4.3 GB	Höchste Treue, Referenz-/Abnahme-Läufe
`mmproj-belegant-4b-f16.gguf`	≈ 642 MB	Vision-Projektor (mmproj) – für Bild-Eingabe zwingend

Für Bild-Eingabe wird der mmproj-Projektor zusätzlich zur gewählten Quant-Datei geladen.

📊 BelegBench v1

Field-Level Exact-Match (Field-EM) über Schweizer Beleg-/QR-Rechnungs-Bilder, DE / FR / IT.

Modell	Field-EM	Halluzination
Belegant-4B	84.7 %	0 %
Qwen3.5-4B (roh)	75.8 %	1.2 %
gemma3:4b	16.5 %	15.9 %

Kernaussage: in der 4B-Klasse +8.9 Punkte Field-EM und 0 % Halluzination – entscheidend im Zahlungsverkehr, wo eine erfundene IBAN oder ein falscher Betrag teurer ist als ein null. Trilingual: DE 84.7 % · FR 81.4 % · IT 83.0 %.

📊 Gemessen mit BelegBench — dem offenen Benchmark für Schweizer QR-Rechnungen: https://huggingface.co/datasets/Keyven/belegbench

🚀 Verwendung

Gewünschte Quant-Datei plus den Vision-Projektor laden:

bash

huggingface-cli download Keyven/belegant-4b \
  belegant-4b-Q4_K_M.gguf mmproj-belegant-4b-f16.gguf Modelfile \
  --local-dir belegant-4b
cd belegant-4b

llama.cpp — Bild → JSON (Vision, empfohlen)

bash

llama-mtmd-cli \
  -m belegant-4b-Q4_K_M.gguf \
  --mmproj mmproj-belegant-4b-f16.gguf \
  --image beleg.jpg \
  --temp 0 --top-k 1 --top-p 1 \
  -p "Extrahiere die Belegfelder exakt als JSON nach Schema. Was nicht lesbar ist: null."

Ollama

bash

ollama create belegant-4b -f Modelfile
ollama run belegant-4b "./beleg.jpg"

Ziel-Schema (Auszug)

json

{
  "creditor": {"name": null, "address": null, "zip": null, "city": null, "country": null},
  "creditor_iban": null, "amount": null, "currency": null,
  "reference_type": null, "reference": null,
  "invoice_number": null, "invoice_date": null, "due_date": null, "supplier_vat_uid": null,
  "line_items": [{"description": null, "quantity": null, "unit_price": null, "vat_rate": null, "total": null}],
  "vat_breakdown": [{"rate": null, "net": null, "tax": null}],
  "subtotal": null, "vat_total": null, "total": null, "language": null
}

🙏 Credits

Basiert auf Qwen3.5-4B von Alibaba Cloud · Qwen Team — Dank ans Qwen-Team. Apache-2.0.

📄 Lizenz

Apache License 2.0.