adoslabs/liara-eurollm-1.7b

Liara EuroLLM-1.7B (GGUF Q8_0)

Liara 1.7B EU "EU-native" 🇪🇺 — il modello europeo dell'app Liara (assistente personale locale e privata): nato dal progetto EU EuroLLM, italiano forte.

Fine-tuning LoRA (SFT + KTO) di utter-project/EuroLLM-1.7B-Instruct sul dominio Liara: conversazione naturale in italiano, memoria personale e tool-calling testuale ChatML (<tool_call>{"name": …, "arguments": …}</tool_call>) sui 30 strumenti dell'app (email, agenda, note, meteo, calcoli, web, file, peer, telefono).

• —Quantizzazione: Q8_0 (qualità piena, perdita impercettibile ~0,1% vs FP16 — regola di casa: mai sotto Q6).
• —Formato prompt: ChatML (<|im_start|>…<|im_end|>), system + blocco # Tools Hermes-style, gestito dall'app.
• —Allineamento anti-fabbricazione: KTO con negativi curati (meteo inventato, risposta-a-mente, memoria inventata, injection nei risultati tool).

Uso previsto

Questo GGUF è pensato per l'app Liara (zeli-local), che lo scarica dal catalogo e lo esegue con llama.cpp. Fuori dall'app: llama.cpp con prompt ChatML e il blocco tools nel system.

Licenza

Apache-2.0 (come il modello base EuroLLM).