CoolFace
Modelpublic

ESPRIT-Group/ESPRIT-Derja-8B-v1

sourceHugging Faceapache-2.0updated 4mo agoView on Hugging Face
0likes
Model Card

ESPRIT-Derja-8B-v1

ESPRIT-Derja-8B-v1 est un modèle de langage spécialisé dans le dialecte tunisien (Derja), développé par la Direction de l'IA d'ESPRIT (École Supérieure Privée d'Ingénierie et de Technologies, Tunisie).

Le modèle est issu d'un fine-tuning LoRA de Qwen/Qwen3-8B, entraîné sur un corpus de dialecte tunisien afin d'améliorer la compréhension et la génération en Derja, qu'il soit écrit en caractères arabes ou en arabizi (latin).

Détails du modèle

  • —Développé par : Direction de l'IA - ESPRIT
  • —Modèle de base : Qwen/Qwen3-8B (8 milliards de paramètres)
  • —Méthode : Fine-tuning LoRA (Low-Rank Adaptation)
  • —Langues : Arabe standard, dialecte tunisien (Derja), arabizi
  • —Licence : Apache 2.0
  • —Infrastructure d'entraînement : NVIDIA DGX A100

Cas d'usage

Ce modèle est conçu pour :

  • —La génération de texte en dialecte tunisien
  • —La compréhension et la réponse à des requêtes en Derja
  • —Les assistants conversationnels destinés au public tunisien
  • —La recherche en TAL sur les langues sous-dotées (low-resource NLP)

Utilisation

python
from transformers import AutoModelForCausalLM, AutoTokenizer

model_name = "ESPRIT-Group/ESPRIT-Derja-8B-v1"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForCausalLM.from_pretrained(model_name, device_map="auto")

messages = [
    {"role": "user", "content": "أهلا، شنوة الأخبار اليوم؟"}
]
text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
outputs = model.generate(**inputs, max_new_tokens=256)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))

Déploiement

Le modèle est déployable via vLLM pour une inférence à haut débit :

bash
vllm serve ESPRIT-Group/ESPRIT-Derja-8B-v1 \
  --served-model-name ESPRIT-Derja-8B \
  --max-model-len 8192

Données d'entraînement

Le modèle a été affiné sur un corpus de dialecte tunisien comprenant des sources textuelles variées (conversations, contenus écrits en Derja arabe et arabizi). Le détail du corpus sera précisé dans une version ultérieure de cette fiche.

Limites et biais

  • —Le modèle peut produire des réponses inexactes ou inappropriées, comme tout modèle de langage.
  • —La couverture du dialecte peut varier selon les régions de Tunisie.
  • —Le modèle hérite des biais potentiels de son modèle de base (Qwen3-8B) et de son corpus de fine-tuning.
  • —Il n'est pas conçu pour des usages critiques sans supervision humaine.

Citation

bibtex
@misc{esprit-derja-8b-2026,
  title  = {ESPRIT-Derja-8B-v1: A Tunisian Dialect Language Model},
  author = {Direction de l'IA, ESPRIT},
  year   = {2026},
  publisher = {HuggingFace},
  howpublished = {\url{https://huggingface.co/ESPRIT-Group/ESPRIT-Derja-8B-v1}}
}

Contact

Direction de l'Intelligence Artificielle - ESPRIT École Supérieure Privée d'Ingénierie et de Technologies, Tunisie