LaToucheCarre/LaToucheCarre-Texte-S-Gemma-3-1B-Q5_K_XL-FR-EN-GGUF

Gemma 3 1B Q5KXL, vocabulaire taillé FR+EN — palier S de la correction

874 Mo → 745 Mo. Le plus petit modèle de correction du produit : 831 Mo de VRAM plus 185 Mo de RAM hôte.

Seul, il ne corrige que 55 fautes sur 105 — un modèle d'un milliard de paramètres ne sait pas accorder un participe. C'est pourquoi le produit le fait précéder de LanguageTool, qui rattrape 28 fautes de plus : l'ensemble atteint 83 sur 105 pour 4 mots abîmés. Dans l'autre sens, LanguageTool après le modèle, on tombe à 77.

Gemma is provided under and subject to the Gemma Terms of Use found at ai.google.dev/gemma/terms.

Ce fichier est un Model Derivative au sens de ces conditions : le vocabulaire a été réduit, aucun poids n'a été modifié. Il reste soumis aux Gemma Terms of Use et à la Gemma Prohibited Use Policy, que tout utilisateur ou redistributeur doit respecter et répercuter.

Ce qui a été modifié

Sur les 262 144 jetons du vocabulaire Gemma, 103 311 ont été retirés (−39,4 %) : ceux dont l'écriture n'est ni latine ni compatible avec le français ou l'anglais. Les lignes d'embedding correspondantes disparaissent de token_embd.weight et, sur Gemma 4, de per_layer_token_embd.weight — cette seconde table est indexée par le jeton elle aussi, et pèse plus de la moitié du fichier d'un E2B. Les fusions BPE sont filtrées en conséquence, les jetons spéciaux renumérotés. Aucun poids n'est touché : ni réentraînement, ni requantification.

Vérifié sur onze courriels portant 105 fautes étiquetées : fautes corrigées et mots abîmés strictement identiques à l'original, dans les quatre configurations essayées, et tokenisation identique jeton pour jeton. Le gain est en mémoire et en vitesse (5 à 15 %), jamais au détriment du texte rendu.

llama.cpp laisse les tables de vocabulaire côté processeur même quand tout le reste part sur la carte : la coupe réduit donc surtout la RAM hôte, de 39 % exactement. Pour les pousser sur la carte : --override-tensor "token_embd\.weight=CUDA0,per_layer_token_embd\.weight=CUDA0".

Pourquoi ce dépôt

La Touche Carré est un assistant d'écriture Windows qui ne sort jamais le texte de la machine : dictée et correction tournent en local. Chaque palier du produit a son dépôt, pour que l'adresse de téléchargement soit stable et vérifiable.

Toutes les mesures citées viennent de nos propres bancs : quatre extraits audio (dictée maison, FLEURS, VoxPopuli, lecture personnelle) pour la dictée, onze courriels portant 105 fautes étiquetées pour la correction. Machine : Ryzen 5 9600X, RTX 5070.