LaToucheCarre/LaToucheCarre-Texte-L-Gemma-4-E4B-IQ3_XXS-FR-EN-GGUF

Gemma 4 E4B IQ3_XXS, vocabulaire taillé FR+EN — palier L de la correction

3 717 Mo → 2 973 Mo. Le meilleur rapport de toute l'échelle : 101 fautes sur 105, zéro mot abîmé, pour 2 228 Mo de VRAM et 1 083 de RAM hôte — une seule faute de moins que le E4B en Q4KM, qui pèse 1,1 Go de plus.

Sans correcteur grammatical : LanguageTool ne lui apporte rien et lui coûte un mot juste.

Gemma is provided under and subject to the Gemma Terms of Use found at ai.google.dev/gemma/terms.

Ce fichier est un Model Derivative au sens de ces conditions : le vocabulaire a été réduit, aucun poids n'a été modifié. Il reste soumis aux Gemma Terms of Use et à la Gemma Prohibited Use Policy, que tout utilisateur ou redistributeur doit respecter et répercuter.

Ce qui a été modifié

Sur les 262 144 jetons du vocabulaire Gemma, 103 311 ont été retirés (−39,4 %) : ceux dont l'écriture n'est ni latine ni compatible avec le français ou l'anglais. Les lignes d'embedding correspondantes disparaissent de token_embd.weight et, sur Gemma 4, de per_layer_token_embd.weight — cette seconde table est indexée par le jeton elle aussi, et pèse plus de la moitié du fichier d'un E2B. Les fusions BPE sont filtrées en conséquence, les jetons spéciaux renumérotés. Aucun poids n'est touché : ni réentraînement, ni requantification.

Vérifié sur onze courriels portant 105 fautes étiquetées : fautes corrigées et mots abîmés strictement identiques à l'original, dans les quatre configurations essayées, et tokenisation identique jeton pour jeton. Le gain est en mémoire et en vitesse (5 à 15 %), jamais au détriment du texte rendu.

llama.cpp laisse les tables de vocabulaire côté processeur même quand tout le reste part sur la carte : la coupe réduit donc surtout la RAM hôte, de 39 % exactement. Pour les pousser sur la carte : --override-tensor "token_embd\.weight=CUDA0,per_layer_token_embd\.weight=CUDA0".

Pourquoi ce dépôt

La Touche Carré est un assistant d'écriture Windows qui ne sort jamais le texte de la machine : dictée et correction tournent en local. Chaque palier du produit a son dépôt, pour que l'adresse de téléchargement soit stable et vérifiable.

Toutes les mesures citées viennent de nos propres bancs : quatre extraits audio (dictée maison, FLEURS, VoxPopuli, lecture personnelle) pour la dictée, onze courriels portant 105 fautes étiquetées pour la correction. Machine : Ryzen 5 9600X, RTX 5070.