Modelpublic

Koutouzov1973/Mistral-7B-Instruct-v0.3-3bit

sourceHugging Faceapache-2.0updated 3mo agoView on Hugging Face

0likes29downloads

Model Card

Mistral-7B-Instruct-v0.3 — MLX 3-bit (Generex)

Quantification MLX 3-bit (q-group-size 64) de `mistralai/Mistral-7B-Instruct-v0.3` (Apache-2.0, éditeur Mistral AI — France), produite avec mlx_lm.convert pour un usage on-device dans l'application Generex (assistant tactique iPad, hors-ligne).

—model_type: mistral (architecture supportée par MLXLLM / mlx-swift-examples).
—Empreinte ≈ 3,0 Go — cible iPad 8 Go.
—Licence du dérivé : Apache-2.0 (héritée du modèle de base).