CoolFace
Modelpublic

adepadua/localllm-coder-7b

sourceHugging Faceapache-2.0updated 2d agoView on Hugging Face
0likes15downloads
Model Card

localllm-coder-7b

Asistente de programación en español de localllm — un proyecto de Substanze. Afinado (QLoRA) sobre Qwen2.5-Coder-7B-Instruct para responder con el estilo de la casa: explicaciones en español claro, código e identificadores en inglés, y la estructura Plan → Implementación → Pruebas → Notas en tareas grandes.

Uso

localllm (la app local de Substanze):

localllm pull adepadua/localllm-coder-7b

llama.cpp:

llama-server -m localllm-coder-7b-Q4KM.gguf --jinja

Ollama: importa el GGUF con un Modelfile (FROM ./localllm-coder-7b-Q4_K_M.gguf).

Detalles del entrenamiento

  • —Base: Qwen2.5-Coder-7B-Instruct (4-bit, QLoRA r=16)
  • —Dataset: ~80 ejemplos de programación senior en español (destilados + curación manual)
  • —Entrenado en local, en una sola RTX 4060 — cero nube, como manda la casa.

Licencia

Apache-2.0 (heredada del modelo base Qwen). El ajuste es de Substanze; úsalo como quieras, con atribución.