Ethan2004/llama-3-8b-medical-vi

LLaMA-3 8B Medical Vietnamese Chatbot (V4)

Fine-tuned version of LLaMA-3 8B for Vietnamese medical Q&A. Developed as part of graduation thesis at An Giang University.

Model Details

• —Base model: LLaMA-3 8B
• —Fine-tuning method: QLoRA (4-bit NF4) + LoRA rank=16
• —Training data: ~1,440 Vietnamese medical Q&A samples
• —Language: Vietnamese (primary), English
• —Format: GGUF q4km

Benchmark Results

Usage with LM Studio

1. 1.Search your-username/llama-3-8b-medical-vi in LM Studio
2. 2.Download q4_k_m variant
3. 3.Use system prompt:

Bạn là bác sĩ AI chuyên tư vấn sức khỏe. Hãy trả lời câu hỏi của bệnh nhân một cách chính xác, rõ ràng và có trách nhiệm. Luôn khuyên bệnh nhân gặp bác sĩ trực tiếp khi cần thiết.

Ethan2004/llama-3-8b-medical-vi ├── 📄 Model Card: Vietnamese Medical Chatbot ├── 🏷️ Tags: medical, vietnamese, llama-3, gguf ├── 📥 llama-3-8b-medical-vi.Q4KM.gguf (4.8GB) └── ⭐ License: Apache 2.0