chenhaodev/qwen3-8b-nutrition-lora
035
营养指导专科模型 Qwen3-8B LoRA
基于 Qwen3-8B 通过 LoRA / QLoRA (4-bit) 指令微调的营养专科助手,知识蒸馏自权威营养学书籍: 《中国居民膳食营养素参考摄入量(2023)》·中国营养学会、《糖尿病营养与膳食指导》、《胃肠疾病营养与膳食指导》、 《骨质疏松症营养与膳食指导》、《中国上班族膳食营养指导》、《糖尿病与肾脏疾病的康复与护理知识问答》、《病人家属,请来一下》、《说句心里话》。
模型定位:既是内容输出助手,又可作为「审核官/审判官」(auditor),配合大模型/RAG 减少系统输出幻觉率。
功能覆盖(训练数据 22,003 条,领域精选)
训练
- 基础模型:
Qwen/Qwen3-8B(4-bit QLoRA) - LoRA r=16, alpha=16, rslora,target=attention+FFN;2 epochs,lr 2e-4,final train_loss≈0.96
- 数据由教师模型基于书籍文本蒸馏,严格 grounded;train 21,343 / eval 660
免责声明
本模型为营养健康教育与饮食规划辅助工具,仅供健康科普与一般饮食建议参考,不构成医疗诊断或治疗方案。 慢性病患者请务必在专业医师或注册营养师指导下制定个性化方案。
加载与推理
import torch
from unsloth import FastLanguageModel
model, tokenizer = FastLanguageModel.from_pretrained(
model_name="Qwen/Qwen3-8B", max_seq_length=2048, dtype=None, load_in_4bit=True)
model.load_adapter("chenhaodev/qwen3-8b-nutrition-lora")
text = tokenizer.apply_chat_template([{"role": "user", "content": q}],
tokenize=False, add_generation_prompt=True, enable_thinking=False)
enc = tokenizer(text, return_tensors="pt").to("cuda")
out = model.generate(input_ids=enc.input_ids, attention_mask=enc.attention_mask,
max_new_tokens=300, temperature=0.7, top_p=0.8, top_k=20)
print(tokenizer.decode(out[0][enc.input_ids.shape[1]:], skip_special_tokens=True))RAG 知识库(chenhaodev/qwen3-8b-nutrition-rag)
FAISS 索引 1,149 个领域文档块,配合 BAAI/bge-small-zh-v1.5 检索,辅助降低幻觉。
版权
LoRA 权重与脚本可自由发布;训练数据由书籍原文蒸馏改写,不含原文。
