Weikaijie/HealthPulse-Qwen2.5-7B
1141
本草医疗 Qwen2.5-7B(HealthPulse-Qwen2.5-7B)
基于 Qwen2.5-7B-Instruct 在 Huatuo(华佗)中文医患数据集上 SFT + LoRA 微调的医疗问答大模型。 聚焦医学准确性与安全性,适用于症状咨询、健康科普、导诊建议、用药常识问答等场景。
模型信息
快速使用
Transformers
from transformers import AutoModelForCausalLM, AutoTokenizer
model = AutoModelForCausalLM.from_pretrained(
"Weikaijie/HealthPulse-Qwen2.5-7B",
torch_dtype="auto",
device_map="auto",
)
tokenizer = AutoTokenizer.from_pretrained("Weikaijie/HealthPulse-Qwen2.5-7B")
messages = [{"role": "user", "content": "高血压患者日常饮食需要注意什么?"}]
text = tokenizer.apply_chat_template(messages, tokenize=False, add_generation_prompt=True)
inputs = tokenizer(text, return_tensors="pt").to(model.device)
out = model.generate(**inputs, max_new_tokens=512)
print(tokenizer.decode(out[0][inputs.input_ids.shape[1]:], skip_special_tokens=True))vLLM(推荐,OpenAI 兼容)
pip install vllm
vllm serve Weikaijie/HealthPulse-Qwen2.5-7B --port 8000from openai import OpenAI
client = OpenAI(base_url="http://localhost:8000/v1", api_key="EMPTY")
resp = client.chat.completions.create(
model="HealthPulse-Qwen2.5-7B",
messages=[{"role": "user", "content": "最近失眠多梦,怎么调理?"}],
)
print(resp.choices[0].message.content)下载权重
# 海外直连
hf download Weikaijie/HealthPulse-Qwen2.5-7B --local-dir ./merged_model
# 国内镜像加速
export HF_ENDPOINT=https://hf-mirror.com
hf download Weikaijie/HealthPulse-Qwen2.5-7B --local-dir ./merged_modelfrom huggingface_hub import snapshot_download
snapshot_download("Weikaijie/HealthPulse-Qwen2.5-7B", local_dir="./merged_model")评测(5 维 NLU)
评测方式:LLM 初审 + 医学论坛评分 + 争议样本医学人士复核;如实记录短板,完整性与清晰度较最新国产大模型低 10%-20%(基座模型代差所致)。
训练详情
- 数据管线:华佗原始医患数据 → Hive 暂存 + PySpark 清洗 → Alpaca JSON 格式;Dify 工作流 + GPT-4o-mini 多维打分(≥6.0 分,保留 90%-95%)
- 数据划分:7,000 train / 1,000 val / 1,000 test
- 训练参数:LoRA rank=8, alpha=16, dropout=0.1, lr=5e-5, batch=8, epochs 3-5
免责声明
本模型仅供学习与研究及健康科普参考,不构成医疗诊断或治疗建议。医疗问题请咨询专业医生。模型输出可能包含错误或过时信息,使用者需自行判断。
数据集(配套训练数据)
- ModelScope(国内):`Aulink/Zhikangyun-Huatuo`(9,344 条华佗医疗问答,Alpaca 格式)
- Hugging Face(海外):`Weikaijie/Zhikangyun-Huatuo`
关联项目
- 项目主页(VitalCortex 健康平台,含训练集/参数/微调步骤/评测脚本):github.com/Aurirlk/HealthPulse
- 微调全流程实操记录:项目仓库
ai_model/微调步骤.md - 云上部署指南(vLLM + 阿里云):项目仓库
ai_model/部署指南-vLLM-阿里云.md
