WWsCa/vet-qwen3b-v3-dapt-q8_0

vet-qwen3b-v3-dapt-q8_0

VetCopilot 专用兽医领域模型（GGUF Q8_0 量化版）。

• —基座: Qwen2.5-3B-Instruct
• —训练: DAPT（领域自适应预训练）于约 3177 篇兽医文献（1.76 亿字符）
• —格式: GGUF q8_0（3.1 GB）
• —用途: 兽医临床诊断辅助（LCPS 2.0 五步推理链的本地 LLM 引擎）

使用（llama.cpp / llama-cpp-python）

# llama.cpp
./main -m vet-qwen3b-v3-dapt-q8_0.gguf -p "..." -n 512

# llama-cpp-python
from llama_cpp import Llama
llm = Llama(model_path="vet-qwen3b-v3-dapt-q8_0.gguf", n_ctx=4096)

文件

• —vet-qwen3b-v3-dapt-q8_0.gguf — 量化权重（3.1 GB）

完整 bf16 权重与训练代码见 vetcopilot-backend 仓库说明。