xCloudinfo/xGemable-12B-coder-v1.5-GGUF
card: 移除 ollama 內容,改以 llama.cpp/vLLM/LM Studio 為主
card: 中國用語改台灣用語(前沿->最頂尖、編程->程式設計)
card: 補〈用 OpenAI /v1 API 串接〉說明為何要關思考+怎麼關(reasoning_effort:none)，修正『零設定』誤述
card: Q4 實測 88.4% 全量 HumanEval(無 stop 輔助), 與 bf16 持平
Modelfile(主): 同 Q4 新版
Modelfile Q8_0: 加 TEMPLATE(關思考) + stop 標記
Modelfile Q6_K: 加 TEMPLATE(關思考) + stop 標記
Modelfile Q5_K_M: 加 TEMPLATE(關思考) + stop 標記
Modelfile Q4_K_M: 加 TEMPLATE(關思考) + stop 標記
params: stop 加 turn/channel 標記
ollama hf.co 拉取自動用: 關思考 Go template
Q8_0: eot=106 + 1M YaRN
Q6_K: eot=106 + 1M YaRN
card: 治本版(思考模式/eot/Q4重量化三根因) + llama.cpp/LM Studio 用法更新
Q5_K_M: eot=106 + 1M YaRN
Q4_K_M: 重量化(embed/output q8 保精度) + eot=106 + 1M YaRN
Q8_0: YaRN 1M context 預設烙入 metadata (256K native x4)
Q6_K: YaRN 1M context 預設烙入 metadata (256K native x4)
card: 1M 上下文開箱即用(YaRN 已烙入 metadata) + 256K 原生為品質硬實力
Q5_K_M: YaRN 1M context 預設烙入 metadata (256K native x4)
Q4_K_M: YaRN 1M context 預設烙入 metadata (256K native x4)
card: 加「為什麼不用 26B/31B 通用版寫程式」對照段
card: 開頭改寫——Claude 教師執行驗證蒸餾的程式邏輯能力+工程用途定位, 非聊天模型
card: 使用說明重寫——方式一 hf.co 一行全自動(附四量化各自指令+容量), 方式二離線 Modelfile 兩步驟
card: 標題改為解碼參數
card: ollama run hf.co 一行安裝為主(params 自動套用), Modelfile 改離線用
params: ollama run hf.co 一行自動套用解碼參數
card: Ollama 範例改用 -f Modelfile.Q4_K_M 免改名 + 避開 glob 陷阱
card: 講清楚為何要用 Modelfile + 四量化版 Modelfile
Modelfile for Q8_0
Modelfile for Q6_K
Modelfile for Q5_K_M
Modelfile for Q4_K_M
add Ollama Modelfile (stop seqs 抑制囉嗦 + 正確解碼)
add xGemable-12B-coder-v1.5-Q8_0.gguf
remove old-named xGemable-12B-Claude-Fable-5-v1.5-Q8_0.gguf
remove old-named xGemable-12B-Claude-Fable-5-v1.5-Q4_K_M.gguf
add xGemable-12B-coder-v1.5-Q8_0.gguf
add xGemable-12B-coder-v1.5-Q6_K.gguf
add xGemable-12B-coder-v1.5-Q6_K.gguf
discreet naming (coder) + 完整量化梯度表
add xGemable-12B-coder-v1.5-Q5_K_M.gguf
add xGemable-12B-coder-v1.5-Q4_K_M.gguf
discreet naming (coder) + 完整量化梯度表
license: apache-2.0; 移除內部限定(改為公開發布)
add xGemable-12B-Claude-Fable-5-v1.5-Q8_0.gguf
context: 256K native / 1M (YaRN extended) + llama.cpp 用法
add xGemable-12B-Claude-Fable-5-v1.5-Q4_K_M.gguf
cover image
GGUF card