xCloudinfo/gpt-oss-20b-TAIDE-zhTW-GGUF

gpt-oss-20b-TAIDE-zhTW-GGUF

云碩科技 · xCloudinfo　·　系列：繁中在地化 · TAIDE zh-TW

以 openai/gpt-oss-20b（21B 總參 / 3.6B 活躍 / MoE / MXFP4 / harmony 推理格式）為基底 的繁體中文（台灣） reasoning 模型。在程式能力底層之上，用 TAIDE 蒸餾的台灣繁中 self-instruct 指令資料做 LoRA 微調，直接以道地台灣繁中作答。（GGUF，MXFP4，約 14GB）

功能：繁體中文（台灣）問答與寫作——以道地台灣用語回應一般知識、文案、客服、教學等任務。

厲害在哪

• —道地台灣繁中：用字採台灣慣用（臺灣、臺語、客家話），語氣在地，不是簡轉繁。
• —疊在程式底層上：以 `Code-xCloud` 為底再學繁中，保留 reasoning 與 coding 能力。
• —輕量好部署：MXFP4、約 14GB，本地／離線可跑，資料不外流。

做法

• —資料：以 TAIDE 蒸餾的台灣繁中 self-instruct 指令資料訓練。

評測成績（繁中・台灣在地知識）

經繁體中文（台灣）知識常識與作答誠實度自動評測：

• —滿分類別：交通、制度、地理、常識、氣候、觀光、飲食。
• —待加強：文化（0/1）、節慶（1/2）、用語（3/4）—— 為後續資料補強的明確方向。
• —作答誠實度相較純程式版本（40%）提升至 60%：更傾向據實作答、不確定時坦承而非編造。

用法（gpt-oss 是 reasoning 模型，務必加 --jinja 套用內建 harmony 模板）

llama.cpp

hf download xCloudinfo/gpt-oss-20b-TAIDE-zhTW-GGUF gpt-oss-20b-zhtw.gguf --local-dir .
llama-server -m gpt-oss-20b-zhtw.gguf --jinja -ngl 999 -c 8192 --host 0.0.0.0 --port 8080

Ollama

printf 'FROM ./gpt-oss-20b-zhtw.gguf\nPARAMETER num_ctx 8192\n' > Modelfile
ollama create gpt-oss-20b-taide-zhtw -f Modelfile && ollama run gpt-oss-20b-taide-zhtw "用一段話介紹台灣，並說說台灣最有名的小吃。"

模型會先思考再輸出最終答案，請給足回覆長度。完整 safetensors 版見對應 repo。

授權與來源聲明

• —基底：`openai/gpt-oss-20b`，Apache-2.0。
• —TAIDE 衍生：訓練資料以 TAIDE 模型蒸餾；使用/重製/改作/散布須遵守 TAIDE 模型授權條款 並保留本聲明。
• —不得用於軍事或非法用途；不得聲稱代表 TAIDE 或國家實驗研究院；須遵守中華民國法律與適用之 EU AI Act。

由 云碩科技 xCloudinfo 於自有 AI 算力資源池製作；資料留在本地、流程可重現。