xCloudinfo/Gemma-4-26B-A4B-Maritime-zhTW-v2-GGUF

Gemma-4-26B-A4B-Maritime-zhTW-v2-GGUF

云碩科技 · xCloudinfo　·　系列：海事航海專業 · Maritime

繁體中文（台灣）＋英文海事航海專業多模態模型的 GGUF（llama.cpp / Ollama）—— 第二代（v2）。基於自家 Gemma-4-26B-A4B-TAIDE-zhTW 做雙語海事 LoRA SFT，涵蓋避碰（COLREGs）、船舶操縱、導航、氣象、GMDSS、海事公約（SOLAS/MLC）、安全應急。含 mmproj 視覺檔，保留影像辨識。

v2 做了什麼（與 v1 的差異）

v2 的核心是自蒸餾（self-distillation）擴充繁中海事語料：

• —不另用通用模型翻譯，而是用海事模型自己（v1）把英文海事語料（含 llamarine 等公開海事/航海語料）翻成繁體中文 —— 讓繁中譯文帶有正確的海事領域語感與術語，避免通用翻譯模型的領域味流失。
• —翻譯於云碩自有 AI 算力資源池以推論加速批次完成（約 11 萬筆），再合併成英＋繁雙語海事語料重訓。
• —專有名詞（COLREGS / AIS / SOLAS / GMDSS）保留英文。
• —結果：相較 v1，v2 的繁中海事覆蓋與一致性更高。

做法（流程可重現）

• —資料（雙語海事 SFT）：英文海事知識整合自公開海事語料；繁體中文海事問答由 v1 海事模型自蒸餾產生（自有流程：翻譯 → 清洗 → 繁體化）。
• —訓練：於 云碩自有 AI 算力資源池（xCloud 算力中心） 以 LoRA SFT → 合併（merge）→ GGUF 量化。資料留在自有算力環境。

檔案

• —Gemma-4-26B-A4B-Maritime-zhTW-v2-Q4_K_M.gguf（約 16.8 GB，文字主模型）
• —mmproj-Gemma-4-26B-A4B-Maritime-zhTW-f16.gguf（約 1.19 GB，視覺投影；v2 視覺塔未變動，沿用同一 mmproj）

用法（llama.cpp，文字＋視覺）

hf download xCloudinfo/Gemma-4-26B-A4B-Maritime-zhTW-v2-GGUF --include "*Q4_K_M*.gguf" "mmproj-*.gguf" --local-dir .
# 文字＋影像（給足回覆長度；Gemma-4 是 thinking 模型）
llama-server -m Gemma-4-26B-A4B-Maritime-zhTW-v2-Q4_K_M.gguf \
  --mmproj mmproj-Gemma-4-26B-A4B-Maritime-zhTW-f16.gguf \
  -ngl 99 -c 8192 --host 0.0.0.0 --port 8080 --jinja

注意：Gemma-4 為 thinking 模型，呼叫請給足 max_tokens（建議 ≥512），否則可能卡在推理、content 空白。

用途與限制

• —適用：海事教育、航海知識問答、COLREGs／公約解說。
• —非航行決策依據 —— 實際操船避碰請依現行法規、官方海圖與船長判斷。事實查詢建議搭配 RAG。

授權與來源聲明

• —基底：xCloudinfo/Gemma-4-26B-A4B-TAIDE-zhTW（gemma-4 = Apache-2.0；含 TAIDE 衍生，須遵守 TAIDE 模型授權條款 並保留本聲明）。
• —海事語料：繁中由海事模型自蒸餾產生；英文整合自公開海事語料。再散布／改作請保留本聲明並自行確認資料合規。
• —不得用於軍事或非法用途；須遵守中華民國法律與適用之 EU AI Act。

由 云碩科技 xCloudinfo 於自有 AI 算力資源池製作；資料留在本地、流程可重現。