CoolFace
Modelpublic

xCloudinfo/Gemma-4-26B-A4B-Maritime-zhTW-GGUF

sourceHugging Faceapache-2.0updated 3mo agoView on Hugging Face
0likes58downloads
Model Card

Gemma-4-26B-A4B-Maritime-zhTW-GGUF

云碩科技 · xCloudinfo · 系列:海事航海專業 · Maritime

繁體中文(台灣)+英文海事航海專業多模態模型的 GGUF(llama.cpp / Ollama)。基於自家 Gemma-4-26B-A4B-TAIDE-zhTW 做雙語海事 LoRA SFT,涵蓋避碰(COLREGs)、船舶操縱、導航、氣象、GMDSS、海事公約(SOLAS/MLC)、安全應急。含 mmproj 視覺檔,保留影像辨識。

做法

  • —資料(雙語海事 SFT):英文海事知識整合自公開海事語料並自行蒸餾;繁體中文海事問答為云碩自行整理/編製的繁體中文海事語料(經自有流程蒸餾、清洗、繁體化);專有名詞(COLREGS/AIS/SOLAS/GMDSS)保留英文。
  • —訓練:於 云碩 AI 算力資源池(xCloud 算力中心) 以 bf16 LoRA SFT → 合併 → GGUF。資料留在自有算力環境、流程可重現。

用法(llama.cpp,文字+視覺)

bash
hf download xCloudinfo/Gemma-4-26B-A4B-Maritime-zhTW-GGUF --include "*Q4_K_M*.gguf" "mmproj-*.gguf" --local-dir .
# 文字+影像(給足回覆長度;Gemma-4 是 thinking 模型)
llama-server -m Gemma-4-26B-A4B-Maritime-zhTW-Q4_K_M.gguf \
  --mmproj mmproj-Gemma-4-26B-A4B-Maritime-zhTW-f16.gguf \
  -ngl 99 -c 4096 --host 0.0.0.0 --port 8080
Gemma-4 為 thinking 模型,呼叫請給足 max_tokens(≥512),否則可能卡在推理、content 空白。

用途與限制

  • —適用:海事教育、航海知識問答、COLREGs/公約解說。
  • —⚠️ 非航行決策依據 —— 實際操船避碰請依現行法規、官方海圖與船長判斷。事實查詢建議搭配 RAG。

授權與來源聲明

  • —基底:xCloudinfo/Gemma-4-26B-A4B-Maritime-zhTW(gemma-4 = Apache-2.0;含 TAIDE 衍生,須遵守 TAIDE 模型授權條款 並保留本聲明)。
  • —海事語料:繁中為云碩自行整理/編製;英文整合自公開海事語料並自行蒸餾。再散布/改作請保留本聲明並自行確認資料合規。
  • —不得用於軍事或非法用途;須遵守中華民國法律與適用之 EU AI Act。

由 云碩科技 xCloudinfo 於自有 AI 算力資源池製作;資料留在本地、流程可重現。