phate334/Breeze-ASR-26-int8_float16-CT2
07
Breeze-ASR-26-int8_float16-CT2
本模型由 MediaTek-Research/Breeze-ASR-26 轉換為 ctranslate2 量化格式，未額外微調。
量化
- 後端：
ctranslate2 - 量化：
int8_float16
評估
資料來源：教育部臺灣台語常用詞辭典例句音檔，取 hanzi 長度最長的 100 筆樣本。
CER 以原始 HF float16 推論結果作為偽參考，用來衡量轉換/量化後的輸出偏移；這不是人工標註逐字稿 CER。計算前會先移除所有空白，再計算字元級 Levenshtein 距離。
量化部署建議優先使用 CT2 int8：100 筆全數成功，VRAM 約 2097-2129 MiB，相對 HF float16 基準的 CER 為 0.1263。
相對 HF 基準的 CER
基準：vllm-hf-float16.jsonl。
更多資訊
評估程式、資料準備與完整報表： https://github.com/phate334/stt-eval