orozcohsu/translation_zh_en

中文 ➔ 英文 機器翻譯模型 (Fine-tuned Transformer)

📚 模型簡介

本模型基於 Helsinki-NLP/opus-mt-zh-en 預訓練權重，針對 繁體中文 ➔ 英文翻譯任務進行微調。 使用 Hugging Face transformers 庫完成訓練，並以 BLEU 分數作為主要評估指標。

🔧 訓練資訊

• —基礎模型：Helsinki-NLP/opus-mt-zh-en
• —資料來源：自定義資料集，包含繁體中文輸入與英文翻譯目標
• —Tokenization：自動使用對應 checkpoint 的 tokenizer
• —最大輸入長度：128
• —訓練方式：使用 Seq2SeqTrainer 完成微調
• —訓練週期（epochs）：1
• —學習率（learning rate）：2e-5
• —Batch size：8（訓練與驗證）
• —保存策略：每500步保存checkpoint，最多保留3個

📝 評估方式

• —指標：BLEU 分數 (使用 sacrebleu)
• —其他設定：
• —predict_with_generate=True（生成翻譯以供評分）
• —取100筆小型測試集進行快速驗證
• —使用單束（num_beams=1）生成

📂 輸出結果

• —訓練過程紀錄於 training_log.csv
• —完整保存模型及 tokenizer 至 ./results/transformer_v1
• —支援直接載入推論 (inference)

⚡ 推理示範

from transformers import AutoTokenizer, AutoModelForSeq2SeqLM

model = AutoModelForSeq2SeqLM.from_pretrained("./results/transformer_v1")
tokenizer = AutoTokenizer.from_pretrained("./results/transformer_v1")

inputs = tokenizer("外出要小心注意安全", return_tensors="pt")
outputs = model.generate(**inputs)
translated_text = tokenizer.decode(outputs[0], skip_special_tokens=True)
print(translated_text)