CoolFace
Modelpublic

JasmineCTJ/meta-llama_Llama-3.2-1B_LoRA

sourceHugging Facemitupdated 1y agoView on Hugging Face
0likes
Model Card

🦙 LLaMA 3.2 1B LoRA 微調模型（保險客服助理）

本模型是基於 Meta 的 `meta-llama/Llama-3.2-1B` 模型進行微調（使用 LoRA 技術）， 訓練目標是讓模型具備回答保險相關問題的能力，例如保單介紹、理賠流程、險種差異等。

📌 模型用途

  • —保險業務的 AI 助理
  • —中文對話式客服機器人
  • —FAQ 問答系統

🛠️ 使用方式（搭配 base model + LoRA 權重）

你可以使用 🤗 transformers + peft 這樣載入模型：

python
from transformers import AutoModelForCausalLM, AutoTokenizer
from peft import PeftModel

# 先載入 base model
base_model = "meta-llama/Llama-3.2-1B"
lora_model = "JasmineCTJ/meta-llama_Llama-3.2-1B_Lora"

model = AutoModelForCausalLM.from_pretrained(base_model, device_map="auto")
model = PeftModel.from_pretrained(model, lora_model)

tokenizer = AutoTokenizer.from_pretrained(base_model)