sapie-model/SQL-sft-grpo-7000
0
sapie-model/SQL-sft-grpo-7000
- 이 리포는 LoRA/어댑터 가중치만 포함합니다. 추론 시에는 베이스 모델
OpenPipe/gemma-3-27b-it-text-only과 함께 로드하세요.
사용 예시
from transformers import AutoTokenizer, AutoModelForCausalLM
from peft import PeftModel
base = "OpenPipe/gemma-3-27b-it-text-only"
model_id = "sapie-model/SQL-sft-grpo-7000" # 이 어댑터 리포
tok = AutoTokenizer.from_pretrained(base)
model = AutoModelForCausalLM.from_pretrained(base, torch_dtype='auto', device_map='auto')
model = PeftModel.from_pretrained(model, model_id)