farajikh/LLMIRAudit

Qwen2.5-7B-Instruct (LoRA Adapter)

این ریپازیتوری شامل LoRA adapter weights است که روی مدل پایه [Qwen/Qwen2.5-7B-Instruct](https://huggingface.co/Qwen/Qwen2.5-7B-Instruct) آموزش داده شده. با استفاده از این آداپتر می‌توانید مدل پایه را برای تولید متن و پاسخ به دستورها دقیق‌تر استفاده کنید.

Model Details

• —Base model: Qwen/Qwen2.5-7B-Instruct
• —Adapter type: LoRA
• —Frameworks: PEFT, Transformers
• —Languages: چندزبانه (انگلیسی و چینی + داده‌های فاین‌تیونینگ)
• —License: همان لایسنس مدل پایه
• —Finetuned from: Qwen/Qwen2.5-7B-Instruct

Intended Uses

• —تولید متن
• —پاسخ به دستورها
• —مکالمه و چت‌بات
• —خلاصه‌سازی و پرسش‌پاسخ

Out-of-Scope

• —استفاده در حوزه‌های پرخطر (پزشکی، حقوقی، مالی)
• —تولید محتوای مضر یا گمراه‌کننده

How to Use

from peft import PeftModel
from transformers import AutoModelForCausalLM, AutoTokenizer

base_model = "Qwen/Qwen2.5-7B-Instruct"
adapter_model = "username/your-adapter-repo"

tokenizer = AutoTokenizer.from_pretrained(base_model)
model = AutoModelForCausalLM.from_pretrained(base_model, device_map="auto")
model = PeftModel.from_pretrained(model, adapter_model)

inputs = tokenizer("سلام! حالت چطوره؟", return_tensors="pt").to("cuda")
outputs = model.generate(**inputs, max_new_tokens=100)
print(tokenizer.decode(outputs[0], skip_special_tokens=True))