CoolFace
Modelpublic

Kerwin0113/GSW-Qwen3-4B-20251207-0210-GGUF

sourceHugging Faceupdated 10mo agoView on Hugging Face
0likes17downloads
Model Card

GSW-Qwen3-4B-20251207-0210-GGUF

模型信息

  • —微调模型: GSW-Qwen3-4B-20251207-0210
  • —量化方法: q4km
  • —GGUF 文件: GSW-Qwen3-4B-20251207-0210-Q4KM.gguf

使用方法

Ollama

bash
ollama create gsw-qwen3-4b-20251207-0210 -f Modelfile
ollama run gsw-qwen3-4b-20251207-0210

llama.cpp

bash
./llama-cli -m GSW-Qwen3-4B-20251207-0210-Q4_K_M.gguf -p "你的问题" -ngl 99

LM Studio

  1. 1.下载 GGUF 文件
  2. 2.在 LM Studio 中加载模型

推荐参数

temperature: 0.7
top_p: 0.9
repetition_penalty: 1.05

上传信息

  • —上传日期: 2025-12-07 08:27