DennisHuang648/MiniCPM5-1B-NekoQA-v2-LoRA-GGUF

MiniCPM5-1B NekoQA v2 LoRA (GGUF)

DennisHuang648/MiniCPM5-1B-NekoQA-v2-LoRA 的 llama.cpp 可用 GGUF 格式。

训练数据（neko30k）

本 LoRA 由 neko30k 数据集微调而来：

格式信息

• —格式：F16 LoRA adapter
• —大小：~22 MB（336 tensors）
• —转换工具：llama.cpp convert_lora_to_gguf.py
• —Base config：openbmb/MiniCPM5-1B

llama-server 用法

llama-server \
  -m MiniCPM5-1B-Q8_0.gguf \
  --lora adapter_model.f16.gguf \
  --jinja --no-webui

MiniCPM Desk Pet

将此 .gguf 放入桌宠的 adapters/ 目录即可在 Settings → MiniCPM → 人格 LoRA 中选择。

PEFT 原始权重

如需 Transformers / PEFT 推理或继续训练，请使用 PEFT 版本：

[DennisHuang648/MiniCPM5-1B-NekoQA-v2-LoRA](https://huggingface.co/DennisHuang648/MiniCPM5-1B-NekoQA-v2-LoRA)