zapp926/Qwen3.8-27B-Munger-LoRA

Munger Lab · Qwen3.8-27B LoRA

一个受查理·芒格思想和表达风格启发的中英文对话模型。它围绕能力圈、企业质量、现金流、资本配置、机会成本、激励机制和多元思维模型来讨论投资与经营判断，回答直率、自然，并把判断的理由说清楚。回答由模型生成，不代表芒格本人的发言。

这是项目当前的默认版本，由多轮迭代微调得到。模型会先直接回答问题，再说明理由和适用条件；简单问题回答三四句话，一般问题五到七句话，追问"展开说说"时会结合上文继续解释。

模型信息

• —基座：Qwen/Qwen3.8-27B，固定 revision 1d4bf0f2ff6012fd82039f2fa52739d0dd7c60c0
• —形式：PEFT LoRA 适配器，约 234 MB，需要与基座一起加载
• —训练：4-bit QLoRA，rank 16、alpha 32，中文数据为主
• —内容：适配器、分词器、对话模板、加载器和中英文系统提示词

使用方法

已验证环境：Python 3.12、PyTorch 2.11.0+cu128、Transformers 5.16.1、PEFT 0.20.0、Accelerate 1.14.0、bitsandbytes 0.50.2。示例使用包内 safe_loader.py 做 NF4 逐分片加载，建议准备 24 GB 或更大的 NVIDIA 显存，并留出主存和磁盘余量。

python -m pip install "torch==2.11.0" --index-url https://download.pytorch.org/whl/cu128
python -m pip install "transformers==5.16.1" "peft==0.20.0" "accelerate==1.14.0" "bitsandbytes==0.50.2" "huggingface_hub==1.30.0"
hf download zapp926/Qwen3.8-27B-Munger-LoRA --local-dir ./munger-lora
python munger-lora/example_chat.py "普通投资者最应该避免什么错误？"

示例会自动下载固定 revision 的基座并加载本仓库的适配器，使用 prompts.json 中的默认提示词。已有同版本基座时可加 --base-dir /path/to/Qwen3.8-27B，临时加载目录可用 --offload-dir 指定。请保留包内的加载器、分词器和 prompts.json。

也可以用 Transformers + PEFT 集成到自己的应用中。推荐关闭思考模式，使用 temperature=0.7、top_p=0.9、max_new_tokens=500，多轮对话时保留之前的消息。

许可

Apache-2.0。原书、训练数据和测试题不随适配器发布。