kamekichi1231/Huihui-Qwen3.5-4B-abliterated-q4f16_1-MLC

Huihui-Qwen3.5-4B-abliterated-q4f16_1-MLC

huihui-ai/Huihui-Qwen3.5-4B-abliterated を MLC LLM / WebLLM 用に q4f16_1 量子化で変換したものです。

• —ベース: Qwen/Qwen3.5-4B (abliterated版)
• —量子化: q4f16_1
• —設定: contextwindowsize=4096, prefillchunksize=1024 (ブラウザ向け省VRAM設定)
• —モデルライブラリ (wasm): 公式 binary-mlc-llm-libs の web-llm-models/v0_2_84/base/Qwen3.5-4B-q4f16_1_cs1k-webgpu.wasm を流用可能(同形状のため)

WebLLM での使用例

<HF名>/Huihui-Qwen3.5-4B-abliterated-q4f16_1-MLC@https://raw.githubusercontent.com/mlc-ai/binary-mlc-llm-libs/main/web-llm-models/v0_2_84/base/Qwen3.5-4B-q4f16_1_cs1k-webgpu.wasm

License

Apache 2.0 (元モデル・ベースモデルに準拠)