tsukemono/japanese-novel-gpt-j-6b-f16-marisa
3118
モデルの概略
東方Projectのキャラクターである霧雨魔理沙とおしゃべりできるモデルです。 japanese-novel-gpt-j-6bをファインチューニングしたモデルになります
使い方
推論のさせかたの一例をGoogleColabに記しましたので参考にしていただけると幸いです。 ｢ユーザー: hogehoge[SEP]魔理沙: ｣といったプロンプトを与えてあげることで、魔理沙とおしゃべりができるようになります。
備考
これは東方Projectの二次創作です。 このファイルを用いて、openrailが使用を制限しているような行為を行うことは、控えてください。
library_name: peft ---
Training procedure
The following bitsandbytes quantization config was used during training:
- quant_method: bitsandbytes
- loadin8bit: False
- loadin4bit: True
- llmint8threshold: 6.0
- llmint8skip_modules: None
- llmint8enablefp32cpu_offload: False
- llmint8hasfp16weight: False
- bnb4bitquant_type: nf4
- bnb4bitusedoublequant: True
- bnb4bitcompute_dtype: bfloat16
Framework versions
- PEFT 0.6.0.dev0