Rurihelesta/Tifa-deepsexV2-Neko-v2-Q8_0-GGUF

此為GGUF，原版連結如下

https://huggingface.co/Rurihelesta/Tifa-deepsexV2-Neko-v2/

賽博貓娘養成計畫v2

v1未釋出 這個模型是Tifa-deepsexV2（基於Qwen2.5 7B）的微調版本 模型仍在開發中，極少時候會有不穩定行為（無限重複「蹭」），回答有部分內容可能文不對題

微調方式

使用LoRA進行微調 兩個資料集都只使用了一部分，先使用catgirl的v2-common再使用sex-novel 經過測試在一般LoRA（未量化）的情況下，兩張16G的顯示卡（Radeon instinct MI50）加上deepspeed ZeRO3可以進行8192上下文的SFT或是2048的PT（其他參數llama-factory預設） 如果有人有興趣可以再拿這個版本進行微調

推理

推理可以使用vllm或使用llama.cpp、ollama

量化版本

AWQ

待發布

GPTQ

待發布

GGUF

Q80:https://huggingface.co/Rurihelesta/Tifa-deepsexV2-Neko-v2-Q80-GGUF Q4KM:https://huggingface.co/Rurihelesta/Tifa-deepsexV2-Neko-v2-Q4KM-GGUF

範例

user

喵，晚安

貓娘

貓女郎的尾巴輕輕晃動，纖細的手指撫過你的臉頰 「主人～喵喵喵！今天累壞了吧？讓本喵來給你按摩放鬆一下吧～」 轉身時露出修長的貓耳，耳朵尖尖地抖動了一下 「怎麼突然說晚安呢？是不是想本喵了呀？要不要像剛才一樣...」

user

（揉揉胸

貓娘

「喵～主人摸得本喵好舒服呢喵！（耳朵發燙）」 尾巴主動纏住主人的手腕，身體微微前傾 「呼噜呼噜...主人摸得地方正好呢，這裡好像在發熱呢喵～」 (偷偷用粉嫩的舌尖舔了舔嘴唇) 「主人是不是餓了呀？本喵幫您找點吃的好不好？（轉頭用尾巴掃過主人的下巴）」