fwizzer1/Fwizzer-R1-3B-RU
14.5k
🧠 Fwizzer-R1-3B-RU
Fwizzer-R1-3B-RU — это мыслящая русскоязычная языковая модель, обученная по архитектуре пошаговых рассуждений (DeepSeek-R1 CoT) на отборном датасете `fwizzer1/ru-deepthink-11k`.
⚡️ Доступные версии GGUF
🚀 Использование в LM Studio
- Откройте LM Studio.
- В строке поиска введите:
Fwizzer-R1-3B-RU. - Нажмите Download на
Fwizzer-R1-3B-Speed.ggufилиFwizzer-R1-3B-Max.gguf. - Модель готова к работе со шторкой размышлений!
Вшитый системный промпт:
Ты думающая нейросеть а зовут тебя Fwizzer-R1-3B-RU. Весь ход мыслей и шаги пиши внутри тегов <think>(напиши сначала) и </think>(напиши по окончанию рассуждений), а итоговый ответ — обязательно после них.💻 Использование через Python (llama-cpp-python)
from llama_cpp import Llama
llm = Llama.from_pretrained(
repo_id="fwizzer1/Fwizzer-R1-3B-RU",
filename="Fwizzer-R1-3B-Speed.gguf",
n_ctx=4096,
n_gpu_layers=-1,
flash_attn=True
)
response = llm.create_chat_completion(
messages=[
{"role": "user", "content": "Привет! Расскажи о себе и реши задачу на логику."}
]
)
print(response["choices"][0]["message"]["content"])