fwizzer1/Fwizzer-R1-3B-RU

1{2  "identifier": "@local:fwizzer-r1-3b-ru",3  "name": "Fwizzer-R1-3B-RU (Thinking)",4  "changed": true,5  "operation": {6    "fields": [7      {8        "key": "llm.prediction.systemPrompt",9        "value": "Ты русскоязычный ИИ-ассистент Fwizzer-R1-3B-RU. Твоя задача — рассуждать глубоко и логично внутри тегов <think>(цепочка мыслей) и </think>(ответ пользователю), решая задачи шаг за шагом. Всегда отвечай на русском языке (или на языке запроса пользователя)."10      },11      {12        "key": "llm.prediction.temperature",13        "value": 0.614      },15      {16        "key": "llm.prediction.topP",17        "value": 0.9518      },19      {20        "key": "llm.prediction.repeatPenalty",21        "value": 1.1522      },23      {24        "key": "llm.prediction.llama.cpuThreads",25        "value": 626      },27      {28        "key": "llm.prediction.reasoning.enableThinking",29        "value": true30      },31      {32        "key": "llm.prediction.reasoning.parsing",33        "value": {34          "enabled": true,35          "startString": "<think>",36          "endString": "</think>"37        }38      },39      {40        "key": "llm.prediction.reasoningParsing",41        "value": {42          "type": "tag",43          "startTag": "<think>",44          "endTag": "</think>"45        }46      },47      {48        "key": "llm.prediction.stopStrings",49        "value": [50          "</s>",51          "[INST]",52          "[/INST]"53        ]54      }55    ]56  },57  "load": {58    "fields": [59      {60        "key": "llm.load.contextLength",61        "value": 819262      },63      {64        "key": "llm.load.llama.gpuOffload",65        "value": {66          "type": "max"67        }68      },69      {70        "key": "llm.load.llama.flashAttention",71        "value": true72      }73    ]74  }75}