Kalatxori/Latxa-Qwen3.5-4B-GGUF

Latxa-Qwen3.5-4B GGUF multimodala

Kalatxori/Latxa-Qwen3.5-4B ereduaren GGUF bihurketa.

Fitxategiak

• —Latxa-Qwen3.5-4B-Q4_K_M.gguf: eredu nagusia, Q4KM formatuan kuantizatuta.
• —mmproj-Latxa-Qwen3.5-4B-BF16.gguf: ikusmen-proiektagailu multimodala, BF16 formatuan.

llama.cpp

Bihurketa commit honekin egin da:

5d16e81dd9896355d36b363bbf786abaa8f6995f

Adibidea:

llama-server \
  -m Latxa-Qwen3.5-4B-Q4_K_M.gguf \
  --mmproj mmproj-Latxa-Qwen3.5-4B-BF16.gguf \
  -c 8192

Jatorrizko eredua eta haren lizentzia dagozkien egileei dagozkie. Biltegi honek llama.cpp-rekin exekutatzeko bihurketa-fitxategiak jasotzen ditu.