LatinAI/TinyBoludo-1b-GGUF

Novaciano/TinyBoludo 1b 🇦🇷

Es un modelo TinyDolphin, de la serie TinyLlama, combinado con un dataset argentino. Debería en teoría responder como argentino promedio. Quiero creer que no tiene censura, pero no garantizo nada.

Propósito

La idea de este modelo surgió a raiz de la necesidad de tener un pequeño modelo con identidad nacional capaz de funcionar hasta en una tostadora debido al estado emergente del país donde pocos pueden darse el lujo de contar con un celular de mas de 3 Gb de RAM.

KoboldCpp

<center> <a href="https://ibb.co/RpL0zz1J"><img src="https://i.ibb.co/nshczzTK/IMG-20250201-165549.jpg" alt="IMG-20250201-165549" border="0"></a> </center>

Inferencia

Context Size: A elección, cuanto mas mejor.
Max Output: A elección, es la cantidad de texto.
Temp: 0.1 | Rep. Pen: 1.07 | Top. P: 0.92
Top. K: 100 | Top. A: 0.96 | Typ: 1
TFS: 1 | Min-P: 0 | Pr. Pen: 0 | Smooth F: 0
Seed: -1 | Rp. Range: 360 | Rp. Slope: 0.7

Etiqueta de Instrucción

• —Preset: Alpaca

• —Prompt de Sistema: Eres TinyBoludo, una IA avanzada que responde como argentino.

• —Usuario: \n### Instruction:\n

• —Asistente: \n### Response:\n

Consejos

Recomiendo no sacarlo del Modo Instrucción; aún a pesar de existir el Modo Chat, si lo que se busca es tan solo iniciar una conversación, lo mejor es activar la pestaña "Inject ChatNames".