Modelpublic

ramgpt/TECHNOPRAVIN01-Qwen2.5-14B-Valor-GGUF-Q4_K_M

sourceHugging Faceotherupdated 1y agoView on Hugging Face

0likes16downloads

Model Card

TECHNOPRAVIN01-Qwen2.5-14B-Valor.F16.Q4KM.gguf

Overview (EN)

This repository provides a q4_k_m-quantized GGUF file derived from TECHNOPRAVIN01/Qwen2.5-14B-Valor.

Quick Start (llama.cpp)

bash

./build/bin/llama-cli -m TECHNOPRAVIN01-Qwen2.5-14B-Valor.F16.Q4_K_M.gguf -p "Hello"

Quantization

—Format: GGUF
—Method: q4km
—File: TECHNOPRAVIN01-Qwen2.5-14B-Valor.F16.Q4_K_M.gguf
—Size: ~8.37 GB

Provenance

—Base model: TECHNOPRAVIN01/Qwen2.5-14B-Valor

Note: This repo contains inference-only quantized weights. Respect the upstream license and usage terms.

Présentation (FR)

Ce dépôt fournit un fichier GGUF q4_k_m issu de TECHNOPRAVIN01/Qwen2.5-14B-Valor.

Démarrage rapide (llama.cpp)

bash

./build/bin/llama-cli -m TECHNOPRAVIN01-Qwen2.5-14B-Valor.F16.Q4_K_M.gguf -p "Bonjour"

Quantification

—Format : GGUF
—Méthode : q4km
—Fichier : TECHNOPRAVIN01-Qwen2.5-14B-Valor.F16.Q4_K_M.gguf
—Taille : ~8.37 Go

Provenance

—Modèle amont : TECHNOPRAVIN01/Qwen2.5-14B-Valor

Remarque : Ce dépôt contient uniquement des poids quantifiés pour l'inférence. Merci de respecter la licence et les conditions d'utilisation du modèle d'origine.