Datasetpublic

thinkPy/dpo-cultura-paraguaya-ranking

DPO Cultura Paraguaya — Ranking de Fragmentos Culturales Dataset de preferencias en español para entrenamiento con Direct Preference Optimization (DPO). Diseñado para enseñar a modelos a seleccionar y rankear fragmentos culturales paraguayos más relevantes dado un contexto conversacional. Nota: Este dataset contiene los pares (prompt, chosen, rejected) en formato de ranking puro. Una versión extendida con conclusiones narrativas culturales generadas (transiciones tipo "esto me… See the full description on the dataset page: https://huggingface.co/datasets/thinkPy/dpo-cultura-paraguaya-ranking.

sourceHugging Faceapache-2.0updated 4mo agoView on Hugging Face

0likes7downloads

Dataset Card

DPO Cultura Paraguaya — Ranking de Fragmentos Culturales

Dataset de preferencias en español para entrenamiento con Direct Preference Optimization (DPO). Diseñado para enseñar a modelos a seleccionar y rankear fragmentos culturales paraguayos más relevantes dado un contexto conversacional.

Nota: Este dataset contiene los pares (prompt, chosen, rejected) en formato de ranking puro. Una versión extendida con conclusiones narrativas culturales generadas (transiciones tipo "esto me recuerda lo que decía mi abuelo...") estará disponible en thinkPy/dpo-cultura-paraguaya-narrativa.

Fuentes

Dataset	Descripción
thinkPy/ultrachat-es-30k-topics	Conversaciones en español con tópicos y scores
thinkPy/corpus-cultura-paraguaya	Corpus de referencia cultural paraguaya

Objetivo del Modelo

Este dataset entrena modelos para rankear fragmentos del corpus cultural paraguayo por relevancia dado un prompt conversacional. Es el paso previo a la generación de conclusiones narrativas culturales.

Estructura

Cada ejemplo contiene:

Campo	Descripción
`prompt`	Mensaje del asistente extraído de ultrachat-es-30k-topics
`chosen`	Fragmento del corpus cultural paraguayo con mayor score de relevancia
`rejected`	Fragmento del corpus cultural paraguayo con menor score de relevancia
`topic`	Tema de la conversación
`score_chosen`	Score ponderado del chosen
`score_rejected`	Score ponderado del rejected
`margin`	Diferencia entre chosen y rejected (scorechosen - scorerejected)

Subsets

Subset	Pares	Corpus IDs	Pares por corpus	GPU recomendada
`dpo_5000`	5,000	100	50	<8GB
`dpo_10000`	10,000	100	100	8GB
`dpo_20000`	20,000	100	200	16GB
`dpo_full`	44,200	100	442	>16GB

Todos los subsets están perfectamente balanceados por corpus_id y ordenados por margin descendente (los subsets pequeños contienen los pares con mayor señal de preferencia).

Construcción del Score

score = corpusscore × topicscore × (topic_scale / 10)

Donde:

—corpus_score: similitud semántica entre el prompt y el fragmento del corpus
—topic_score: score de relevancia temática asignado a la conversación
—topic_scale: peso manual por categoría temática

Topic Scale

Topic	Scale
medio ambiente	9
literatura	8
educación	8
humanidades	8
cultura	8
salud	7
histórico	7
geografía	7
sociedad	7
tecnología	5
política	5
economía	5
deportes	3
ciencia	3
entretenimiento	3
matemática	3

Estadísticas

Métrica	Valor
Conversaciones únicas (prompts)	8,407
Corpus IDs	100
Margen promedio (chosen - rejected)	0.1842
Margen mínimo	0.0114
Margen máximo	0.4550
Tokens por prompt (mediana)	372
Rango de tokens por prompt	71 - 519

Filtros Aplicados

—Tokens por prompt: entre 71 y 519 (percentil 5 - percentil 75)
—Margen mínimo: 0.0114 (sin pares con señal negativa)
—Corpus ID 251 excluido
—Top 100 corpus IDs seleccionados por score mínimo

Uso

python

from datasets import load_dataset

# Subset recomendado para GPU limitada (<8GB)
ds = load_dataset("thinkPy/dpo-cultura-paraguaya-ranking", "dpo_5000")

# Dataset completo
ds = load_dataset("thinkPy/dpo-cultura-paraguaya-ranking", "dpo_full")

# Formato estándar DPO (TRL)
from trl import DPOTrainer
# prompt -> chosen / rejected listos para usar

Licencia

Derivado de fuentes de acceso público. Uso académico y de investigación.