ifis/BETO-finetuned-ner-3

NER-finetuned-BETO

Este es un modelo fine-tuned de NazaGara/NER-fine-tuned-BETO con el dataset conll2002. Los resultados fueron los siguientes:

• —Loss: 0.2820
• —Precision: 0.8773
• —Recall: 0.8761
• —F1: 0.8767
• —Accuracy: 0.9812

Model description

Es un modelo de secuencias basado en BETO para la tarea de etiquetado de secuencias (NER - Named Entity Recognition) y ajustado (fine-tuned). Utiliza transformadores para identificar y clasificar entidades nombradas en el texto.

Intended uses & limitations

Intented uses:

• —Reconocimiento de entidades nombradas en textos en español.
• —Aplicaciones en procesamiento de lenguaje natural para extraer información estructurada de documentos no estructurados.

Limitations:

• —El modelo puede tener un rendimiento reducido en textos que contienen lenguaje coloquial o jerga.
• —Su precisión depende en gran medida de la calidad y diversidad de los datos de entrenamiento.
• —El modelo puede no generalizar bien a dominios o contextos muy diferentes de los datos de entrenamiento.

Training and evaluation data

Training Data:

• —El modelo fue entrenado utilizando un conjunto de datos etiquetado con entidades nombradas en español.
• —Los datos de entrenamiento contienen diversos ejemplos de texto con diferentes tipos de entidades, como nombres de personas, organizaciones, y ubicaciones.

Evaluation Data:

• —Los datos de evaluación se seleccionaron para medir el rendimiento del modelo en un conjunto de prueba diverso y representativo.
• —Los resultados de la evaluación incluyen métricas como precisión, recall, F1-score y accuracy.

Training procedure

Training hyperparameters

The following hyperparameters were used during training:

• —eval_strategy="steps",
• —eval_steps=250,
• —save_strategy="epoch",
• —learning_rate=3e-5,
• —numtrainepochs=20,
• —perdevicetrainbatchsize=12,
• —weight_decay=0.1,

Training results

[13880 / 13880, Epoch 20/20]

Framework versions

• —Transformers 4.40.2
• —Pytorch 2.2.1+cu121
• —Datasets 2.19.1
• —Tokenizers 0.19.1