tcepi/mbp_pas_model
146
MBP PAS Classification Model
Este modelo é um fine-tune do ModernBERT-base para classificação binária, treinado no dataset tcepi/mbp_pas_dataset.
Descrição do Modelo
- Modelo Base: answerdotai/ModernBERT-base
- Tarefa: Classificação Binária de Texto
- Linguagem: Português (pt)
- Framework: PyTorch + Transformers
Métricas de Performance
Conjunto de Teste
Matriz de Confusão
Relatório de Classificação
precision recall f1-score support
Negativo 0.9929 0.9789 0.9858 142
Positivo 0.9796 0.9931 0.9863 145
accuracy 0.9861 287
macro avg 0.9862 0.9860 0.9861 287
weighted avg 0.9862 0.9861 0.9861 287
Uso
from transformers import AutoTokenizer, AutoModelForSequenceClassification
import torch
# Carregar modelo e tokenizer
tokenizer = AutoTokenizer.from_pretrained("tcepi/mbp_pas_model")
model = AutoModelForSequenceClassification.from_pretrained("tcepi/mbp_pas_model")
# Classificar texto
text = "Seu texto aqui"
inputs = tokenizer(text, return_tensors="pt", truncation=True, max_length=512)
with torch.no_grad():
outputs = model(**inputs)
predictions = torch.softmax(outputs.logits, dim=-1)
predicted_class = torch.argmax(predictions, dim=-1).item()
print(f"Classe predita: {model.config.id2label[predicted_class]}")
print(f"Probabilidades: {predictions.tolist()}")Treinamento
Hiperparâmetros
- Épocas: 5
- Learning Rate: 2e-5
- Batch Size: 8
- Weight Decay: 0.01
- Warmup Ratio: 0.1
- Mixed Precision: FP16
- Optimizer: AdamW
Informações de Treinamento
- Tempo Total: 186.64 segundos
- Samples/segundo: 55.19
- Loss Final: 0.1391
Dataset
O modelo foi treinado usando o dataset tcepi/mbp_pas_dataset.
Limitações
- O modelo foi treinado especificamente para o domínio do dataset MBP/PAS
- Performance pode variar em textos de outros domínios
- Recomenda-se avaliar o modelo antes de usar em produção
