somosnlp-hackathon-2022/itama
17
Generación de respuestas a preguntas AMA para profesiones
El modelo presentando a continuación se ha generado a partir del dataset de preguntas AMA desde Reddit (ITAMA-DataSet). En especial, se pueden realizar preguntas sobre las siguientes profesiones: medico, psicologo, ciencias, ingeniero, profesor, jefe y abogado.
Modo de uso
Al ser un modelo generado a partir de mT5, es necesario incluir como prefijo la profesión y luego la sentencia de la forma:
<profesion>: <pregunta>Algunos ejemplos de preguntas:
Parámetros usados en el entrenamiento
model_args.num_train_epochs = 10
model_args.overwrite_output_dir = True
model_args.fp16 = False
model_args.use_multiprocessing = False
model_args.use_multiprocessing_for_evaluation = False
model_args.use_multiprocessed_decoding = False
model_args.learning_rate=0.001
model_args.train_batch_size = 8
model_args.eval_batch_size = 8
model_args.adafactor_beta1 = 0
model_args.length_penalty=1.5
model_args.max_length=100
model_args.max_seq_length = 100