weblab-GENIAC/aya-ja-nemotron-dpo-masked

aya-ja-nemotron-dpo-masked LLMの推論能力を向上させるためのデータセット CohereForAI/aya_datasetから日本語パートを抜粋 deepinfraのnvidia/Nemotron-4-340B-Instructで応答を再生成 2024年8月現在ではnvidia/Nemotron-4-340B-Instructは使用不可 5,651件(6,259件の内608件削除) ルールベース・機械学習ベースのフィルタリング処理の後、目視確認を行い、個人情報が含まれ得るサンプルについては全件削除対応を実施 Format { "idx": インデックス, "prompt": 日本語の指示文, "chosen": chosenの応答文, "rejected": rejectedの応答文, "chosen_model": chosenとしたモデル, "rejected_model":… See the full description on the dataset page: https://huggingface.co/datasets/weblab-GENIAC/aya-ja-nemotron-dpo-masked.