kunishou/amenokaku-code-instruct
Amenokaku-Code-Instruct Update: 2023/12/27データセットに JaxTon , プロになるJava のコードデータ 180 レコードを追加しました。 概要 コードに特化した5.2KのInstructionデータセットです。 データセットに含まれるデータは商用利用できるラインセンスが付与されたプログラミング学習コンテンツから収集、加工し作成しました(英語のコンテンツは日本語に自動翻訳し、翻訳の不自然な箇所を手動で修正)。 また、ライセンスが明記されていない学習コンテンツについては権利者に個別に連絡を取り、本データセットへの掲載の許諾を得ております。 データセット詳細 指示タスクの内訳としてはコード生成(code_generation)が1050レコード、コードの挙動確認(check_code_behavor)が150レコード、コードのバグ修正(code_fix)が4000レコードになります。 詳細な内訳は以下の通りになります。… See the full description on the dataset page: https://huggingface.co/datasets/kunishou/amenokaku-code-instruct.
Amenokaku-Code-Instruct
Update:
- 2023/12/27 データセットに JaxTon , プロになるJava のコードデータ 180 レコードを追加しました。
概要
- コードに特化した5.2KのInstructionデータセットです。
- データセットに含まれるデータは商用利用できるラインセンスが付与されたプログラミング学習コンテンツから収集、加工し作成しました(英語のコンテンツは日本語に自動翻訳し、翻訳の不自然な箇所を手動で修正)。
- また、ライセンスが明記されていない学習コンテンツについては権利者に個別に連絡を取り、本データセットへの掲載の許諾を得ております。
データセット詳細
指示タスクの内訳としてはコード生成(codegeneration)が1050レコード、コードの挙動確認(checkcodebehavor)が150レコード、コードのバグ修正(codefix)が4000レコードになります。 詳細な内訳は以下の通りになります。 |source name|num record|licence|url| |:----|:----|:----|:----| |データサイエンス100本ノック(構造化データ加工編)(Python解答)|100|MIT|https://github.com/The-Japan-DataScientist-Society/100knocks-preprocess| |データサイエンス100本ノック(構造化データ加工編)(SQL解答)|100|MIT|https://github.com/rootassist/100knocks-preprocess-inSQLandPython-withColab| |画像処理100本ノック|100|MIT|https://github.com/ryoppippi/Gasyori100knock| |言語処理100本ノック2020|100|MIT<br>MIT|(問題) https://github.com/nlp100/nlp100.github.io<br>(解答) https://github.com/upura/nlp100v2020| |Python初学者のためのpandas100本ノック※|100|AmenokakuCode Liscence|https://qiita.com/kunishou/items/bd5fad9a334f4f5be51c| |Python初学者のためのPolars100本ノック※|100|AmenokakuCode Liscence|https://qiita.com/kunishou/items/1386d14a136f585e504e| |100 Numpy Execieses|100|MIT|https://github.com/rougier/numpy-100| |100 Julia Exercises|100|The Unliscence|https://github.com/RoyiAvital/Julia100Exercises| |自作Python100本ノック|100|AmenokakuCode Liscence|https://qiita.com/ahpjop/items/373f807d68044cda1c9b| |Python-for-Beginners-Solve-50-Exercises-Live|50|MIT|https://github.com/garg10may/Python-for-Beginners-Solve-50-Exercises-Live| |R初学者のためのtidyverse100本ノック|100|AmenokakuCode Liscence|https://qiita.com/nekobo/items/cbf32a13637273f229da| |JavaScript Questions|155|MIT|https://github.com/lydiahallie/javascript-questions| |Break-It-Fix-It|4,000|MIT|https://github.com/michiyasunaga/BIFI| |JaxTon|60|Apache-2.0|https://github.com/vopani/jaxton| |プロになるJava|120|AmenokakuCode Liscence|https://nowokay.hatenablog.com/entry/projava17exercise2| ※ 私が過去に作成した学習コンテンツです。
ライセンス
個々のデータのライセンスは収集元のライセンスに従うため、データセット全体では混合ライセンスになります。 また、データ自体にライセンスが明記されておらず個別に権利者に言語モデル学習用途でデータセットへの掲載許諾を取ったデータに関しては AmenokakuCode Licence というライセンスを付与しています。このライセンスは、言語モデルでの学習用途に限り自由にデータを利用することを許可するものになります(そのため、データ自体を販売したり、配布することは認めていません)。
データセットの更新
データセットについては、商用利用可能なプログラミング学習コンテンツを見つけたら今後随時追加していきたいと思います。 もし、有益なコンテンツを見つけたり、自身で作成した学習コンテンツを提供しても良いという方がおりましたら是非ご連絡下さい。
データセット名
Amenokaku は古事記に登場する天迦久神(あめのかくのかみ)という鹿の神様の名前を参考にしました。
Github
https://github.com/kunishou/amenokaku-code-instruct
