datasets
Training and evaluation data, with the modality, task and licence stated up front. Listed live from the Hugging Face Hub.
arafusion-arabic-packed-morphbpe-100pctTil-vocab-morphbpe-96k-kkrumix-v1
Til-vocab-morphbpe-96k-kkrumix-v1
Қазақ тіліне басымдық берілген tokenizer · Tokenizer с приоритетом казахского · Kazakh-priority tokenizer
Қазақша · Русский · English
Қазақша
Til-vocab-morphbpe-96k-kkrumix-v1 — қазақ, орыс және ағылшын тілдеріне, код пен математика мәтіндеріне арналған көлемі 9.2 МБ byte-level BPE tokenizer. Сөздік көлемі 96 000 токен; қазақ тіліне басымдық берілген.
Құрылымы мен өлшемдері
Репозиторийде 3 файл бар, негізгі… See the full description on the dataset page: https://huggingface.co/datasets/TilQazyna/Til-vocab-morphbpe-96k-kkrumix-v1.sozkz-corpus-tokenized-kk-morphbpe256k-v1sozkz-corpus-tokenized-kk-morphbpe100k-v1