TilQazyna/Til-vocab-morphbpe-96k-kkrumix-v1

Til-vocab-morphbpe-96k-kkrumix-v1 Қазақ тіліне басымдық берілген tokenizer · Tokenizer с приоритетом казахского · Kazakh-priority tokenizer Қазақша · Русский · English Қазақша Til-vocab-morphbpe-96k-kkrumix-v1 — қазақ, орыс және ағылшын тілдеріне, код пен математика мәтіндеріне арналған көлемі 9.2 МБ byte-level BPE tokenizer. Сөздік көлемі 96 000 токен; қазақ тіліне басымдық берілген. Құрылымы мен өлшемдері Репозиторийде 3 файл бар, негізгі… See the full description on the dataset page: https://huggingface.co/datasets/TilQazyna/Til-vocab-morphbpe-96k-kkrumix-v1.