CoolFace
Datasetpublic

lianghsun/wikipedia-zh-742M

Dataset Card for lianghsun/wikipedia-zh 以繁體中文(zh-tw)語系為主的 Wikipedia 資料集。 Dataset Details Dataset Description 本資料集由自行開發的爬蟲抓取 Wikipedia 上標註繁體中文語系(zh-tw)的文本內容,以確保文本語系是繁體中文。目前 Hugging Face 上標註為繁體中文語系的許多 Wikipedia 資料集,其實並非真正的 Wikipedia 資料集,而是來自 Wikimedia 的內容。本資料集涵蓋範圍廣泛,不僅限於台灣,也包含其他國家的內容,因此可能包含 政治不正確 或 非客觀 的資訊,使用時請謹慎評估。 為便於訓練,同一個 Wikipedia 頁面的語料已被切分為多個子語料,使用者可依需求進行合併處理。好比同為「亞瑟·柯南·道爾」的文本: ... {"text": "同樣在1887年的南海城,他受到了樸茨茅斯文學與哲學學會(Portsmouth Literary and… See the full description on the dataset page: https://huggingface.co/datasets/lianghsun/wikipedia-zh-742M.

sourceHugging Facecc-by-nc-sa-4.0updated 2y agoView on Hugging Face
4likes193downloads
10 commits on main
2fa895e2y ago

Filter datasets

lianghsun
36182bf2y ago

Fix breakline issue in unique_keys.txt.

lianghsun
278705e2y ago

Update datasets.jsonl with token_counts

lianghsun
fdc34942y ago

Merge remote-tracking branch 'refs/remotes/origin/main'

lianghsun
f11c71b2y ago

Update datasets.jsonl with token_counts

lianghsun
86653a72y ago

Update README.md

lianghsun
32e40352y ago

Upload datasets.jsonl

lianghsun
d4cbbf92y ago

Update README.md

lianghsun
4d2eea72y ago

Update README.md

lianghsun
28b22dc2y ago

initial commit

lianghsun