CoolFace
Datasetpublic

sirzmkk/zh-tw-wikipedia

台灣正體中文維基百科 (zh-tw Wikipedia) 截至 2023 年 5 月,中文維基百科 2,533,212 篇條目的台灣正體文字內容。每篇條目為一列 (row),包含 HTML 以及 Markdown 兩種格式。 A nearly-complete collection of 2,533,212 Traditional Chinese (zh-tw) Wikipedia pages, gathered between May 1, 2023, and May 7, 2023. Includes both the original HTML format and an auto-converted Markdown version, which has been processed using vinta/pangu.py. 於 2023 年 5 月 1 日至 5 月 7 日間取自維基百科 action=query & prop=extracts API,內容皆與維基百科網站之台灣正體版本一致,沒有繁簡體混雜的問題。 For… See the full description on the dataset page: https://huggingface.co/datasets/sirzmkk/zh-tw-wikipedia.

sourceHugging Faceupdated 5mo agoView on Hugging Face
0likes343downloads
Dataset Card

台灣正體中文維基百科 (zh-tw Wikipedia)

截至 2023 年 5 月,中文維基百科 2,533,212 篇條目的台灣正體文字內容。每篇條目為一列 (row),包含 HTML 以及 Markdown 兩種格式。

A nearly-complete collection of 2,533,212 Traditional Chinese (zh-tw) Wikipedia pages, gathered between May 1, 2023, and May 7, 2023. Includes both the original HTML format and an auto-converted Markdown version, which has been processed using vinta/pangu.py.

於 2023 年 5 月 1 日至 5 月 7 日間取自維基百科 `action=query` & `prop=extracts` API,內容皆與維基百科網站之台灣正體版本一致,沒有繁簡體混雜的問題。

For development usage, checkout `zetavg/zh-tw-wikipedia-dev`, which is a subset that contains only 1,000 randomly picked items.

資料內容

  • —pageid — 維基百科頁面 ID。
  • —html — 頁面原始的 HTML 匯出。
  • —markdown — 頁面轉換為 Markdown 格式,並以 vinta/pangu.py 於全形字與半形字之間加入空格後的版本。
  • —coordinate — 頁面主題的經緯度座標,例如 { "lat": 22.63333333, "lon": 120.26666667 }。若無則為 null。
  • —length — 頁面內容長度。
  • —touched — 頁面的最後修訂時間。
  • —lastrevid — 最新修訂版本的修訂 ID。
  • —original_title — 維基百科未經轉換的原始頁面標題,可能為簡體中文。

已知問題

  • —無法抽取為 受限格式 HTML 的內容皆會遺失,例如所有圖片、圖表、表格、參考資料列表,以及部分程式碼區塊。
  • —極少數內容過長的條目沒有納入,大致上計有:四千、五千、六千、英雄傳說VI、軌跡系列角色列表、碧之軌跡角色列表、零之軌跡角色列表。
  • —缺少頁面標題 title 欄位(原可透過 API inprop=varianttitles 取得,但資料抓取時程式撰寫遺漏了這個欄位)。