CoolFace
Datasetpublic

yil384/sift-archive

Sift — 研究数据归档 Sift 是一个 CPU/DDR-primary + GPU-assisted 的分层内存 MoE + 长上下文推理系统研究项目 （用便宜的大容量 DDR/CXL 承载放不进 HBM 的大型稀疏 MoE + 长上下文；头条指标是 tokens-per-dollar / tokens-per-Joule）。 本仓是该项目自产实验数据的归档，用于把数据从本地磁盘卸下来。 这里没有模型权重 —— 模型是上游公开 GGUF，见 MODELS.manifest.json + restore_models.sh。 取数据 hf download yil384/sift-archive --repo-type dataset fetch_archive.sh --local-dir . bash fetch_archive.sh # 列出仓里有什么 bash fetch_archive.sh ssd2/traces/v2lite #… See the full description on the dataset page: https://huggingface.co/datasets/yil384/sift-archive.

sourceHugging Facecc-by-4.0updated 3d agoView on Hugging Face
0likes57downloads
Dataset Card

Sift — 研究数据归档

Sift 是一个 CPU/DDR-primary + GPU-assisted 的分层内存 MoE + 长上下文推理系统研究项目 （用便宜的大容量 DDR/CXL 承载放不进 HBM 的大型稀疏 MoE + 长上下文；头条指标是 tokens-per-dollar / tokens-per-Joule）。

本仓是该项目自产实验数据的归档，用于把数据从本地磁盘卸下来。 这里没有模型权重 —— 模型是上游公开 GGUF，见 MODELS.manifest.json + restore_models.sh。

取数据

bash
hf download yil384/sift-archive --repo-type dataset fetch_archive.sh --local-dir .
bash fetch_archive.sh                      # 列出仓里有什么
bash fetch_archive.sh ssd2/traces/v2lite   # 取一个目录（默认回原始绝对路径）
bash fetch_archive.sh ssd2 nvme            # 全量 ~40 GB

取模型（不在本仓，直取上游）

bash
hf download yil384/sift-archive --repo-type dataset MODELS.manifest.json restore_models.sh --local-dir .
bash restore_models.sh              # 全部 5 个 GGUF，~100 GB -> /nvme2n1/yichen/sift/models
bash restore_models.sh v2lite-q4    # 只取一个

restore_models.sh 用 manifest 里 pin 死的 revision SHA 下载并逐文件 sha256 校验，保证与当初实验用的字节完全一致。 manifest 于 2026-09-22 逐文件验证过上游仍可取（5/5 PASS）。

内容

前缀文件大小内容
ssd2/traces/inputs392.3 MBM1 trace 输入语料：wikitext / pg19 / gsm8k / humaneval 全文 + 64 KiB chunk 切片
ssd2/traces/v2lite155.36 GiBM1 专家路由 trace — DeepSeek-V2-Lite Q4KM
ssd2/traces/v2lite_d146.33 GiBM1 Δ=1 预取窗口实验 trace
ssd2/traces/qwen3143.41 GiBM1 专家路由 trace — Qwen3-30B-A3B Q4KM（9.5× 偏斜、热度秩稳定 0.90–0.96 的来源）
ssd2/traces/mixtral140.11 GiBM1 专家路由 trace — Mixtral-8x7B Q4KM（「L14 64%」主张未复现、实测 29–32% 的来源）
ssd2/traces/r140.06 GiBM1/M2 专家路由 trace — DeepSeek-R1 671B Q4KM ⚠ 不可重采（见下）
ssd2/traces/gateA_smoke.bin10.40 GiB门 A 冒烟 trace
nvme/traces2517.52 GiBM3 KQ trace 扩到 16K / 32K 上下文（mixtral/qwen3/v2lite × 4 workload × 2 深度）
nvme/qkdump_niah544.27 GiBM3b NIAH 场景 Q/K 原始 dump（每次 attention 调用一个 81 MiB 文件）
nvme/qkdump_wiki272.14 GiBM3b wikitext 场景 Q/K dump，泛化交叉验证用
nvme/qkdump4316 KBM3b Q/K dump 的 prompt / token / 日志
nvme/m3b_pred1241 MBM3b 预测器实验：niah_trace.bin + 分析脚本副本
nvme/tmp46.9 MBM3b 中间件：v2lite_interim.predbasis（SVD 基）、NIAH 失败样例
合计21739.64 GiB

ARCHIVE_MANIFEST.json 里有逐文件的 sha256 + 原始绝对路径 + 产出脚本。

两处需要知道的坑

  1. 1.`ssd2/traces/r1` 不可重采。 它的源模型 DeepSeek-R1 671B Q4KM（404 GB）已于 2026-08-31 被本地清理删除， 且清理脚本未记录上游 repo id。M2 里程碑的 671B 数字与 results/m2/r1.place 放置表（7.1× 偏斜）都源于这份 trace。
  2. 2.Intel MLC v3.12 未收录。 /nvme2n1/yichen/sift/tools/mlc 的 redist.txt 声明二进制受 Intel EULA 约束， 故不转发到公开仓；可从 Intel 官网重取（far-memory 延迟标定用，见 scripts/far_calibrate.sh）。

输入语料来源

ssd2/traces/inputs 派生自公开数据集 WikiText、PG-19、GSM8K、HumanEval，由 scripts/make_trace_inputs.py 切片产生。 二进制 trace 记录的是模型内部的专家路由决策与 Q/K 统计，不含上述公开语料以外的内容。