ormosiaora/SocialScraperApp
0
Topic Analysis App (LDA + BERTopic-lite) 🔍
这是一个面向非编程用户的 Streamlit 文本主题分析工具,支持:
- LDA(统计主题模型)
- BERTopic-lite(轻量语义主题:TF-IDF + SVD + KMeans)
- 时间演化桑基图(可选时间列)
🌟 主要功能
- 文件上传:支持上传 CSV / Excel。
- 主题分析:LDA 与 BERTopic-lite 两种主题模型。
- 可视化与导出:主题词、主题分布、距离图、桑基图、导出带主题标签的 CSV。
🚀 快速开始 (学生/初学者指南)
如果你想直接分析已有的文档,请遵循以下步骤:
1. 环境准备
确保你的电脑已安装 Python 3.11(推荐)。
2. 克隆项目并安装依赖
git clone <你的-github-仓库链接>
cd SocialScraperApp
. python3.11 -m venv .venv311
. .venv311/bin/activate # Windows 用户使用: .venv311\Scripts\activate
pip install -r requirements.txt3. 运行应用
streamlit run app.py4. 上传分析
- 启动后,在侧边栏或主界面选择 "Upload File" 标签。
- 拖入你的 CSV 或 Excel 文件。
- 提示:文件应包含名为 `content` 或 `text` 的列。
- 点击 "Analyze Uploaded Data" 即可进入预处理和主题分析流程。
📁 目录结构
app.py: Web 界面核心代码。utils/io_utils.py: 上传文件解析。utils/topic_models.py: LDA / BERTopic-lite / 桑基图数据生成。scripts/xhs_mcp_collect.py: 本地小红书收集脚本(CDP 连接已登录 Chrome)。requirements.txt: 项目依赖清单。docs/INSTALL.md: 本地/云端安装与部署说明。docs/FEATURES.md: 功能拆解与模块对应关系。docs/XHS_MCP_COLLECTOR.md: 小红书收集工具使用说明。
📝 注意事项
- 推荐使用 Python 3.11 运行(兼容性更稳定)。
