CoolFace
6 results

looplm

inallmodelsdatasetsappsagentspeopleprojects

Datasets

All datasets matching “looplm”
miletcxl /looplm LoopLM：大模型内生安全增强系统 1. 为什么需要做这套系统 本地大模型部署后通常是静态的，而真实用户的提问与场景持续变化。模型在使用过程中会暴露新的错误与幻觉，但这些问题往往不会被自动记录或修复。久而久之，模型只能“越来越差”，缺少自我升级的机制。 因此，我们需要一套系统，让本地大模型在部署之后具备持续纠错、理解真实使用场景、并逐步改善自身表现的能力。 2. 系统整体做的事情 实时监测模型输出中的错误与幻觉包括逐步推理过程、中间步骤、多模态理解等。 自动记录错误样本，形成结构化数据将问题样本与模型输出整理成可追踪的训练数据。 自动清洗、筛选样本，构建持续增长的安全数据集形成可用于训练的高质量样本池。 使用数据对安全模块进行轻量微调主模型参数保持冻结，仅更新 probe 或 LoRA adapter 等小模块。 最终形成自进化闭环：模型使用 → 发现错误 → 记录样本 → 训练安全模块 → 模型持续优化。 3. 技术创新点 流式错误检测（step-level /… See the full description on the dataset page: https://huggingface.co/datasets/miletcxl/looplm.text-classification0 likes6 downloads8mo agoHugging Face