Algocean/algocean-extractor

algocean-extractor

질의와 문서 묶음을 받아 답의 근거 span을 원문 그대로 뽑거나, 없으면 기권하도록 가르치는 LoRA SFT 데이터셋입니다.

RAG / 사내 QA 파이프라인의 근거 추출 노드용입니다. 답을 쓰지 않고, 재료가 어디에 있는지만 가리킵니다.

규모

• —형식: JSONL, messages 3턴 (system / user / assistant)
• —언어: 한국어 약 70% · 영어 약 30%
• —eval은 학습셋과 별도 생성

어디에 쓰나요

• —문서 청크에서 문자 단위 근거 인용이 필요한 추출기
• —“모르면 기권” 정책을 경량 모델에 LoRA로 심을 때
• —프론티어 모델 앞단의 값싼 grounding 필터

어떤 모델에 LoRA 하나요

지식 암기가 아니라 형식·정책 행동용입니다.

• —베이스: 1B ~ 9B 인스트럭트 모델
• —rank 8~16, alpha 16~32, lr 1e-4~2e-4, epochs 2~3
• —loss는 assistant 턴만 (user에 긴 문서가 있음)

장문 tier (T3·T4)는 컨텍스트가 충분한 모델에만 넣으세요. 잘라 넣으면 span이 잘려 틀린 라벨을 학습합니다.

사용

from datasets import load_dataset

ds = load_dataset("Algocean/algocean-extractor", data_files="extractor.jsonl", split="train")
ev = load_dataset("Algocean/algocean-extractor", data_files="extractor.eval.jsonl", split="train")

• —학습 입력: messages 만 (chat template)
• —메타(id, industry, tier 등)는 필터용 — 학습에 넣지 마세요

assistant 출력 (요약)

{
  "evidence": [{"document_id": "...", "span": "원문 그대로", "trust": "official|team|personal"}],
  "abstain": false,
  "reason_code": "SUPPORTED"
}

reason_code: SUPPORTED / NO_EVIDENCE / DISTRACTOR_ONLY / CONFLICTING span은 user 메시지 안 원문과 문자 단위로 일치해야 합니다.

식별자·문서 id는 중립 코드(mNN, doc-NNNN, Brand-* 등)로 정규화되어 있다. 학습에는 messages만 쓴다.

라이선스

Apache-2.0