thaidinhz1/rag-vietnamese
Hệ thống RAG cho Tài liệu Tiếng Việt
Hệ thống RAG (Retrieval-Augmented Generation) cho tài liệu tài chính tiếng Việt — hybrid BM25+vector search, cross-encoder reranking, Contextual Retrieval và ColPali visual retrieval.
Kết quả nổi bật: RAGAS eval 27 câu hỏi — Faithfulness 0.737, Answer Relevancy 0.948, Context Recall 0.748, Average 0.811; ColPali vượt trội text RAG trên trang bảng số liệu (0.90 vs 0.80).
Demo trực tuyến
🔗 Live demo: huggingface.co/spaces/thaidinhz1/rag-vietnamese
🔗 Source code: github.com/thaidinh1206/rag-vietnamese
Lưu ý: Lần đầu tải có thể mất ~60s (cold start). Nginx proxy của HF Spaces free tier buffer SSE — streaming hoạt động đúng trên local/VPS nhưng hiển thị theo batch trên HF Spaces.
Tính năng
Kiến trúc
Pipeline A — Text RAG (production)
flowchart TD
classDef doc fill:#dbeafe,stroke:#3b82f6,color:#1e40af,font-weight:bold
classDef process fill:#dcfce7,stroke:#16a34a,color:#14532d
classDef store fill:#fef3c7,stroke:#d97706,color:#92400e,font-weight:bold
classDef ai fill:#f3e8ff,stroke:#9333ea,color:#581c87,font-weight:bold
classDef output fill:#ccfbf1,stroke:#0d9488,color:#134e4a,font-weight:bold
subgraph INGEST["📥 Ingest (Offline)"]
A["Tài liệu PDF / Ảnh"] --> B["Parser\npypdf / EasyOCR"]
B --> C["Chunker"]
C -->|có contextual| CR["Contextual Retrieval\nLLM prepend context"]
C -->|không có contextual| EMB
CR --> EMB["Gemini Embedding\ngemini-embedding-001 · 3072-dim"]
EMB --> VDB[("Qdrant Cloud\nvector store")]
C --> BM25[("BM25 Index\nunderthesea tokenizer")]
end
subgraph QUERY["🔍 Query (Online)"]
Q["Câu hỏi"] --> QR["Query Rewriter\nllama-3.3-70b"]
QR --> QE["Embed Query"]
QE --> VS["Vector Search"]
QE --> BS["BM25 Search"]
VDB --> VS
BM25 --> BS
VS --> RRF["RRF Fusion"]
BS --> RRF
RRF --> RE["Reranker\nbge-reranker-v2-m3"]
RE --> LLM["LLM · Groq\nllama-3.3-70b-versatile"]
LLM --> ANS["Câu trả lời + Trích dẫn"]
end
class A doc
class B,C process
class CR,EMB,QR,QE,RE,LLM ai
class VDB,BM25 store
class VS,BS,RRF process
class Q doc
class ANS outputPipeline B — ColPali Visual Retrieval (thực nghiệm so sánh)
flowchart TD
classDef doc fill:#dbeafe,stroke:#3b82f6,color:#1e40af,font-weight:bold
classDef process fill:#dcfce7,stroke:#16a34a,color:#14532d
classDef store fill:#fef3c7,stroke:#d97706,color:#92400e,font-weight:bold
classDef ai fill:#f3e8ff,stroke:#9333ea,color:#581c87,font-weight:bold
classDef output fill:#ccfbf1,stroke:#0d9488,color:#134e4a,font-weight:bold
subgraph INGEST["📥 Ingest (Offline)"]
A["Trang PDF"] --> B["Render ảnh\npypdfium2 · DPI=100"]
B --> C["ColPali v1.2\nPaliGemma + LoRA · 128-dim patches"]
C --> D[("Qdrant Local\nmulti-vector MaxSim")]
end
subgraph QUERY["🔍 Query (Online)"]
Q["Câu hỏi"] --> QE["Encode Query\nColPali text encoder"]
D --> S["MaxSim Search\n∑ max cosine similarity"]
QE --> S
S --> R["Top-k trang PDF"]
end
class A,Q doc
class B,S process
class C,QE ai
class D store
class R outputCông nghệ sử dụng
Dữ liệu
- PDF: Báo cáo tài chính doanh nghiệp Việt Nam (niêm yết HOSE, HNX, UPCOM)
- Ảnh: Bộ dữ liệu MC-OCR — hóa đơn bán lẻ tiếng Việt (EasyOCR GPU, ingest offline)
Cài đặt nhanh (Docker)
# 1. Clone repo
git clone https://github.com/thaidinh1206/rag-vietnamese.git
cd rag-vietnamese
# 2. Tạo file .env
cp .env.example .env
# Thêm API keys: GOOGLE_API_KEY, GROQ_API_KEY
# 3. Chạy
docker-compose up
# 4. Mở trình duyệt
# http://localhost:8000Cài đặt local
python -m venv venv
venv\Scripts\activate
pip install -r requirements.txtTạo file .env:
GOOGLE_API_KEY=...
GROQ_API_KEY=...# Ingest tài liệu
python ingest.py pdf # PDF (text pipeline)
python ingest.py pdf --contextual # PDF với Contextual Retrieval
python ingest.py images # Ảnh (yêu cầu GPU)
python ingest_colpali.py # PDF pages dạng ảnh (ColPali pipeline)
# Chạy API
uvicorn api:app --reload --port 8000
# Chế độ CLI
python main.py
# Đánh giá
python evaluate.py data/golden_set_pdf.json # RAGAS eval báo cáo tài chính (27 câu)
# So sánh hai pipeline
python compare_retrieval.py
python evaluate_colpali.pySo sánh Retrieval: ColPali vs Text RAG
Đánh giá trên 10 câu hỏi báo cáo tài chính tiếng Việt, dùng LLM-as-judge chấm điểm mức độ liên quan của nguồn tài liệu:
Nhận xét: Text RAG thắng tổng thể (0.79 vs 0.52) nhờ BM25 xử lý chính xác tên công ty và mã chứng khoán tiếng Việt. ColPali ngang bằng hoặc vượt trội trên các trang chứa bảng số liệu phức tạp — đúng với trường hợp sử dụng thiết kế của nó (nơi pypdf mất cấu trúc bảng). Kết hợp cả hai pipeline sẽ cho kết quả tối ưu.
Đánh giá RAGAS (LLM-as-judge)
Đánh giá trên 27 câu hỏi báo cáo tài chính tiếng Việt — 4 doanh nghiệp (VNM, FPT, HPG, MSN) × 2 năm (2022–2023), judge model: llama-3.3-70b-versatile:
Nhận xét: Answer Relevancy cao (0.948) cho thấy pipeline trả lời đúng trọng tâm câu hỏi. Faithfulness 0.737 xác nhận câu trả lời bám sát tài liệu gốc. Context Recall 0.748 phản ánh hybrid search (BM25 + vector + reranking) tìm được đúng đoạn liên quan trong phần lớn trường hợp.