Bejoman/LLM_Evaluation_Demo

🤖 RAG Chatbot + LLM-as-a-Judge Evaluation

Streamlit chatbot demo yang menggunakan Vertex AI RAG Engine untuk menjawab pertanyaan, kemudian secara otomatis mengevaluasi respons menggunakan LLM-as-a-Judge.

📁 Struktur File

├── Dockerfile          # Container config untuk HF Spaces
├── README.md           # File ini (metadata HF Spaces)
├── requirements.txt    # Python dependencies
├── start.sh            # Startup script (reconstruct credentials)
├── chatbot_demo.py     # Streamlit UI
├── llm_engine.py       # Vertex AI RAG + Judge engine
├── rate_limiter.py     # Pembatasan chat per hari (IP-based)
└── .gitignore          # Exclude credential files

🛡️ Keamanan

• —Semua kredensial dibaca dari HF Secrets (environment variables)
• —service-account.json di-reconstruct di runtime ke /tmp/ (tidak persisted)
• —.gitignore mencegah file sensitif ter-commit

🚦 Rate Limiting

• —Setiap pengguna dibatasi maksimal 15 chat per hari
• —Pembatasan berdasarkan IP address (diambil dari header X-Forwarded-For)
• —Counter disimpan di /tmp/rate_limits.json dan di-reset otomatis setiap hari
• —Indikator sisa chat ditampilkan di sidebar (hijau → kuning → merah)
• —Chat input otomatis di-disable ketika limit tercapai