hung2903/gemma-4-E4B-vaccine-xai-merged-qat

VaccineNLP - Gemma-4 E4B QAT Misinfo Engine (GGUF Q4_0)

File GGUF Q40 của adapter QAT [hung2903/gemma-4-E4B-unsloth-vaccine-xai-qat](https://huggingface.co/hung2903/gemma-4-E4B-unsloth-vaccine-xai-qat) merged với base [google/gemma-4-E4B-it-qat-q40-unquantized](https://huggingface.co/google/gemma-4-E4B-it-qat-q4_0-unquantized).

Mô hình này chỉ phục vụ trục Misinfo chính theo taxonomy nội bộ Fake / Real và sinh JSON có cấu trúc tương thích parse_deep_output.

Hiệu suất (Gold Test Set, n=186) — chấm trên RAW model output (trung thực)

Engine này CHỈ tái phân loại trục Misinfo (Fake/Real) theo kiến trúc tách trục (§3.10); Stance & Sentiment do PhoBERT đảm nhiệm. Số liệu đo trên đầu ra thô của mô hình (không qua tầng sửa lỗi/repair) nên phản ánh đúng năng lực thật.

Confusion matrix (hàng = nhãn thật, cột = dự đoán):

Acceptance gate: parse-fail < 5%, banned-label = 0, recall Fake >= 0.70 — tất cả ĐẠT. Output là JSON có cấu trúc {"label","confidence","sufficient_context","rationale","key_spans"} tương thích parse_deep_output; confidence/key_spans cuối do tầng code hệ thống xác minh.

Sử dụng với LM Studio / Ollama local

import openai
client = openai.OpenAI(base_url="http://localhost:1234/v1", api_key="lm-studio")
response = client.chat.completions.create(
    model="local-model",
    messages=[{"role": "user", "content": "Van ban: Vac-xin COVID gay vo sinh."}],
    max_tokens=512,
    temperature=0.1,
)
print(response.choices[0].message.content)

Trích dẫn

@thesis{vaccinenlp2026,
  title={Ứng dụng Xử lý Ngôn ngữ Tự nhiên trong phát hiện thông tin sai lệch về vaccine},
  author={Kim Mạnh Hưng and Đinh Lê Quỳnh Phương},
  school={Trường Đại học Y tế Công cộng (HUPH)},
  year={2026},
}