shapiropoly/coursework_nli_xlmr_lora

Multilingual logical relation classifier mBERT + LORA

Этот репозиторий содержит компактную версию mBERT-base, дообученную методом Low-Rank Adaptation (LoRA) на датасете Kaggle “Contradictory, My Dear Watson”. Модель классифицирует логическую связь между двумя предложениями (premise, hypothesis) и выдаёт одну из трёх меток:

LoRA-адаптер увеличил количество обучаемых весов всего на 0,6 %, поэтому итоговый чек-пойнт весит ≈ 420 МБ и работает даже на CPU-инстансах.

Быстрый тест в браузере

Попробовать модель можно на Hugging Face Spaces: ▶ https://huggingface.co/spaces/shapiropoly/coursework_nli_xlmr_lora

Инструкция как пользоваться демо:

1. 1.Введите два предложения: предпосылку и гипотезу, нажмите "Check"
2. 2.Если хотите посмотреть тепловую карту по токенам, выберите "Show attention heat-map" — так вы увидите, на какие слова модель больше обращает внимание при принятии решения

Детали модели