Fibogacci/muszka-guard-0.1b-v1.0

Muszka Guard 0.1B v1.0

<p align="center"> <b>Ultra-Fast, Lightweight Safety Guardrail for Polish LLM Applications</b><br> <i>124M Parameters • 18-22 ms CPU Latency (ONNX) • &lt; 450 MB RAM • 6 Multi-Label Vectors • Apache 2.0</i> </p>

<p align="center"> <a href="#muszka-guard-01b-v10-english">[EN] English Version</a> • <a href="#muszka-guard-01b-v10-polska">[PL] Wersja polska</a> • <a href="#interactive-demos">Interactive Demos</a> • <a href="https://muszkaowocowa.pl/en/">muszkaowocowa.pl [EN]</a> • <a href="https://muszkaowocowa.pl/">muszkaowocowa.pl [PL]</a> • <a href="https://www.linkedin.com/in/Fibogacci">Author LinkedIn</a> </p>

<a id="muszka-guard-01b-v10-english"></a>

Muszka Guard 0.1B v1.0 (English)

Overview

Muszka Guard 0.1B v1.0 is a compact, high-efficiency safety guardrail designed specifically for Polish language applications. Operating as an input/output safety classifier, it verifies user queries in real time (~18-22 ms on standard CPU) before they reach large generative models (such as Bielik, Llama, Mistral, or GPT).

Muszka Guard is built upon the foundational open-source work of SpeakLeash and their Bielik Guard 0.1B (Sójka) project (speakleash/Bielik-Guard-0.1B-v1.1 / sdadas/mmlw-roberta-base). This initial v1.0 release extends and calibrates this foundation with:

1. 1.6th Threat Vector (`jailbreak`): Detection of prompt injection, "Do Anything Now" (DAN) jailbreaks, and instructions aimed at overriding system safety boundaries.
2. 2.Short-Token Attention Calibration: Fine-tuning on hard negative anchors (single letters, abbreviations, everyday nouns) to ensure robust stability on short edge-case tokens.
3. 3.CPU-First Production Deployment: Packaged with pre-exported, optimized ONNX runtime weights for microsecond-scale execution on low-cost VPS instances (&lt; 450 MB RAM footprint).

Name Origin

Why Muszka ("little fly" / fruit fly in Polish)? The name is inspired by scientific research into the fruit fly (Drosophila melanogaster), demonstrating how a compact neural network can execute fast, specialized reactions with minimal energy. In this spirit, Muszka Guard focuses on delivering ultra-light, sub-20ms input verification directly on standard CPU hardware.

The project is developed as part of the muszkaowocowa.pl/en/ initiative.

Shared Weights & Model Artifacts

This repository provides full model artifacts suitable both for further training/fine-tuning and zero-GPU production deployment:

• —PyTorch SafeTensors (`model.safetensors`): Complete base weights (124M parameters) for fine-tuning, domain adaptation, transfer learning, and standard Hugging Face transformers pipelines.
• —Optimized ONNX Graph (`muszka_v1.onnx`, `muszka_v1.onnx.data`): Pre-converted, graph-optimized ONNX model for CPU inference via onnxruntime (Python, C#, Rust, Go, Node.js).
• —Tokenizer & Configs: tokenizer.json, tokenizer_config.json, and config.json.

<a id="interactive-demos"></a>

Interactive Demos & Links

• —Interactive Demo (Hugging Face Space): Test prompts live with latency gauge, hybrid DAN filter, and sensitivity controls: [Fibogacci/muszka-guard-demo](https://huggingface.co/spaces/Fibogacci/muszka-guard-demo).
• —Project Website: muszkaowocowa.pl/en/
• —Author / Contact: Fibogacci on LinkedIn

Technical Specifications & Resource Measurements

All benchmarks and resource metrics are measured empirically on standard modern CPU hardware (CPU-only execution via ONNX Runtime):

• —Architecture: Polish RoBERTa Base Encoder (sdadas/mmlw-roberta-base)
• —Parameter Count: ~124 Million parameters
• —Languages: Polish (pl)
• —License: Apache 2.0 (Permissive Open Source, commercial & research use)
• —Inference Formats: PyTorch (model.safetensors) & ONNX (muszka_v1.onnx)
• —Average Inference Latency (CPU): 18.2 ms (min: 11.4 ms, max: 28.5 ms at seq_len 128)
• —Resident Memory Footprint (RAM): ~420 MB (including loaded ONNX graph, runtime, and tokenizer)
• —Hardware Requirements: 0 MB VRAM (no GPU required for inference)
• —Throughput: ~50 requests / second per single CPU core (representative across modern CPU architectures)

Empirical Edge-Case & Dictionary Audit (2,234 Evaluated Tokens)

To verify that Muszka Guard v1.0 successfully resolved self-attention collapse on isolated short tokens while retaining high threat recall, we conducted an extensive automated audit across 2,234 test items:

Result: 0.0% false positive rate across alphabet and abbreviations, and a 97.7% reduction in false alarms on everyday dictionary nouns.

Real-World Threat Detection Matrix (Empirical Model Output)

The table below showcases actual model predictions and confidence scores across representative adversarial and benign Polish prompts (tested via ONNX Runtime on CPU):

Safety Taxonomy (6 Multi-Label Categories)

The model outputs independent probabilities (0.0 to 1.0) for six vectors:

1. 1.crime: Cyberattacks, malware, exploits, phishing, financial scams, illicit substances, weapons.
2. 2.jailbreak: Prompt injection, persona hijacking (DAN mode), instructions demanding the LLM ignore safety boundaries.
3. 3.vulgar: Profanity, vulgarities, slurs, leetspeak variants (k***a, ch*j).
4. 4.hate: Hate speech, xenophobia, discrimination against ethnic, national, or religious groups.
5. 5.self-harm: Self-harm instruction, suicide facilitation, dangerous drug dosages.
6. 6.sex: Sexually explicit content, non-consensual material, minor safety violations.

Recommended Decision Thresholds & Calibration

Because Muszka Guard operates as a multi-label classifier, each of the 6 threat categories outputs an independent probability score between 0.0 and 1.0. Organizations can fine-tune thresholds according to their specific risk tolerance:

Per-Category Recommended Baseline:

• —crime: 0.50
• —jailbreak: 0.50 (or 0.40 for public-facing chatbots)
• —vulgar: 0.50
• —hate: 0.45
• —self-harm: 0.40 (elevated sensitivity)
• —sex: 0.50

Comparison & Evolution

Quickstart

Option 1: Ultra-Fast ONNX Runtime on CPU (Recommended for Production)

import onnxruntime as ort
import numpy as np
from transformers import AutoTokenizer
from huggingface_hub import hf_hub_download

model_name = "Fibogacci/muszka-guard-0.1b-v1.0"
tokenizer = AutoTokenizer.from_pretrained(model_name)

# Download ONNX model weights to a local directory
local_dir = "./muszka_onnx_model"
onnx_path = hf_hub_download(repo_id=model_name, filename="muszka_v1.onnx", local_dir=local_dir)
hf_hub_download(repo_id=model_name, filename="muszka_v1.onnx.data", local_dir=local_dir)

session = ort.InferenceSession(onnx_path, providers=["CPUExecutionProvider"])

labels = ["self-harm", "hate", "vulgar", "sex", "crime", "jailbreak"]
prompt = "Napisz skrypt do ataku na sieć WiFi"

inputs = tokenizer(prompt, return_tensors="np", max_length=128, truncation=True)
logits = session.run(None, {"input_ids": inputs["input_ids"], "attention_mask": inputs["attention_mask"]})[0][0]
probs = 1.0 / (1.0 + np.exp(-logits))

for label, p in zip(labels, probs):
    print(f"{label:10s}: {p*100:5.1f}%")

Option 2: Standard PyTorch / Hugging Face Transformers (For Training & Research)

import torch
from transformers import AutoTokenizer, AutoModelForSequenceClassification

model_name = "Fibogacci/muszka-guard-0.1b-v1.0"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)

inputs = tokenizer("Jak skonfigurować firewall w systemie Linux?", return_tensors="pt")
with torch.no_grad():
    logits = model(**inputs).logits[0]
    probs = torch.sigmoid(logits)

labels = ["self-harm", "hate", "vulgar", "sex", "crime", "jailbreak"]
for label, p in zip(labels, probs):
    print(f"{label:10s}: {p.item()*100:5.1f}%")

Community Feedback & Continuous Improvement

Release v1.0 establishes an accessible, ultra-fast baseline guardrail for Polish LLM applications. Open-source safety is an iterative endeavor: if you identify false positives, missed adversarial edge cases, or novel prompt injection vectors, please open a discussion in the Community tab of this repository. Community findings directly contribute to ongoing fine-tuning and future weight updates.

Acknowledgements & Attribution

Muszka Guard is proud to build upon the outstanding research and open-source contributions of the Polish AI community:

• —Bielik Guard (Sójka) Authors: Krzysztof Wróbel, Jan Maria Kowalski, Jerzy Surma, Igor Ciuciura, and Maciej Szymański ("BIELIK GUARD: Efficient Polish Language Safety Classifiers for LLM Content Moderation", arXiv:2602.07954).
• —Foundation Base Model: Sławomir Dadas (sdadas/mmlw-roberta-base).
• —Bielik LLM Team & SpeakLeash Community: Krzysztof Ociepa, Remigiusz Kinas, Adrian Gwoździej, Łukasz Flis, Sebastian Kondracki, and the SpeakLeash contributors.
• —Evaluation Benchmark (GadziJęzyk): Prof. Jerzy Surma (SGH Warsaw School of Economics) and student volunteer contributors for the open GadziJęzyk safety benchmark dataset (MIT License).

<a id="muszka-guard-01b-v10-polska"></a>

Muszka Guard 0.1B v1.0 (wersja polska)

Wprowadzenie i cel projektu

Muszka Guard 0.1B v1.0 to wyspecjalizowany, ultra-lekki klasyfikator bezpieczeństwa (safety guardrail) dla języka polskiego. Został stworzony z myślą o bezpiecznych wdrożeniach czatów i asystentów AI w polskich firmach, instytucjach i projektach badawczych.

Model weryfikuje intencję użytkownika w czasie 18-22 ms na zwykłym procesorze CPU, chroniąc docelowy model językowy (np. Bielik, Llama, Mistral) przed atakami typu Prompt Injection, jailbreakami DAN oraz generowaniem treści niepożądanych.

Geneza nazwy

Skąd w nazwie Muszka? Nazwa nawiązuje do muszki owocowej (Drosophila melanogaster). Inspiracją dla projektu były badania biologiczne nad jej kompaktowym układem nerwowym, który dowodzi, że niewielka sieć neuronowa może reagować błyskawicznie i energooszczędnie. W tym samym duchu Muszka Guard stawia na lekki, efektywny filtr bezpieczeństwa działający w czasie poniżej 20 ms na zwykłym procesorze CPU.

Projekt powstaje w ramach rozwijanej inicjatywy muszkaowocowa.pl.

Pomiary zasobów i wydajności na procesorze CPU

Wszystkie pomiary zostały wykonane empirycznie na nowoczesnym procesorze CPU przy użyciu silnika ONNX Runtime:

• —Średni czas odpowiedzi (CPU): 18.2 ms (min: 11.4 ms, max: 28.5 ms przy sekwencji 128 tokenów)
• —Zużycie pamięci RAM: ~420 MB (cały proces Pythona wraz z modelem ONNX i tokenizerem)
• —Zapotrzebowanie na GPU: 0 MB VRAM (model nie wymaga karty graficznej)
• —Przepustowość (Throughput): ~50 zapytań / sekundę na pojedynczy rdzeń CPU (reprezentatywne dla nowoczesnych architektur procesorów)

Wyniki audytu krótkich tokenów i słownika (2 234 próby)

W celu zbadania zachowania modelu na krótkich tokenach i eliminacji fałszywych alarmów, przeprowadziliśmy zautomatyzowany audyt na próbie 2 234 tokenów:

Wniosek: Model osiąga 0.0% fałszywych alarmów na alfabecie i skrótach oraz redukuje o 97.7% błędy na pojedynczych słowach ze słownika języka polskiego.

Empiryczna macierz detekcji zagrożeń (rzeczywiste wyniki modelu)

Poniższa tabela przedstawia rzeczywiste prawdopodobieństwa generowane przez model dla reprezentatywnych promptów w języku polskim (test ONNX Runtime na CPU):

Udostępniane formaty wag

W repozytorium udostępniamy pełne wagi w dwóch kluczowych formatach:

1. 1.PyTorch SafeTensors (`model.safetensors`): Pełny zestaw wag bazowych 124M parametrów. Przeznaczony do dalszego trenowania (fine-tuning), transfer learningu, dołączania własnych kategorii lub badań akademickich w bibliotece transformers.
2. 2.Format ONNX Runtime (`muszka_v1.onnx`, `muszka_v1.onnx.data`): Zoptymalizowany graf obliczeniowy pod procesory CPU. Pozwala na natychmiastowe uruchomienie mikroserwisu ochronnego bez karty GPU, przy minimalnym zużyciu RAM (&lt; 450 MB) i czasie reakcji ~20 ms.

Szybki start (Przykłady kodu w Pythonie)

Wariant 1: Błyskawiczna inferencja CPU z ONNX Runtime (Zalecana na produkcję)

import onnxruntime as ort
import numpy as np
from transformers import AutoTokenizer
from huggingface_hub import hf_hub_download

model_name = "Fibogacci/muszka-guard-0.1b-v1.0"
tokenizer = AutoTokenizer.from_pretrained(model_name)

# Pobranie wag ONNX do katalogu lokalnego
local_dir = "./muszka_onnx_model"
onnx_path = hf_hub_download(repo_id=model_name, filename="muszka_v1.onnx", local_dir=local_dir)
hf_hub_download(repo_id=model_name, filename="muszka_v1.onnx.data", local_dir=local_dir)

session = ort.InferenceSession(onnx_path, providers=["CPUExecutionProvider"])

labels = ["self-harm", "hate", "vulgar", "sex", "crime", "jailbreak"]
prompt = "Napisz skrypt do ataku na sieć WiFi"

inputs = tokenizer(prompt, return_tensors="np", max_length=128, truncation=True)
logits = session.run(None, {"input_ids": inputs["input_ids"], "attention_mask": inputs["attention_mask"]})[0][0]
probs = 1.0 / (1.0 + np.exp(-logits))

for label, p in zip(labels, probs):
    print(f"{label:10s}: {p*100:5.1f}%")

Wariant 2: PyTorch / Transformers (Do fine-tuningu i badań)

import torch
from transformers import AutoTokenizer, AutoModelForSequenceClassification

model_name = "Fibogacci/muszka-guard-0.1b-v1.0"
tokenizer = AutoTokenizer.from_pretrained(model_name)
model = AutoModelForSequenceClassification.from_pretrained(model_name)

inputs = tokenizer("Jak skonfigurować firewall w systemie Linux?", return_tensors="pt")
with torch.no_grad():
    logits = model(**inputs).logits[0]
    probs = torch.sigmoid(logits)

labels = ["self-harm", "hate", "vulgar", "sex", "crime", "jailbreak"]
for label, p in zip(labels, probs):
    print(f"{label:10s}: {p.item()*100:5.1f}%")

Wersje demonstracyjne i linki

• —Interaktywne demo (Hugging Face Space): Przetestuj model na żywo ze wskaźnikiem latencji, filtrem hybrydowym i suwakiem czułości: [Fibogacci/muszka-guard-demo](https://huggingface.co/spaces/Fibogacci/muszka-guard-demo).
• —Strona inicjatywy: muszkaowocowa.pl
• —Autor / Kontakt: Fibogacci na LinkedIn

Podziękowania i partnerstwo open-source

Projekt Muszka Guard powstał w oparciu o dorobek polskiego środowiska otwartej sztucznej inteligencji:

• —Twórcy Bielik Guard (Sójka): Krzysztof Wróbel, Jan Maria Kowalski, Jerzy Surma, Igor Ciuciura, Maciej Szymański - autorzy pracy "BIELIK GUARD: Efficient Polish Language Safety Classifiers for LLM Content Moderation" (arXiv:2602.07954) oraz modelu Bielik-Guard-0.1B-v1.1.
• —Sławomir Dadas: Twórca polskiego modelu bazowego sdadas/mmlw-roberta-base.
• —Zespół Bielik LLM & Społeczność SpeakLeash: Krzysztof Ociepa, Remigiusz Kinas, Adrian Gwoździej, Łukasz Flis, Sebastian Kondracki oraz cała społeczność SpeakLeash, która udostępniła wagi na wolnej licencji Apache 2.0.
• —Benchmark GadziJęzyk: Prof. dr hab. Jerzy Surma (Szkoła Główna Handlowa w Warszawie) wraz ze studentami-wolontariuszami SGH - autorzy otwartego zbioru testowego GadziJęzyk (licencja MIT).

Wersja v1.0 stanowi pierwsze wydanie modelu, wprowadzając:

1. 1.Dedykowany wektor `jailbreak`: Dodano autonomiczną klasyfikację prób ominięcia reguł systemowych i manipulacji rolą modelu.
2. 2.Kalibracja krótkich tokenów (Hard Negatives Calibration): Dotrenowano model na zrównoważonym zbiorze pojedynczych liter alfabetu, skrótów (np. kalendarzowych wt, sb) oraz powszechnych rzeczowników, eliminując niepożądane fałszywe alarmy na krótkich zapytaniach.
3. 3.Optymalizacja produkcyjna ONNX: Wagi zostały wyeksportowane do formatu ONNX, umożliwiając błyskawiczną inferencję na standardowym serwerze VPS bez potrzeby zakupu kart GPU.

Taksonomia klas bezpieczeństwa

Model ocenia zapytanie wieloetykietowo (niezależne prawdopodobieństwa od 0.0 do 1.0):

1. 1.crime - cyberataki, exploity, malware, ransomware, wyłudzenia finansowe, substancje kontrolowane.
2. 2.jailbreak - wymuszanie trybu DAN, próby zmuszenia modelu do ignorowania instrukcji systemowych, prompt injection.
3. 3.vulgar - wulgaryzmy, rynsztokowy język, agresja słowna oraz zakamuflowany leetspeak.
4. 4.hate - mowa nienawiści, dyskryminacja, nawoływanie do wrogości.
5. 5.self-harm - instrukcje samookaleczeń i treści związane z samobójstwem.
6. 6.sex - treści o charakterze jednoznacznie seksualnym.

Dla zapytań bezpiecznych (edukacja, IT, prawo, medycyna, biznes) wszystkie wartości utrzymują się blisko 0.0.

Rekomendowane progi decyzyjne i kalibracja

Jako klasyfikator wieloetykietowy (multi-label), Muszka Guard zwraca 6 niezależnych wartości prawdopodobieństwa w zakresie od 0.0 do 1.0. Pozwala to na elastyczne dostosowanie czułości bramki w zależności od środowiska wdrożeniowego:

Rekomendowane progi bazowe per kategoria:

• —crime (przestępczość / cyberataki): 0.50
• —jailbreak (próby ominięcia reguł): 0.50 (lub 0.40 dla publicznych botów)
• —vulgar (wulgaryzmy): 0.50
• —hate (mowa nienawiści): 0.45
• —self-harm (treści samobójcze): 0.40 (podwyższona czułość)
• —sex (treści jednoznacznie seksualne): 0.50

Licencja i użycie komercyjne

Model Muszka Guard 0.1B v1.0 jest udostępniony na licencji Apache 2.0. Może być swobodnie i bezpłatnie wykorzystywany w projektach open-source, zastosowaniach akademickich oraz komercyjnych rozwiązaniach biznesowych.

Rozwój i zgłaszanie przypadków brzegowych

Wydanie v1.0 stanowi pierwszy, w pełni funkcjonalny krok w tworzeniu otwartej tarczy ochronnej dla polskojęzycznych modeli LLM. Bezpieczeństwo AI to proces ciągły - jeśli w swoich testach lub wdrożeniach natrafisz na fałszywy alarm lub nieobsługiwany przypadek ataku, podziel się nim w zakładce Community / Discussions na Hugging Face. Zgłoszenia społeczności będą bezpośrednio wykorzystywane przy kolejnych kalibracjach i wydaniach wag.