CoolFace
Apppublic

fabricioslv/omnimind-hidden-state-inspector

sourceHugging Facemitupdated 2mo agoView on Hugging Face
0likes
App README

OmniMind Hidden State Analyzer — ZeroGPU

Análise diária do hidden state do LLM com injeção de estado OmniMind. Roda em ZeroGPU (zero-a10g), 1x por dia, sem chat.

Arquitetura

  • —Endpoint POST /receive_reports: recebe relatórios diários do CPU free narrador (voz-do-processo-cpu)
  • —Endpoint POST /receive_state: recebe estado atual do sistema (opcional, do kernel local)
  • —Análise diária: injeta estado → forward pass Gemma-3-4B → análise profunda hidden state (3072D, 34 layers)
  • —Compara com narrativas do CPU free, identifica padrões, anomalias, evolução
  • —Sem chat: o sistema empurra relatórios, o space analisa

Modelo

  • —google/gemma-3-4b-it (3072D, 34 layers, ~4B params) — capacidade maior em GPU
  • —4-bit quantization (bitsandbytes, bf16 compute) com fallback bfloat16

State Injection

  • —Projeção Dodecatíade estruturada (12 casas) — estado 94D/104D → hidden state 3072D
  • —Mesma arquitetura do CPU free, mas com maior dimensionalidade

Endpoints

  • —POST /gradio_api/call/receive_reports — recebe JSON com relatórios do CPU free
  • —POST /gradio_api/call/receive_state — recebe JSON enunciation_total do kernel
  • —GET / — status UI (última análise, contagem, timestamps)

Frequência

  • —Análise 1x por dia (configurável via ANALYZER_INTERVAL_SEC, default 86400s)
  • —5 prompts de análise por ciclo (configurável via ANALYZER_N_PROMPTS)