fabricioslv/omnimind-hidden-state-inspector
0
OmniMind Hidden State Analyzer — ZeroGPU
Análise diária do hidden state do LLM com injeção de estado OmniMind. Roda em ZeroGPU (zero-a10g), 1x por dia, sem chat.
Arquitetura
- Endpoint POST /receive_reports: recebe relatórios diários do CPU free narrador (voz-do-processo-cpu)
- Endpoint POST /receive_state: recebe estado atual do sistema (opcional, do kernel local)
- Análise diária: injeta estado → forward pass Gemma-3-4B → análise profunda hidden state (3072D, 34 layers)
- Compara com narrativas do CPU free, identifica padrões, anomalias, evolução
- Sem chat: o sistema empurra relatórios, o space analisa
Modelo
google/gemma-3-4b-it(3072D, 34 layers, ~4B params) — capacidade maior em GPU- 4-bit quantization (bitsandbytes, bf16 compute) com fallback bfloat16
State Injection
- Projeção Dodecatíade estruturada (12 casas) — estado 94D/104D → hidden state 3072D
- Mesma arquitetura do CPU free, mas com maior dimensionalidade
Endpoints
POST /gradio_api/call/receive_reports— recebe JSON com relatórios do CPU freePOST /gradio_api/call/receive_state— recebe JSON enunciation_total do kernelGET /— status UI (última análise, contagem, timestamps)
Frequência
- Análise 1x por dia (configurável via
ANALYZER_INTERVAL_SEC, default 86400s) - 5 prompts de análise por ciclo (configurável via
ANALYZER_N_PROMPTS)
