CoolFace
Apppublic

Erinaldordso/ml-intern-ollama-proxy

sourceHugging Faceupdated 5mo agoView on Hugging Face
0likes
App README

🦙 ML Intern + Ollama Proxy

Space Docker que combina ML Intern (agente autônomo HF) com Ollama (LLM local).

Endpoint OpenAI-compatible gratuito — sem créditos de API!

🔗 Endpoints

EndpointMétodoDescrição
/GETML Intern Web UI
/v1/chat/completionsPOSTProxy OpenAI-compatible (usa Ollama)
/v1/modelsGETLista modelos disponíveis
/api/healthGETHealth check
/docsGETSwagger UI

🚀 Como usar no seu OpenClaude/Agente

Substitua seu endpoint HF Inference por seu próprio Space:

Antes (requer créditos):

javascript
const ENDPOINT = "https://api-inference.huggingface.co/models/Qwen/Qwen2.5-72B-Instruct/v1/chat/completions";

Depois (GRATUITO — seu próprio Space):

javascript
const ENDPOINT = "https://erinaldordso-ml-intern-ollama-proxy.hf.space/v1/chat/completions";

Exemplo de request:

bash
curl -X POST https://erinaldordso-ml-intern-ollama-proxy.hf.space/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen2.5:3b",
    "messages": [{"role": "user", "content": "Ola!"}],
    "stream": false
  }'

Com tool calling:

bash
curl -X POST https://erinaldordso-ml-intern-ollama-proxy.hf.space/v1/chat/completions \
  -H "Content-Type: application/json" \
  -d '{
    "model": "qwen2.5:3b",
    "messages": [{"role": "user", "content": "Calcule 15 * 23 + 7"}],
    "tools": [{
      "type": "function",
      "function": {
        "name": "calculator",
        "description": "Calculate math",
        "parameters": {
          "type": "object",
          "properties": {
            "expression": {"type": "string"}
          },
          "required": ["expression"]
        }
      }
    }]
  }'

🧠 Modelo: Qwen2.5:3b

CaracterísticaValor
Parâmetros3.1B
QuantizaçãoQ4KM
Tool Calling✅ Sim
Contexto32k tokens
LicençaQwen Research License

Speed em CPU (cpu-basic): ~10-20 tokens/segundo

⚙️ Primeiro uso

⏳ Aguarde 3-5 minutos após o primeiro deploy para o Ollama baixar o modelo (~2GB).

Verifique se está pronto:

bash
curl https://erinaldordso-ml-intern-ollama-proxy.hf.space/api/health

🔑 Secrets (opcional)

SecretPara quê
HF_TOKENFerramentas do ML Intern (docs, papers, datasets)
ANTHROPIC_API_KEYSe quiser usar Claude também

🐳 Docker Local

Se quiser rodar localmente com mais performance:

bash
git clone https://github.com/huggingface/ml-intern.git
cd ml-intern
# Instale Ollama localmente + configure o proxy

Criado por: Erinaldordso Baseado em: ML Intern (HuggingFace) + Ollama