API de Ollama: Cambia tu cliente en tres líneas

Requisitos previos y URL base

Para usar esta API de LLM sin censura, necesitas una cuenta con una clave de API y un SDK compatible con OpenAI instalado en tu entorno. La URL base para todas las peticiones es https://api.ollamaapi.com/v1. Este endpoint está diseñado como un reemplazo listo para usar para clientes de OpenAI existentes, lo que significa que solo necesitas actualizar la URL base y la clave de API en tu configuración. La API admite completados de texto a texto con streaming mediante Server-Sent Events (SSE) y llamadas a funciones. No admite incrustaciones, generación de imágenes ni ajuste fino. Asegúrate de que la versión de tu SDK admita estas funciones para la mejor experiencia. Usarás el ID de modelo uncensored para todos los completados.

Autenticación y primera petición

La autenticación se maneja mediante un token Bearer en el encabezado Authorization. Regístrate en el sitio para recibir tu clave de API de inmediato; no se requiere tarjeta de crédito para la prueba. Usa el siguiente comando cURL para enviar tu primer prompt. Reemplaza YOUR_API_KEY con tu clave real. La petición apunta al endpoint estándar de chat completions. Si tiene éxito, recibirás una respuesta de texto del modelo sin censura. Asegúrate de configurar el campo model como uncensored para utilizar el modelo de lenguaje grande específico.

Copycurl https://api.ollamaapi.com/v1/chat/completions \
  -H "Authorization: Bearer $API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Write a blunt product review of a cheap VPN."}]
  }'

Recuerda que los prompts no se usan para entrenar tus datos. La API aplica un límite estricto en el contenido sexual que involucra a menores, pero de lo contrario permite temas adultos legales y controversiales sin rechazo.

Integración con SDK de Python

Usar el SDK oficial de OpenAI para Python es la forma más directa de integrar. Instala la biblioteca mediante pip, luego inicializa el cliente con la URL base personalizada y tu clave de API. Esta configuración te permite usar el mismo código de cliente que podrías usar para GPT-4, pero dirigido a nuestro modelo sin censura. El siguiente código demuestra una solicitud simple de completado de chat. Puedes ajustar los parámetros max_tokens y temperature según sea necesario. El objeto de respuesta contendrá el texto generado en response.choices[0].message.content.

Copyfrom openai import OpenAI

client = OpenAI(base_url="https://api.ollamaapi.com/v1", api_key="YOUR_KEY")

resp = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Summarise this thread without softening it."}],
)
print(resp.choices[0].message.content)

Este enfoque funciona porque nuestra API es totalmente compatible con OpenAI. No necesitas una biblioteca de cliente separada específicamente para nuestro servicio.

Configuración del SDK de Node.js

Para proyectos en JavaScript o TypeScript, el SDK de Node de OpenAI funciona sin problemas con nuestro endpoint. Instala el paquete y configura el cliente con el baseURL apuntando a nuestro dominio. Pasa tu clave de API en el campo apiKey. La estructura de la solicitud refleja exactamente el formato de OpenAI. Esto te permite insertar nuestra API en aplicaciones Node.js existentes sin una refactorización significativa. El ID de modelo sigue siendo uncensored. Puedes gestionar tu clave de API a través del panel si necesitas regenerarla.

Copyimport OpenAI from "openai";

const client = new OpenAI({ baseURL: "https://api.ollamaapi.com/v1", apiKey: process.env.API_KEY });

const resp = await client.chat.completions.create({
  model: "uncensored",
  messages: [{ role: "user", content: "Draft a villain monologue for my game." }],
});
console.log(resp.choices[0].message.content);

Asegúrate de que las variables de entorno estén configuradas correctamente para evitar exponer tu clave en el control de código fuente. La clave de API se muestra inmediatamente al registrarte.

Respuestas en streaming

Para aplicaciones que requieren generación de tokens en tiempo real, la API admite Server-Sent Events (SSE). Establece el parámetro stream en true en tu solicitud. El servidor enviará una serie de fragmentos, cada uno conteniendo un delta parcial de la respuesta. Esto es ideal para interfaces de chat donde deseas mostrar el texto a medida que se genera. El comportamiento del streaming es idéntico a la API de streaming de OpenAI, por lo que la lógica de streaming existente debería funcionar con cambios mínimos. Maneja el streaming hasta que el último fragmento indique que la respuesta está completa.

Copystream = client.chat.completions.create(
    model="uncensored",
    messages=[{"role": "user", "content": "Tell the story in second person."}],
    stream=True,
)
for chunk in stream:
    if chunk.choices and chunk.choices[0].delta.content:
        print(chunk.choices[0].delta.content, end="", flush=True)

El streaming no afecta la facturación por token ni los límites de la ventana de contexto.

Límites, errores y contexto

La API tiene una ventana de contexto de 100.000 tokens, combinando prompt y completado. Esto permite un procesamiento extenso de documentos o conversaciones largas. Los límites de peticiones se establecen en 300 peticiones por minuto por clave. Si excedes esto, recibirás un error 429. Los errores de autenticación devuelven un estado 401, generalmente debido a una clave inválida o revocada. Fondos insuficientes resultan en un error 402. Los cuerpos de las solicitudes están limitados a 8 MB. No hay suscripción; pagas por uso con créditos prepago que no caducan. Puedes recargar a partir de $20. Los créditos no caducan, por lo que puedes pausar el uso indefinidamente sin perder tu saldo.