ES ▾

Configuración de Ollama API en SillyTavern: Conecta un endpoint alojado

SillyTavern puede comunicarse con cualquier endpoint compatible con OpenAI a través de su fuente personalizada. Esta página te guía por la configuración, los valores que debes pegar y qué hacer cuando falla la conexión.

Actualizado

Ilustración de un escenario con máscaras y burbujas de chat conectadas por un cable a un servidor alojado

Puntos clave

  1. En SillyTavern elige Completado de chat, luego el origen personalizado (compatible con OpenAI).
  2. Establece la URL base en https://api.ollamaapi.com/v1 y el ID del modelo en uncensored.
  3. Prueba primero con curl para saber si un fallo se debe a la clave o a la aplicación.
  4. Mantén el tamaño del contexto acorde con tu presupuesto; cada respuesta reenvía el historial como entrada.

Lo que necesitas antes de comenzar

Si buscaste ollama api sillytavern, probablemente quieras que SillyTavern se comunique con un modelo a través de una URL estilo OpenAI en lugar de una instalación local de Ollama. Eso funciona, porque SillyTavern te permite añadir cualquier endpoint compatible con OpenAI. Esta página lo conecta a uno alojado, lo que significa que no necesitas GPU en tu equipo.

Necesitas tres cosas: una instalación funcional de SillyTavern, una clave de API y los valores del endpoint. Los valores son:

  • URL base: https://api.ollamaapi.com/v1
  • ID del modelo: uncensored
  • Autorización: tu clave, enviada como token bearer (SillyTavern lo hace por ti)

Para la clave, regístrate con Google o con correo electrónico y contraseña y abre la página de clave de API. Los nuevos usuarios pueden reclamar $0,50 de crédito de prueba con un solo clic. Es uno por persona, válido por 7 días y no requiere tarjeta. Las claves de prueba están limitadas a 2 peticiones simultáneas y 60 peticiones por minuto, lo cual es suficiente para un solo chat.

Regla de contenido: el modelo está ajustado para responder sin rechazos de contenido para uso adulto lícito, lo cual es adecuado para ficción, roleplay y configuraciones de compañía para adultos. No se permite nada que involucre a menores de edad, y el endpoint tiene un límite estricto al respecto.

Prueba la clave con curl primero

Una prueba de cinco segundos ahorra muchas conjeturas. Si este comando devuelve una respuesta, la clave, la URL y el ID del modelo son correctos, y cualquier problema posterior está en la configuración de SillyTavern.

curl https://api.ollamaapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one short sentence."}],
    "max_tokens": 40
  }'

También puedes listar modelos con GET https://api.ollamaapi.com/v1/models usando el mismo encabezado. Un 401 significa que la clave es incorrecta o está faltando. Una respuesta con texto en choices[0].message.content significa que estás listo para configurar la aplicación.

Conecta SillyTavern paso a paso

Los nombres de los menús pueden variar ligeramente entre versiones de SillyTavern, pero la ruta es estable. Abre el icono de plugin en la parte superior, que es el panel de conexiones de API.

  1. Establece API en Finalización de chat. No uses Finalización de texto para este endpoint, ya que solo ofrece finalizaciones de chat.
  2. Establece Chat Completion Source en Custom (OpenAI-compatible).
  3. En Endpoint personalizado (URL base), ingresa https://api.ollamaapi.com/v1. No incluyas ninguna ruta adicional como /chat/completions.
  4. Pega tu clave en Custom API Key.
  5. En ID de modelo, escribe uncensored. Si el campo ofrece un menú desplegable llenado por la ruta de modelos, selecciona la misma entrada.
  6. Presiona Conectar. Un estado verde con el nombre del modelo significa que el handshake funcionó.

Abre cualquier tarjeta de personaje y envía un mensaje corto. Si el texto se transmite, has terminado con la conexión. Las secciones restantes cubren la configuración, porque los valores predeterminados no siempre son los más adecuados para un modelo alojado con una ventana grande.

Un recordatorio si vienes de Ollama: la conexión propia de Ollama en SillyTavern usa una dirección local y la ruta de Finalización de texto. Esa ruta apunta a tu propia computadora. Aquí usas la ruta de Finalización de chat y una dirección HTTPS pública en su lugar, por lo que las dos configuraciones no se mezclan.

Ajustes que vale la pena cambiar

Tamaño del contexto

La ventana es de 100.000 tokens, prompt más finalización. SillyTavern te permite establecer un tamaño de ventana de contexto en el panel del sampler, y la aplicación elimina los mensajes más antiguos cuando el chat crece más allá de él. Un valor mayor recuerda más de la historia y también cuesta más, porque todo el historial se envía como entrada en cada respuesta.

Aquí tienes un ejemplo práctico. Un turno de chat que envía 8.000 tokens de historial y recibe una respuesta de 300 tokens cuesta 8.000 x $0,15 por 1M = $0,0012 para entrada, más 300 x $0,50 por 1M = $0,00015 para salida. Eso es $0,00135 por turno, por lo que 100 turnos cuestan $0,135. Si subes el historial a 60.000 tokens, la parte de entrada sola es $0,009 por turno, por lo que 100 turnos cuestan $0,90 más $0,015 para salida, o $0,915 en total. La mayoría de los chats no necesitan tanto, y un resumen de eventos antiguos suele funcionar mejor que el historial completo.

Longitud máxima de respuesta

max_tokens es opcional. Establecer una longitud de respuesta de 300 a 500 tokens mantiene las respuestas ordenadas y limita el costo de salida. Auméntalo si el personaje tiende a cortarse a mitad de frase.

Muestreo

Temperatura, top_p, secuencias de parada, semilla y las penalizaciones de frecuencia y presencia se pasan al modelo. Comienza cerca de los valores predeterminados de un preset de chat y cambia un valor a la vez. Si las respuestas repiten frases, aumenta las penalizaciones un poco en lugar de la temperatura.

Transmisión

Deja el streaming activado. El texto aparece a medida que se genera, usando SSE. El uso se informa al final del flujo. Ten en cuenta que una petición en streaming ocupa un espacio de concurrencia hasta que termina, por lo que presionar regenerar dos veces rápido con una clave de prueba (2 simultáneas) puede producir un error.

Solución de problemas

SíntomaCausa probableSolución
401 No autorizadoClave incorrecta o faltantePega la clave de nuevo y verifica espacios al inicio o al final
404 No encontradoRuta incorrecta en la URL baseUsa exactamente https://api.ollamaapi.com/v1, nada después de eso
Modelo no encontradoID del modelo incorrectoEscribe uncensored en minúsculas
429 con concurrencyDemasiadas peticiones a la vezEspera a que termine la respuesta en curso; evita chats grupales con una clave de prueba
429 con rate_limitedSobre peticiones por minutoRalentiza; una clave completa permite 300 por minuto
429 con Retry-After 5Sobrecarga temporalReintenta después de cinco segundos
Mensaje CORS del navegadorSillyTavern ejecutándose en otro dispositivo o proxyHabilita su ruta de solicitud del lado del servidor o ejecútalo en una sola máquina

Los chats grupales merecen una nota. SillyTavern puede enviar varias respuestas de personajes en secuencia o al mismo tiempo. Si ves errores de concurrencia con grupos, baja el número de personajes activos o actualiza desde la clave de prueba. Una clave completa permite 8 peticiones simultáneas.

Cuando una respuesta está vacía o se corta, mira primero la configuración de longitud de respuesta, luego las secuencias de parada. Una cadena de parada que coincide con una palabra común termina la respuesta temprano sin error.

Añadir crédito y mantener los costos predecibles

El crédito de prueba es suficiente para probar la configuración y juzgar la escritura. Al costo por turno del ejemplo anterior, $0.50 paga por aproximadamente 370 turnos de un chat de 8.000 tokens (0,50 dividido por 0,00135). Después de eso, recarga desde $20, en cualquier cantidad entera hasta $500. Se aceptan tarjeta (Visa, Mastercard, Apple Pay, Google Pay) y cripto (USDT en TRC20, USDC en Base). Las recargas más grandes tienen un bono: +5% desde $50, +10% desde $100 y +15% desde $200. El crédito no caduca, nada se renueva automáticamente y las peticiones fallidas o rechazadas no se cobran. Consulta la página de precios para la tabla completa.

El saldo después de cada llamada aparece en el encabezado de respuesta X-Balance-USD, y también puedes consultar el panel. La documentación explica los campos de petición si quieres pasar de SillyTavern a tus propios scripts más tarde. Los prompts no se usan para entrenamiento.

Preguntas y respuestas

¿Qué fuente de SillyTavern debo elegir?

Chat Completion con la fuente personalizada (compatible con OpenAI). Ingresa la URL base https://api.ollamaapi.com/v1, tu clave y el ID del modelo uncensored.

¿Es lo mismo que conectar SillyTavern a un servidor Ollama local?

No. Una conexión local de Ollama apunta a tu propia computadora. Este es un endpoint alojado al que se llega por HTTPS, sin ningún modelo ejecutándose en tu máquina.

¿Por qué regenerar a veces devuelve un error con la clave de prueba?

Una clave de prueba permite 2 peticiones simultáneas. Una respuesta en streaming mantiene su espacio hasta que termina, por lo que una segunda regeneración rápida puede exceder el límite.

¿Puedo usarlo para juegos de roles y chats de personajes?

Sí, para uso adulto lícito como ficción, roleplay y aplicaciones de compañía. No se permite contenido sexual que involucre a menores de edad.

Tu clave está a un formulario de distancia

Crea una cuenta, copia la clave, cambia la URL base. Esa es toda la configuración.

Obtener clave de APILeer los docs