Configuration de l’API Ollama pour SillyTavern : connexion à un point de terminaison hébergé

Ce dont vous avez besoin avant de commencer

Si vous avez recherché « ollama api sillytavern », vous voulez probablement que SillyTavern communique avec un modèle via une adresse de style OpenAI plutôt qu’une installation locale d’Ollama. Cela fonctionne, car SillyTavern vous permet d’ajouter n’importe quel endpoint compatible OpenAI. Cette page le connecte à un service hébergé, ce qui signifie qu’aucun GPU n’est nécessaire de votre côté.

Vous avez besoin de trois éléments : une installation SillyTavern fonctionnelle, une clé API et les valeurs de l'endpoint. Les valeurs sont :

• URL de base : https://api.ollamaapi.com/v1
• ID du modèle : uncensored
• Authorization : votre clé, envoyée en tant que jeton bearer (SillyTavern le fait pour vous)

Pour la clé, inscrivez-vous avec Google ou avec adresse e-mail et mot de passe, puis ouvrez la page de la clé API. Les nouveaux utilisateurs peuvent réclamer 0,50 $ de crédit d'essai en un seul clic. Il s'agit d'une attribution par personne, valable 7 jours, sans besoin de carte. Les clés d'essai sont limitées à 2 requêtes simultanées et 60 requêtes par minute, ce qui suffit pour un chat unique.

Règle de contenu : le modèle est ajusté pour répondre sans refus de contenu pour un usage adulte licite, ce qui convient à la fiction, au jeu de rôle et aux configurations de compagnons pour adultes. Rien impliquant des mineurs n'est autorisé, et l'endpoint a une limite stricte à ce sujet.

Testez la clé avec curl d'abord

Un test de cinq secondes évite beaucoup de devinettes. Si cette commande renvoie une réponse, la clé, l'URL et l'ID du modèle sont corrects, et tout problème ultérieur vient des paramètres de SillyTavern.

Copycurl https://api.ollamaapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one short sentence."}],
    "max_tokens": 40
  }'

Vous pouvez aussi lister les modèles avec GET https://api.ollamaapi.com/v1/models en utilisant le même en-tête. Un 401 signifie que la clé est incorrecte ou manquante. Une réponse avec du texte dans choices[0].message.content signifie que vous êtes prêt à configurer l'application.

Connectez SillyTavern étape par étape

Les noms de menu peuvent varier légèrement entre les versions de SillyTavern, mais le chemin est stable. Ouvrez l'icône de prise en haut, qui est le panneau des connexions API.

1. Définissez API sur Chat Completion. N'utilisez pas Text Completion pour ce point de terminaison, car il ne propose que des complétions de conversation.
2. Définissez Chat Completion Source sur Custom (compatible OpenAI).
3. Dans Custom Endpoint (Base URL), entrez https://api.ollamaapi.com/v1. Supprimez tout chemin de fin comme /chat/completions.
4. Collez votre clé dans Custom API Key.
5. Dans Model ID, tapez uncensored. Si le champ propose un menu déroulant rempli par la route des modèles, sélectionnez la même entrée.
6. Appuyez sur Connect. Un statut vert avec le nom du modèle signifie que la poignée de main a réussi.

Ouvrez n'importe quelle carte de personnage et envoyez un message court. Si le texte s'affiche en streaming, vous avez terminé la connexion. Les sections restantes couvrent le réglage, car les valeurs par défaut ne sont pas toujours les mieux adaptées à un modèle hébergé avec une grande fenêtre.

Un rappel si vous venez d'Ollama : la connexion Ollama de SillyTavern utilise une adresse locale et le chemin Text Completion. Ce chemin pointe vers votre propre ordinateur. Ici, vous utilisez le chemin Chat Completion et une adresse HTTPS publique à la place, donc les deux configurations ne se mélangent pas.

Paramètres à modifier

Taille du contexte

La fenêtre est de 100 000 tokens, prompt plus complétion. SillyTavern vous permet de définir une taille de contexte dans le panneau de l'échantillonneur, et l'application supprime les messages les plus anciens lorsque le chat dépasse cette taille. Une valeur plus grande retient plus de l'histoire et coûte aussi plus cher, car tout l'historique est envoyé en entrée à chaque réponse.

Voici un exemple concret. Un tour de chat qui envoie 8 000 tokens d'historique et reçoit une réponse de 300 tokens coûte 8 000 x 0,15 $ par 1M = 0,0012 $ pour l'entrée, plus 300 x 0,50 $ par 1M = 0,00015 $ pour la sortie. Cela fait 0,00135 $ par tour, donc 100 tours coûtent 0,135 $. Poussez l'historique à 60 000 tokens et la partie entrée seule est de 0,009 $ par tour, donc 100 tours coûtent 0,90 $ plus 0,015 $ pour la sortie, soit 0,915 $ au total. La plupart des chats n'ont pas besoin de cela, et un résumé des événements anciens fonctionne généralement mieux que l'historique brut.

Longueur maximale de réponse

max_tokens est optionnel. Définir une longueur de réponse de 300 à 500 tokens garde les réponses nettes et plafonne le coût de sortie. Augmentez-le si le personnage a tendance à être coupé en plein milieu d'une phrase.

Échantillonnage

Temperature, top_p, séquences d'arrêt, seed et les pénalités de fréquence et de présence sont transmises au modèle. Commencez près des valeurs par défaut d'un préréglage de chat, et changez une valeur à la fois. Si les réponses répètent des phrases, augmentez les pénalités un peu plutôt que la température.

Diffusion en continu

Laissez le streaming activé. Le texte apparaît au fur et à mesure de sa génération, en utilisant SSE. L'utilisation est rapportée à la fin du flux. Notez qu'une demande en streaming occupe un slot de concurrence jusqu'à sa fin, donc appuyer deux fois rapidement sur regenerate sur une clé d'essai (2 simultanés) peut produire une erreur.

Dépannage

Symptôme	Cause probable	Correction
401 Non autorisé	Clé incorrecte ou manquante	Collez à nouveau la clé et vérifiez les espaces aux extrémités
404 Non trouvé	Mauvais chemin dans l'URL de base	Utilisez exactement https://api.ollamaapi.com/v1, rien après cela
Modèle non trouvé	Mauvais ID de modèle	Tapez uncensored en minuscules
429 avec concurrency	Trop de requêtes à la fois	Attendez que la réponse en cours se termine ; évitez les chats de groupe avec une clé d'essai
429 avec rate_limited	Plus de requêtes par minute	Ralentissez ; une clé complète autorise 300 par minute
429 avec Retry-After 5	Surcharge temporaire	Réessayez après cinq secondes
Message CORS du navigateur	SillyTavern exécuté sur un autre appareil ou proxy	Activez le chemin de requête côté serveur ou exécutez-le sur une seule machine

Les chats de groupe méritent une note. SillyTavern peut envoyer plusieurs réponses de personnage en séquence ou en même temps. Si vous voyez des erreurs de concurrence avec des groupes, réduisez le nombre de personnages actifs ou passez de la clé d'essai à une clé complète. Une clé complète autorise 8 requêtes simultanées.

Lorsqu'une réponse est vide ou coupée court, regardez d'abord le paramètre de longueur de réponse, puis les séquences d'arrêt. Une chaîne d'arrêt qui correspond à un mot courant met fin à la réponse prématurément sans erreur.

Ajouter du crédit et maîtriser les coûts

Le crédit d'essai suffit pour tester la configuration et juger l'écriture. Au coût par tour de l'exemple ci-dessus, 0,50 $ permettent d'obtenir environ 370 tours de chat de 8 000 tokens (0,50 divisé par 0,00135). Après cela, rechargez à partir de 20 $, dans n'importe quel montant entier jusqu'à 500 $. Les cartes (Visa, Mastercard, Apple Pay, Google Pay) et la crypto (USDT sur TRC20, USDC sur Base) sont acceptées. Les recharges plus importantes bénéficient d'un bonus : +5 % à partir de 50 $, +10 % à partir de 100 $ et +15 % à partir de 200 $. Le crédit n'expire jamais, rien ne se renouvelle automatiquement, et les requêtes échouées ou refusées ne sont pas facturées. Consultez la page des tarifs pour le tableau complet.

Le solde après chaque appel apparaît dans l'en-tête de réponse X-Balance-USD, et vous pouvez aussi vérifier le tableau de bord. La documentation explique les champs de requête si vous voulez passer de SillyTavern à vos propres scripts plus tard. Les prompts ne sont pas utilisés pour l'entraînement.

Plus de guides

• API Ollama vs API OpenAI : laquelle convient à votre projet
• Exemple d’appel de fonctions de l’API Ollama avec le SDK OpenAI
• API XAI : Mythes contre Faits - Alternative sans censure