Ollama API SillyTavern-configuratie: Verbinding maken met een gehost endpoint

Wat je nodig hebt voordat je begint

Als je zocht naar ollama api sillytavern, wil je waarschijnlijk dat SillyTavern communiceert met een model via een OpenAI-achtig adres in plaats van een lokale Ollama-installatie. Dat kan, omdat SillyTavern je elk OpenAI-compatible endpoint laat toevoegen. Deze pagina verbindt het met een gehost endpoint, wat betekent dat je geen GPU aan je kant nodig hebt.

Je hebt drie dingen nodig: een werkende SillyTavern-installatie, een API-sleutel en de endpoint-waarden. De waarden zijn:

• Basis-URL: https://api.ollamaapi.com/v1
• Model-ID: uncensored
• Autorisatie: je sleutel, verzonden als bearer token (SillyTavern doet dit voor je)

Voor de sleutel, meld je aan met Google of e-mail en wachtwoord en open de API-sleutelpagina. Nieuwe gebruikers kunnen daar met één klik $0,50 aan gratis proeftegoed claimen. Dit is één per persoon, geldig voor 7 dagen en zonder kaart. Proefsleutels zijn beperkt tot 2 gelijktijdige verzoeken en 60 verzoeken per minuut, wat genoeg is voor één chat.

Inhoudsregel: het model is afgestemd op antwoorden zonder inhoudelijke weigeringen voor wettelijk volwassen gebruik, wat past bij fictie, rollenspel en companion-configuraties voor volwassenen. Alles wat minderjarigen betreft is niet toegestaan, en het endpoint heeft daar een harde limiet op.

Test de sleutel eerst met curl

Een test van vijf seconden bespaart veel raden. Als dit commando een antwoord retourneert, zijn de sleutel, de URL en de model-ID correct, en ligt elk later probleem bij de SillyTavern-instellingen.

Copycurl https://api.ollamaapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one short sentence."}],
    "max_tokens": 40
  }'

Je kunt modellen ook opsommen met GET https://api.ollamaapi.com/v1/models met dezelfde header. Een 401 betekent dat de sleutel fout of ontbreekt. Een antwoord met tekst in choices[0].message.content betekent dat je klaar bent om de app te configureren.

Verbind SillyTavern stap voor stap

Menu-indelingen kunnen iets verschuiven tussen SillyTavern-versies, maar het pad is stabiel. Open het stekkerpictogram bovenaan, dat het API-verbindingenpaneel is.

1. Stel API in op Chat Completion. Gebruik geen Tekstaanvulling voor dit endpoint, omdat het alleen chataanvullingen biedt.
2. Stel Chat Completion Source in op Custom (OpenAI-compatible).
3. Voer in Aangepast endpoint (basis-URL) https://api.ollamaapi.com/v1 in. Laat een eventueel pad zoals /chat/completions weg.
4. Plak je sleutel in Custom API Key.
5. Typ in Model-ID uncensored. Als het veld een dropdown biedt gevuld door de models-route, kies dan dezelfde invoer.
6. Druk op Verbinden. Een groene status met de modelnaam betekent dat de handdruk werkte.

Open een willekeurig karakterkaart en stuur een kort bericht. Als tekst streamt, ben je klaar met de verbinding. De resterende secties behandelen afstelling, omdat de standaardwaarden niet altijd het beste passen bij een gehost model met een groot venster.

Een herinnering als je van Ollama komt: de eigen Ollama-verbinding van SillyTavern gebruikt een lokaal adres en het pad Tekstaanvulling. Dat pad wijst naar je eigen computer. Hier gebruik je het pad Chat Completion en een openbaar HTTPS-adres, zodat de twee setup's niet mengen.

Instellingen die de moeite waard zijn om aan te passen

Contextvenstergrootte

Het contextvenster is 100.000 tokens, prompt plus completion. SillyTavern stelt je in staat de contextgrootte in te stellen in het sampler-paneel, en de app verwijdert de oudste berichten wanneer de chat daarboven uitgroeit. Een hogere waarde onthoudt meer van het verhaal en kost ook meer, omdat de volledige geschiedenis bij elk antwoord als input wordt verzonden.

Hier is een uitgewerkt voorbeeld. Een chatbeurt die 8.000 tokens geschiedenis verstuurt en een antwoord van 300 tokens ontvangt, kost 8.000 x $0,15 per 1M = $0,0012 voor input, plus 300 x $0,50 per 1M = $0,00015 voor output. Dat is $0,00135 per beurt, dus 100 beurten kosten $0,135. Verhoog de geschiedenis naar 60.000 tokens en alleen het inputgedeelte kost $0,009 per beurt, dus 100 beurten kosten $0,90 plus $0,015 voor output, of $0,915 in totaal. De meeste chats hebben dat niet nodig, en een samenvatting van oude gebeurtenissen werkt meestal beter dan ruwe geschiedenis.

Maximale responslengte

max_tokens is optioneel. Het instellen van een responslengte van 300 tot 500 tokens houdt de antwoorden netjes en beperkt de uitvoerkosten. Verhoog deze waarde als het personage de neiging heeft om midden in een zin afgekapt te worden.

Sampling

Temperatuur, top_p, stop-reeksen, seed en de frequentie- en aanwezigheidsstraffen worden doorgegeven aan het model. Begin dicht bij de standaardwaarden van een chatpreset en verander één waarde tegelijk. Als antwoorden zinnen herhalen, verhoog dan de straffen iets in plaats van de temperatuur.

Streaming

Laat streaming aan. Tekst verschijnt terwijl deze wordt gegenereerd, met gebruik van SSE. Gebruik wordt gemeld aan het einde van de stream. Houd er rekening mee dat een streaming-verzoek een concurrency-slot vasthoudt tot het klaar is, dus het twee keer snel achter elkaar regenereren op een proefsleutel (2 gelijktijdig) kan een fout opleveren.

Probleemoplossing

Symptoom	Waarschijnlijke oorzaak	Oplossing
401 Niet geautoriseerd	Verkeerde of ontbrekende sleutel	Plak de sleutel opnieuw en controleer op spaties aan beide uiteinden
404 Niet gevonden	Onjuist pad in de basis-URL	Gebruik exact https://api.ollamaapi.com/v1, niets erna
Model niet gevonden	Foute model-ID	Typ uncensored in kleine letters
429 met concurrency	Te veel verzoeken tegelijk	Wacht tot het lopende antwoord eindigt; vermijd groepschats op een proefsleutel
429 met rate_limited	Aantal verzoeken per minuut overschreden	Vertraag; een volledige sleutel staat 300 per minuut toe
429 met Retry-After 5	Tijdelijke overbelasting	Probeer het opnieuw na vijf seconden
Browser CORS-bericht	SillyTavern op een ander apparaat of proxy	Schakel het server-side pad in of draai het op één machine

Groepschats verdienen een noot. SillyTavern kan meerdere personage-antwoorden achtereenvolgens of tegelijk versturen. Als je concurrency-fouten ziet bij groepen, verlaag dan het aantal actieve personages of upgrade van de proefsleutel. Een volledige sleutel staat 8 gelijktijdige verzoeken toe.

Wanneer een antwoord leeg of afgebroken is, kijk dan eerst naar de instelling voor responslengte, daarna naar de stop-reeksen. Een stop-string die overeenkomt met een veelgebruikt woord beëindigt het antwoord vroegtijdig zonder fout.

Tegoed bijmaken en kosten voorspelbaar houden

Het proeftegoed is genoeg om de setup te proberen en de kwaliteit van de tekst te beoordelen. Bij de kosten per beurt uit het voorbeeld hierboven, betaalt $0,50 ongeveer 370 beurten voor een chat van 8.000 tokens (0,50 gedeeld door 0,00135). Daarna kun je opwaarderen vanaf $20, in elk geheel bedrag tot $500. Kaart (Visa, Mastercard, Apple Pay, Google Pay) en crypto (USDT op TRC20, USDC op Base) worden geaccepteerd. Grotere opwaarderingen hebben een bonus: +5% vanaf $50, +10% vanaf $100 en +15% vanaf $200. Credit verloopt nooit, niets vernieuwt zich automatisch, en mislukte of geweigerde verzoeken worden niet in rekening gebracht. Zie de prijzenpagina voor de volledige tabel.

Het saldo na elke aanroep verschijnt in de X-Balance-USD response header, en je kunt het dashboard ook controleren. De docs verklaren de request velden als je later van SillyTavern naar je eigen scripts wilt overstappen. Prompts worden niet gebruikt voor training.

Meer handleidingen

• Ollama API vs OpenAI API: welke past bij je project
• Voorbeeld voor Ollama API Tool Calling met de OpenAI SDK
• XAI API: Mythes vs Feiten - Ongecensureerd Alternatief