Ollama API SillyTavern-Einrichtung: Einen gehosteten Endpunkt verbinden

Was du vor dem Start benötigst

Wenn du nach ollama api sillytavern gesucht hast, willst du wahrscheinlich, dass SillyTavern über eine OpenAI-ähnliche Adresse mit einem Modell kommuniziert, statt eine lokale Ollama-Installation zu nutzen. Das funktioniert, weil SillyTavern dir erlaubt, jeden OpenAI-kompatiblen Endpunkt hinzuzufügen. Diese Seite verbindet ihn mit einem gehosteten, was bedeutet, dass keine GPU auf deiner Seite vorhanden ist.

Du brauchst drei Dinge: eine funktionierende SillyTavern-Installation, einen API-Schlüssel und die Endpunkt-Werte. Die Werte sind:

• Basis-URL: https://api.ollamaapi.com/v1
• Modell-ID: uncensored
• Authorization: dein Schlüssel, gesendet als Bearer-Token (SillyTavern erledigt das für dich)

Für den Schlüssel registriere dich mit Google oder mit E-Mail und Passwort und öffne die API-Schlüssel-Seite. Neue Nutzer können dort mit einem Klick $0,50 an Testguthaben beanspruchen. Es ist ein Guthaben pro Person, 7 Tage gültig und benötigt keine Karte. Test-Schlüssel sind auf 2 parallele Anfragen und 60 Anfragen pro Minute begrenzt, was für einen einzelnen Chat ausreicht.

Inhaltsregel: Das Modell ist darauf abgestimmt, ohne Inhaltsfilter für die legale Erwachsenennutzung zu antworten, was sich für Fiktion, Roleplay und Companion-Einrichtungen für Erwachsene eignet. Alles, was Minderjährige betrifft, ist nicht erlaubt, und der Endpunkt hat dafür eine harte Grenze.

Teste den Schlüssel zuerst mit curl

Ein Fünf-Sekunden-Test spart viel Raten. Wenn dieser Befehl eine Antwort zurückgibt, sind der Schlüssel, die URL und die Modell-ID korrekt, und jedes spätere Problem liegt in den SillyTavern-Einstellungen.

Copycurl https://api.ollamaapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one short sentence."}],
    "max_tokens": 40
  }'

Du kannst Modelle auch mit GET https://api.ollamaapi.com/v1/models auflisten, indem du denselben Header verwendest. Ein 401 bedeutet, dass der Schlüssel falsch oder fehlt. Eine Antwort mit Text in choices[0].message.content bedeutet, dass du bereit bist, die App zu konfigurieren.

SillyTavern Schritt für Schritt verbinden

Menünamen können sich zwischen SillyTavern-Versionen leicht verschieben, aber der Pfad ist stabil. Öffne das Plug-Symbol oben, das das API-Verbindungs-Panel ist.

1. Setze API auf Chat Completion. Verwende nicht Text Completion für diesen Endpunkt, da er nur Chat-Abschlüsse anbietet.
2. Setze Chat Completion Source auf Custom (OpenAI-compatible).
3. Gib in Benutzerdefinierter Endpunkt (Basis-URL) https://api.ollamaapi.com/v1 ein. Entferne jeden nachgestellten Pfad wie /chat/completions.
4. Füge deinen Schlüssel in Custom API Key ein.
5. Gib in Modell-ID uncensored ein. Wenn das Feld eine Dropdown-Liste bietet, die durch den Modelle-Endpunkt gefüllt wird, wähle denselben Eintrag.
6. Drücke Verbinden. Ein grüner Status mit dem Modellnamen bedeutet, dass der Handshake funktioniert hat.

Öffne eine beliebige Charakterkarte und sende eine kurze Nachricht. Wenn Text gestreamt wird, bist du mit der Verbindung fertig. Die verbleibenden Abschnitte behandeln die Feinabstimmung, da die Standardwerte nicht immer die beste Passform für ein gehostetes Modell mit großem Fenster haben.

Eine Erinnerung, wenn du von Ollama kommst: Die eigene Ollama-Verbindung von SillyTavern verwendet eine lokale Adresse und den Text Completion-Pfad. Dieser Pfad zeigt auf deinen eigenen Computer. Hier verwendest du stattdessen den Chat Completion-Pfad und eine öffentliche HTTPS-Adresse, sodass sich die beiden Einrichtungsarten nicht vermischen.

Einstellungen, die sich ändern lohnen

Kontextgröße

Das Kontextfenster umfasst 100.000 Token, Prompt plus Antwort. SillyTavern erlaubt es dir, eine Kontextgröße im Sampler-Panel festzulegen, und die App löscht die ältesten Nachrichten, wenn der Chat darüber hinaus wächst. Ein höherer Wert merkt sich mehr von der Geschichte, kostet aber auch mehr, da die gesamte Historie bei jeder Antwort als Input gesendet wird.

Hier ist ein durchgerechnetes Beispiel. Eine Chat-Runde, die 8.000 Token an Historie sendet und eine 300-Token-Antwort empfängt, kostet 8.000 x $0,15 pro 1 Mio. = $0,0012 für den Input, plus 300 x $0,50 pro 1 Mio. = $0,00015 für den Output. Das sind $0,00135 pro Runde, also kosten 100 Runden $0,135. Erhöhe die Historie auf 60.000 Token, und allein der Input-Teil kostet $0,009 pro Runde, also $0,90 für 100 Runden, plus $0,015 für den Output, insgesamt $0,915. Die meisten Chats brauchen das nicht, und eine Zusammenfassung alter Ereignisse funktioniert meist besser als die rohe Historie.

Maximale Antwortlänge

max_tokens ist optional. Das Festlegen einer Antwortlänge von 300 bis 500 Token hält Antworten ordentlich und begrenzt die Output-Kosten. Erhöhe es, wenn der Charakter dazu neigt, mitten im Satz abgeschnitten zu werden.

Sampling

Temperatur, top_p, Stop-Sequenzen, Seed und die Häufigkeits- und Präsenzstrafen werden an das Modell weitergegeben. Starte nahe den Standardwerten eines Chat-Presets und ändere einen Wert nach dem anderen. Wenn Antworten Phrasen wiederholen, erhöhe die Strafen etwas statt die Temperatur.

Streaming

Lasse Streaming aktiviert. Text erscheint, während er generiert wird, unter Verwendung von SSE. Die Nutzung wird am Ende des Streams gemeldet. Beachte, dass eine Streaming-Anfrage einen Parallelitätsplatz belegt, bis sie abgeschlossen ist, sodass ein zweimaliges schnelles Drücken von Neugenerieren bei einem Test-Schlüssel (2 parallele Anfragen) einen Fehler verursachen kann.

Fehlerbehebung

Symptom	Wahrscheinliche Ursache	Lösung
401 Unauthorized	Falscher oder fehlender Schlüssel	Gib den Schlüssel erneut ein und überprüfe Leerzeichen an beiden Enden
404 Nicht gefunden	Falscher Pfad in der Basis-URL	Verwende exakt https://api.ollamaapi.com/v1, nichts danach
Modell nicht gefunden	Falsche Modell-ID	Gib uncensored in Kleinbuchstaben ein
429 mit concurrency	Zu viele Anfragen gleichzeitig	Warte, bis die laufende Antwort endet; vermeide Gruppenchats mit einem Trial-Key
429 mit rate_limited	Über Anfragen pro Minute	Verlangsame; ein vollwertiger Schlüssel erlaubt 300 pro Minute
429 mit Retry-After 5	Vorübergehende Überlastung	Warte fünf Sekunden und versuche es erneut
CORS-Fehlermeldung im Browser	SillyTavern auf einem anderen Gerät oder Proxy ausgeführt	Aktiviere seinen serverseitigen Anfragepfad oder führe ihn auf einer Maschine aus

Gruppenchats verdienen einen Hinweis. SillyTavern kann mehrere Charakter-Antworten nacheinander oder gleichzeitig senden. Wenn du bei Gruppen Concurrency-Fehler siehst, reduziere die Anzahl aktiver Charaktere oder wechsle vom Trial-Schlüssel auf einen vollwertigen Schlüssel. Ein vollwertiger Schlüssel erlaubt 8 parallele Anfragen.

Wenn eine Antwort leer oder abgeschnitten ist, schaue zuerst auf die Antwortlängeneinstellung, dann auf die Stop-Sequenzen. Ein Stop-String, der mit einem häufigen Wort übereinstimmt, beendet die Antwort frühzeitig ohne Fehler.

Guthaben aufladen und Kosten planbar halten

Das Testguthaben reicht, um die Einrichtung zu testen und das Schreiben zu bewerten. Bei den pro Runde anfallenden Kosten aus dem obigen Beispiel bezahlt $0,50 etwa 370 Runden eines 8.000-Token-Chats (0,50 geteilt durch 0,00135). Danach lade mit einem beliebigen Gesamtbetrag ab $20 bis maximal $500 auf. Karte (Visa, Mastercard, Apple Pay, Google Pay) und Krypto (USDT auf TRC20, USDC auf Base) werden akzeptiert. Größere Aufladungen bringen einen Bonus: +5 % ab $50, +10 % ab $100 und +15 % ab $200. Guthaben verfällt nie, nichts verlängert sich automatisch, und fehlgeschlagene oder abgelehnte Anfragen werden nicht berechnet. Sieh dir die Preisseite für die vollständige Tabelle an.

Der Saldo nach jedem Aufruf erscheint im X-Balance-USD-Antwortheader, und du kannst das Dashboard ebenfalls prüfen. Die Dokumentation erklärt die Anfragefelder, wenn du später von SillyTavern zu eigenen Skripten wechseln möchtest. Prompts werden nicht zum Training verwendet.

Weitere Anleitungen

• Ollama API vs. OpenAI API: Welche passt zu deinem Projekt
• Ollama API Function Calling Beispiel mit dem OpenAI SDK
• XAI API: Mythen vs Fakten - Unzensierte Alternative