Configurazione API Ollama per SillyTavern: connetti un endpoint ospitato

Cosa ti serve prima di iniziare

Se hai cercato "ollama api sillytavern", probabilmente vuoi che SillyTavern comunichi con un modello tramite un indirizzo in stile OpenAI invece di un'installazione locale di Ollama. Funziona perché SillyTavern ti permette di aggiungere qualsiasi endpoint compatibile con OpenAI. Questa pagina lo collega a uno ospitato, il che significa che non serve una GPU dal tuo lato.

Ti servono tre cose: un'installazione funzionante di SillyTavern, una chiave API e i valori dell'endpoint. I valori sono:

• URL base: https://api.ollamaapi.com/v1
• ID modello: uncensored
• Autorizzazione: la tua chiave, inviata come token bearer (SillyTavern lo fa per te)

Per la chiave, accedi con Google o con email e password e apri la pagina chiave API. I nuovi utenti possono richiedere $0,50 di credito di prova con un clic. È uno per persona, valido per 7 giorni e non richiede carta. Le chiavi di prova sono limitate a 2 richieste parallele e 60 richieste al minuto, sufficienti per una chat singola.

Regola sui contenuti: il modello è calibrato per rispondere senza rifiuti sui contenuti per uso adulto lecito, il che si adatta a narrativa, roleplay e configurazioni companion per adulti. Non è consentito nulla che coinvolga minori, e l'endpoint ha un limite rigido su questo.

Testa la chiave con curl prima

Un test di cinque secondi fa risparmiare molto tempo nelle supposizioni. Se questo comando restituisce una risposta, la chiave, l'URL e l'ID del modello sono corretti e qualsiasi problema successivo è nelle impostazioni di SillyTavern.

Copycurl https://api.ollamaapi.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Say hello in one short sentence."}],
    "max_tokens": 40
  }'

Puoi anche elencare i modelli con GET https://api.ollamaapi.com/v1/models usando lo stesso header. Un 401 significa che la chiave è errata o mancante. Una risposta con testo in choices[0].message.content significa che sei pronto a configurare l'app.

Collega SillyTavern passo dopo passo

I nomi dei menu possono variare leggermente tra le versioni di SillyTavern, ma il percorso è stabile. Apri l'icona del connettore in alto, che è il pannello Connessioni API.

1. Imposta API su Chat Completion. Non usare Text Completion per questo endpoint, poiché offre solo chat completions.
2. Imposta Chat Completion Source su Custom (OpenAI-compatible).
3. In Endpoint Personalizzato (URL Base), inserisci https://api.ollamaapi.com/v1. Non aggiungere percorsi finali come /chat/completions.
4. Incolla la tua chiave in Custom API Key.
5. In ID Modello, digita uncensored. Se il campo offre un menu a discesa popolato dall'endpoint dei modelli, seleziona la stessa voce.
6. Premi Connetti. Uno stato verde con il nome del modello significa che il handshake è riuscito.

Apri una scheda personaggio e invia un messaggio breve. Se il testo scorre, hai completato la connessione. Le sezioni rimanenti coprono la messa a punto, perché le impostazioni predefinite non sono sempre le migliori per un modello ospitato con una grande finestra.

Un promemoria se vieni da Ollama: la connessione Ollama di SillyTavern usa un indirizzo locale e il percorso Text Completion. Questo percorso punta al tuo computer. Qui usi il percorso Chat Completion e un indirizzo HTTPS pubblico, quindi le due configurazioni non si mescolano.

Impostazioni da modificare

Dimensione del contesto

La finestra è di 100.000 token, prompt più completamento. SillyTavern ti permette di impostare una dimensione del contesto nel pannello del sampler, e l'app rimuove i messaggi più vecchi quando la chat supera questo limite. Un valore maggiore ricorda più della storia e costa di più, perché l'intera cronologia viene inviata come input ad ogni risposta.

Ecco un esempio svolto. Un turno di chat che invia 8.000 token di cronologia e riceve una risposta di 300 token costa 8.000 x $0,15 per 1M = $0,0012 per l'input, più 300 x $0,50 per 1M = $0,00015 per l'output. Sono $0,00135 per turno, quindi 100 turni costano $0,135. Aumenta la cronologia a 60.000 token e la parte di input da sola è $0,009 per turno, quindi 100 turni costano $0,90 più $0,015 per l'output, per un totale di $0,915. La maggior parte delle chat non ha bisogno di così tanto, e un riassunto degli eventi passati di solito funziona meglio della cronologia grezza.

Lunghezza massima della risposta

max_tokens è facoltativo. Impostare una lunghezza di risposta di 300-500 token mantiene le risposte ordinate e limita il costo dell'output. Aumentalo se il personaggio tende a essere tagliato a metà frase.

Campionamento

Temperatura, top_p, sequenze di stop, seed e le penalità di frequenza e presenza vengono passate al modello. Inizia vicino ai valori predefiniti di un preset di chat e cambia un valore alla volta. Se le risposte ripetono frasi, aumenta leggermente le penalità invece della temperatura.

Streaming

Lascia attivo lo streaming. Il testo appare mentre viene generato, usando SSE. L'utilizzo viene segnalato alla fine dello streaming. Nota che una richiesta in streaming mantiene uno slot di concorrenza fino al termine, quindi premere rigenera due volte velocemente su una chiave di prova (2 concorrenti) può produrre un errore.

Risoluzione dei Problemi

Sintomo	Causa probabile	Soluzione
401 Non autorizzato	Chiave errata o mancante	Incolla di nuovo la chiave e controlla gli spazi a entrambe le estremità
404 Non trovato	Percorso errato nell'URL base	Usa esattamente https://api.ollamaapi.com/v1, niente dopo di esso
Modello non trovato	ID modello errato	Digita uncensored in minuscolo
429 con concurrency	Troppe richieste contemporaneamente	Attendi che la risposta in corso termini; evita le chat di gruppo con una chiave di prova
429 con rate_limited	Superamento richieste al minuto	Rallenta; una chiave completa consente 300 al minuto
429 con Retry-After 5	Sovraccarico temporaneo	Riprova dopo cinque secondi
Messaggio CORS del browser	SillyTavern in esecuzione su un altro dispositivo o proxy	Abilita il percorso di richiesta lato server o eseguilo su una macchina

Le chat di gruppo meritano una nota. SillyTavern può inviare diverse risposte dei personaggi in sequenza o contemporaneamente. Se vedi errori di concorrenza con i gruppi, riduci il numero di personaggi attivi o passa a una chiave completa. Una chiave completa permette 8 richieste parallele.

Quando una risposta è vuota o tagliata, controlla prima l'impostazione della lunghezza di risposta, poi le sequenze di stop. Una stringa di stop che corrisponde a una parola comune termina la risposta anticipatamente senza errore.

Aggiungi credito e mantieni i costi prevedibili

Il credito di prova è sufficiente per provare la configurazione e valutare la scrittura. Al costo per turno dell'esempio sopra, $0,50 pagano circa 370 turni di una chat da 8.000 token (0,50 diviso per 0,00135). Dopo, ricarica da $20, in qualsiasi importo intero fino a $500. Sono accettati carta (Visa, Mastercard, Apple Pay, Google Pay) e cripto (USDT su TRC20, USDC su Base). Ricariche più grandi hanno un bonus: +5% da $50, +10% da $100 e +15% da $200. Il credito non scade mai, nulla si rinnova da solo e le richieste fallite o rifiutate non vengono addebitate. Vedi la pagina prezzi per la tabella completa.

Il saldo dopo ogni chiamata appare nell'intestazione di risposta X-Balance-USD, e puoi controllare anche la dashboard. Le documentazione spiegano i campi della richiesta se vuoi passare da SillyTavern ai tuoi script personali in seguito. I prompt non sono usati per l'addestramento.

Altre guide

• API Ollama vs API OpenAI: quale si adatta al tuo progetto
• Esempio di chiamata di funzioni API Ollama con l'SDK OpenAI
• API XAI: Miti vs Fatti - Alternativa senza censura