Бесплатный API для SillyTavern: пробный баланс и настройка

Что означает «бесплатно» здесь

Если вы ищете бесплатный API для SillyTavern, прямой ответ таков: никто не может бесконечно бесплатно запускать большую языковую модель, и этот сервис этого не обещает. Вы получаете бесплатный старт. После регистрации через Google или по email и паролю на странице API-ключа есть кнопка, которая позволяет получить $0,50 пробного баланса. Он предоставляется один раз на человека, действует 7 дней и не требует привязки способа оплаты.

Этот баланс — реальные средства, а не демо-версия, которая останавливается после трех сообщений. SillyTavern обращается к API так же, как к любому бэкенду, совместимому с OpenAI, используя модель uncensored, и каждый запрос списывается с баланса по цене $0,15 за 1 млн входных токенов и $0,50 за 1 млн выходных токенов. Когда пробный баланс закончится, вы решите, продолжать ли работу. Пополнения начинаются от $20, средства не сгорают, и нет подписки, которую нужно отменять.

Это одна модель с открытыми весами от независимого провайдера, настроенная на ответы без отказов по контенту для законного использования взрослыми. Это не официальный API какого-либо вендора моделей, и это только текст. Функции изображений и голоса в SillyTavern требуют отдельных сервисов; этот эндпоинт работает с чатом.

Что можно купить на $0,50 в чате SillyTavern

SillyTavern заново отправляет много текста на каждом ходе: описание персонажа, ваша персона, любые записи из книги лора, системный промпт и столько истории чата, сколько помещается в настройках контекста. Поэтому стоимость сообщения в основном определяется входной стороной. Вот два примера расчёта по реальным ценам.

Сценарий	Входные токены	Выходные токены	Стоимость за сообщение	Сообщения за $0,50
Лёгкий чат, короткая история	6 000	250	$0,001025	около 487
Длинный чат, большая книга лора	20 000	400	$0,0032	около 156

Расчет для первой строки: 6 000 входных токенов по $0,15 за 1 млн — это $0,0009, а 250 выходных токенов по $0,50 за 1 млн — это $0,000125. Сложите их, и вы получите $0,001025. Разделите $0,50 на эту сумму, и вы получите примерно 487 сообщений. Для второй строки: 20 000 входных токенов стоят $0,003, а 400 выходных токенов — $0,0002, итого $0,0032 за сообщение и около 156 сообщений.

Масштабируйте, и числа остаются небольшими. Тысяча сообщений лёгкого типа стоит $1,025. Тысяча тяжёлых сообщений стоит $3,20. Практический вывод: длина истории определяет сумму к оплате, а не длина ответа. Если сессия становится дорогой, сократите контекст, а не ответы.

Неудачные или отклонённые запросы не оплачиваются, поэтому ошибка подключения или отклонённый запрос не тратит ваш баланс. Вы можете следить за балансом в заголовке ответа X-Balance-USD, если тестируете с помощью curl, а на странице цен указаны уровни пополнения и бонусы.

Подключение SillyTavern шаг за шагом

1. Получите ключ

Зарегистрируйтесь на странице API-ключа, получите пробный баланс и скопируйте ключ. Относитесь к нему как к паролю. Если вы когда-нибудь вставите его в скриншот или общий пресет, замените его.

2. Протестируйте эндпоинт вне SillyTavern

Тест на тридцать секунд сэкономит много догадок в будущем. Если этот запрос вернёт ответ, ключ и URL верны:

Copycurl https://api.ttsapihub.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Reply with the word ready."}],
    "max_tokens": 10
  }'

3. Заполните панель подключения

Откройте значок вилки (API Connections) в SillyTavern. Установите тип API на Chat Completion, а источник завершения чата — на Custom (OpenAI-compatible). Названия меню немного меняются в разных версиях, но три поля всегда одинаковы:

• Custom Endpoint (Base URL): https://api.ttsapihub.com/v1
• Custom API Key: скопированный вами ключ
• Model ID: uncensored

Нажмите Connect. Зелёный статус означает, что SillyTavern смог связаться с эндпоинтом. Если вы вводите идентификатор модели вручную, а выпадающий список остаётся пустым, это нормально; поле принимает имя напрямую. Вы также можете проверить, какие модели отдаёт сервер, с помощью GET /v1/models.

Настройки, которые стоит изменить сразу

Настройки по умолчанию в SillyTavern рассчитаны на другие бэкенды, поэтому несколько изменений сразу окупятся.

Размер контекста

У модели контекстное окно на 100 000 токенов, разделяемое между промптом и ответом. Вам не нужно использовать его полностью. Многие сессии ролевой игры отлично работают с контекстом от 16 000 до 32 000 токенов, и счёт растёт с каждым отправленным токеном. Начните с 16 000 и увеличивайте только тогда, когда персонаж забывает то, что вам важно.

Максимальная длина ответа

Это устанавливает max_tokens. Это необязательный параметр на стороне API, но SillyTavern отправляет его, и это ваш лимит на болтливость. 300–500 даёт ответы длиной с чат. Для длинных сцен в рассказах увеличьте это значение.

Потоковая передача

Включите потоковую передачу. API отправляет события, отправляемые сервером, SillyTavern выводит ответ по мере поступления, и вы можете остановить заранее плохую генерацию. Одна вещь, которую стоит помнить: потоковый запрос удерживает слот параллельности до конца потока, поэтому не оставляйте зависшую генерацию работающей, пока вы пытаетесь сделать другую.

Сэмплирование

Temperature, top_p, стоп-последовательности, seed и штрафы за повторение передаются модели. Если модель кажется повторяющейся, немного увеличьте штрафы и меняйте одно значение за раз. Изменение пяти значений сразу ничего вам не скажет.

Лимиты, которые вы заметите в длительных сессиях

Полный ключ позволяет 8 одновременных запросов и 300 запросов в минуту. Пробный ключ позволяет 2 одновременных запроса и 60 в минуту. Для одного человека в одном чате этого достаточно. Место, где вы можете упереться в потолок, — это групповой чат, где SillyTavern может генерировать ответы нескольких персонажей один за другим, или когда вы открываете две вкладки браузера и перегенерируете в обеих.

Когда вы превысите лимит, API ответит HTTP 429. Код ошибки rate_limited появляется, когда вы отправили слишком много запросов в минуту, а concurrency — когда слишком много запросов находятся в обработке одновременно. При временной перегрузке вы также получите 429 с заголовком Retry-After: 5. В каждом случае решение одинаковое: подождите несколько секунд и нажмите перегенерировать. За неудачную попытку ничего не взимается.

Тело запроса может быть до 8 МБ, что далеко за пределами того, что нужно для промпта чата, даже с контекстом на 100 000 токенов.

Что делать, если подключение не работает

Симптом	Вероятная причина	Исправление
Статус остается красным после Connect	Неверно введён базовый URL или путь добавлен дважды	Используйте именно тот базовый URL, что указан выше, заканчивающийся на /v1, без /chat/completions в конце
401 Unauthorized	Ключ отсутствует, обрезан или вставлен с пробелом	Вставьте его снова и проверьте наличие ведущих или завершающих пробелов
Модель не найдена	Неверное имя модели	Установите идентификатор модели в значение uncensored строчными буквами
429 после нескольких свайпов	Ограничение параллельных запросов для пробного ключа: 2	Подождите завершения работающих генераций, затем повторите попытку
Ответ обрывается на полуслове	Слишком низкий лимит длины ответа	Увеличьте его или запросите продолжение

Если ни один из вариантов не подходит, повторите тест curl из шага 2. Если curl работает, а SillyTavern — нет, проблема в полях SillyTavern. Если curl тоже не работает, проверьте ключ и сеть. В документации по быстрому старту подробно описан формат запроса.

Контент, конфиденциальность и жёсткий лимит

Модель настроена так, чтобы сохранять роль в художественной литературе и ролевых играх между взрослыми, именно поэтому многие пользователи SillyTavern ищут такой бэкенд. Она предназначена для законного использования взрослыми. Одно правило не имеет исключений: запрещён сексуальный контент с участием несовершеннолетних в любом контексте, и запросы такого рода не являются тем, для чего существует этот сервис.

Что касается конфиденциальности, промпты не используются для обучения. Это заявление об этом сервисе; оно не охватывает то, что SillyTavern хранит на вашем компьютере, поэтому ваши журналы чата и файлы персонажей остаются там, где вы их храните.

Когда вы будете готовы перейти к платному использованию, на странице цен показаны варианты пополнения. Работает любая целая сумма от $20 до $500, с бонусом +5% к балансу от $50, +10% от $100 и +15% от $200. Принимаются карты (Visa, Mastercard, Apple Pay, Google Pay) и криптовалюта (USDT на TRC20, USDC на Base).

Дополнительные руководства

• Базовый URL TTS API: что это и что вводить
• Ключ TTS API в Python: настройка, потоковая передача, JSON-режим
• Чек-лист API Elevenlabs: конвейер TTS без цензуры