VI ▾
API văn bản không kiểm duyệt cho pipeline TTShttps://api.ttsapihub.com/v1

API miễn phí cho SillyTavern: Tín dụng dùng thử và thiết lập

SillyTavern hoạt động với bất kỳ endpoint nào tương thích OpenAI, nên việc kết nối chỉ cần ba trường. Trang này hiển thị cài đặt, chi phí cho mỗi tin nhắn và các giới hạn quan trọng trong các phiên đóng vai dài.

Cập nhật

Cửa sổ trò chuyện được nối với khối máy chủ bằng cáp phát sáng, minh họa kết nối API SillyTavern

Điểm chính

  • Bạn có điểm khởi đầu miễn phí, không phải miễn phí mãi mãi: $0.50 tín dụng dùng thử bằng một cú nhấp chuột, có hiệu lực trong 7 ngày, không cần phương thức thanh toán.
  • Trong SillyTavern, chọn Chat Completion, sau đó Custom (OpenAI-compatible), rồi dán base URL, khóa của bạn và model ID uncensored.
  • Một tin nhắn trò chuyện điển hình tốn một phần nhỏ của một xu, nên tín dụng dùng thử đủ cho hàng trăm tin nhắn.
  • Các khóa dùng thử cho phép 2 yêu cầu đồng thời, điều này đáng biết trước khi bạn chạy các cuộc trò chuyện nhóm.

Ý nghĩa của từ "miễn phí" ở đây

Nếu bạn đang tìm kiếm một api miễn phí cho sillytavern, câu trả lời thẳng thắn là không ai có thể chạy mô hình ngôn ngữ lớn miễn phí mãi mãi, và dịch vụ này không giả vờ khác. Bạn nhận được điểm khởi đầu miễn phí. Sau khi đăng ký bằng Google hoặc email và mật khẩu, trang khóa API có một nút để nhận $0.50 tín dụng dùng thử. Mỗi người chỉ nhận một lần, tín dụng có hiệu lực trong 7 ngày và không cần phương thức thanh toán.

Tín dụng này là sử dụng thực sự, không phải bản demo dừng lại sau ba tin nhắn. SillyTavern giao tiếp với API chính xác như khi nó giao tiếp với bất kỳ backend tương thích OpenAI nào, sử dụng mô hình uncensored, và mọi yêu cầu đều trừ từ số dư với giá $0.15 cho mỗi 1M input tokens và $0.50 cho mỗi 1M output tokens. Khi hết tín dụng dùng thử, bạn quyết định có tiếp tục hay không. Nạp tiền bắt đầu từ $20, tín dụng không bao giờ hết hạn và không có gói đăng ký để hủy.

Mô hình là một mô hình trọng số mở đơn lẻ do một nhà cung cấp độc lập chạy và được tinh chỉnh để trả lời mà không từ chối nội dung cho mục đích người trưởng thành hợp pháp. Đây không phải là API chính thức của bất kỳ nhà cung cấp mô hình nào và nó chỉ xử lý văn bản. Các tính năng hình ảnh và giọng nói của SillyTavern cần các dịch vụ riêng; endpoint này chỉ xử lý trò chuyện.

$0.50 mua được gì trong một cuộc trò chuyện SillyTavern

SillyTavern gửi lại rất nhiều văn bản trong mỗi lượt: mô tả nhân vật, persona của bạn, bất kỳ mục nào trong lorebook được kích hoạt, system prompt và lịch sử trò chuyện nhiều nhất có thể vừa với cài đặt context của bạn. Vì vậy, chi phí cho một tin nhắn chủ yếu là phía input. Dưới đây là hai ví dụ tính toán với giá thực tế.

Kịch bảnToken đầu vàoToken đầu raChi phí cho mỗi tin nhắnTin nhắn trong $0.50
Trò chuyện nhẹ, lịch sử ngắn6.000250$0.001025khoảng 487
Trò chuyện dài, lorebook lớn20.000400$0.0032khoảng 156

Phép tính cho hàng đầu tiên: 6.000 input tokens với giá $0.15 cho mỗi 1M là $0.0009, và 250 output tokens với giá $0.50 cho mỗi 1M là $0.000125. Cộng chúng lại và bạn được $0.001025. Chia $0.50 cho giá trị đó và bạn nhận được khoảng 487 tin nhắn. Đối với hàng thứ hai, 20.000 input tokens tốn $0.003 và 400 output tokens tốn $0.0002, vậy $0.0032 cho mỗi tin nhắn và khoảng 156 tin nhắn.

Nhân lên và các con số vẫn nhỏ. Một nghìn tin nhắn loại nhẹ tốn $1.025. Một nghìn tin nhắn loại nặng tốn $3.20. Bài học thực tế là độ dài lịch sử quyết định hóa đơn của bạn, không phải độ dài phản hồi. Nếu một phiên trở nên đắt đỏ, hãy giảm context thay vì giảm độ dài phản hồi.

Các yêu cầu thất bại hoặc bị từ chối không bị tính phí, nên lỗi kết nối hoặc yêu cầu bị từ chối không làm giảm số dư của bạn. Bạn có thể theo dõi số dư trong header phản hồi X-Balance-USD nếu bạn kiểm tra bằng curl, và trang giá cả có các mức nạp tiền và ưu đãi.

Kết nối SillyTavern từng bước một

1. Lấy khóa

Đăng ký trên trang khóa API, nhận tín dụng dùng thử và sao chép khóa. Hãy coi nó như mật khẩu. Nếu bạn từng dán nó vào ảnh chụp màn hình hoặc preset dùng chung, hãy thay thế nó.

2. Kiểm tra endpoint ngoài SillyTavern

Một thử nghiệm 30 giây tiết kiệm rất nhiều việc đoán mò sau này. Nếu lệnh này trả về phản hồi, khóa và URL là đúng:

curl https://api.ttsapihub.com/v1/chat/completions \
  -H "Authorization: Bearer YOUR_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "uncensored",
    "messages": [{"role": "user", "content": "Reply with the word ready."}],
    "max_tokens": 10
  }'

3. Điền vào bảng kết nối

Mở biểu tượng ổ cắm (API Connections) trong SillyTavern. Đặt loại API thành Chat Completion và nguồn chat completion thành Custom (OpenAI-compatible). Tên menu thay đổi một chút giữa các bản phát hành, nhưng ba trường luôn giống nhau:

  • Điểm cuối tùy chỉnh (URL cơ sở): https://api.ttsapihub.com/v1
  • Custom API Key: khóa bạn đã sao chép
  • ID mô hình: uncensored

Nhấn Connect. Trạng thái xanh lá nghĩa là SillyTavern đã kết nối được với endpoint. Nếu bạn nhập model ID bằng tay và dropdown vẫn trống, điều đó ổn; trường này chấp nhận tên trực tiếp. Bạn cũng có thể kiểm tra những gì máy chủ liệt kê bằng GET /v1/models.

Cài đặt đáng thay đổi ngay lập tức

Các cài đặt mặc định của SillyTavern được tinh chỉnh cho các backend khác, nên một vài thay đổi sẽ mang lại lợi ích ngay lập tức.

Kích thước cửa sổ ngữ cảnh

Mô hình có cửa sổ ngữ cảnh 100.000 token, được chia sẻ giữa prompt và phản hồi. Bạn không cần phải sử dụng hết. Nhiều phiên đóng vai hoạt động tốt ở mức 16.000 đến 32.000 token context, và hóa đơn tăng lên với mỗi token bạn gửi lại. Hãy bắt đầu ở mức 16.000 và chỉ tăng khi nhân vật quên những gì bạn quan tâm.

Độ dài phản hồi tối đa

Điều này đặt max_tokens. Nó là tùy chọn ở phía API, nhưng SillyTavern gửi nó và nó là giới hạn của bạn đối với việc nói dài dòng. 300 đến 500 cho phản hồi độ dài trò chuyện. Đối với các cảnh truyện dài, hãy tăng nó lên.

Truyền phát

Bật chế độ truyền phát. API gửi các sự kiện do máy chủ gửi, SillyTavern in phản hồi khi nó đến và bạn có thể dừng một bản tạo kém chất lượng sớm. Một điều cần nhớ: một yêu cầu truyền phát giữ khe yêu cầu đồng thời của nó cho đến khi luồng kết thúc, vì vậy đừng để một bản tạo bị treo chạy trong khi bạn thử cái khác.

Lấy mẫu

Temperature, top_p, chuỗi dừng, seed và các hình phạt lặp lại được chuyển tiếp đến mô hình. Nếu mô hình cảm thấy lặp lại, hãy tăng nhẹ các hình phạt và thay đổi một giá trị tại một thời điểm. Thay đổi năm giá trị cùng lúc không cho bạn biết gì.

Các giới hạn bạn sẽ nhận thấy trong các phiên dài

Khóa đầy đủ cho phép 8 yêu cầu đồng thời và 300 yêu cầu mỗi phút. Khóa dùng thử cho phép 2 yêu cầu đồng thời và 60 mỗi phút. Đối với một người trong một cuộc trò chuyện đơn lẻ thì điều đó là đủ. Nơi bạn có thể đạt đến giới hạn là một cuộc trò chuyện nhóm, nơi SillyTavern có thể tạo phản hồi của nhiều nhân vật liên tiếp, hoặc khi bạn mở hai tab trình duyệt và tạo lại trong cả hai.

Khi bạn vượt quá giới hạn, API trả về HTTP 429. Mã lỗi là rate_limited khi bạn đã gửi quá nhiều yêu cầu mỗi phút và concurrency khi quá nhiều yêu cầu đang được xử lý cùng lúc. Khi quá tải tạm thời, bạn cũng nhận được 429 với header Retry-After: 5. Trong mọi trường hợp, cách khắc phục giống nhau: đợi vài giây và nhấn tạo lại. Không có gì được tính phí cho lần thử thất bại.

Thân yêu cầu có thể lên đến 8 MB, điều này xa vời so với những gì một prompt trò chuyện cần, ngay cả với cửa sổ ngữ cảnh 100.000 token.

Khắc phục sự cố kết nối không hoạt động

Triệu chứngNguyên nhân có thểCách khắc phục
Trạng thái vẫn đỏ sau khi Kết nốiBase URL nhập sai hoặc đường dẫn được nối hai lầnSử dụng chính xác URL cơ sở ở trên, kết thúc bằng /v1, không có /chat/completions ở cuối
401 Không được ủy quyềnThiếu khóa, bị cắt ngắn hoặc dán kèm khoảng trắngDán lại và kiểm tra xem có khoảng trắng ở đầu hoặc cuối không
Không tìm thấy mô hìnhTên mô hình saiĐặt model ID thành uncensored viết thường
Lỗi 429 sau vài lần vuốtĐộ đồng thời của khóa dùng thử là 2Đợi các bản tạo đang chạy hoàn tất, sau đó thử lại
Phản hồi bị ngắt quãng giữa câuĐộ dài phản hồi tối đa quá thấpTăng nó lên hoặc yêu cầu phần tiếp theo

Nếu không có gì trong số đó giải thích được, hãy chạy lại thử nghiệm curl từ bước 2. Khi curl hoạt động và SillyTavern không hoạt động, vấn đề nằm ở các trường SillyTavern. Khi curl cũng thất bại, hãy kiểm tra khóa và mạng của bạn. Tài liệu quickstart liệt kê đầy đủ định dạng yêu cầu.

Nội dung, quyền riêng tư và giới hạn cứng

Mô hình được tinh chỉnh để giữ nhân vật cho truyện và đóng vai giữa những người trưởng thành, đó là lý do nhiều người dùng SillyTavern tìm kiếm một backend như thế này. Nó dành cho mục đích người trưởng thành hợp pháp. Một quy tắc không có ngoại lệ: không có nội dung tình dục liên quan đến người chưa thành niên, trong bất kỳ khung cảnh nào, và các yêu cầu như vậy không phải là thứ mà dịch vụ này tồn tại để hỗ trợ.

Về quyền riêng tư, các prompt không được sử dụng để huấn luyện. Đó là tuyên bố về dịch vụ này; nó không bao gồm những gì SillyTavern tự lưu trữ trên máy của bạn, vì vậy nhật ký trò chuyện và tệp nhân vật của bạn vẫn ở bất cứ nơi nào bạn lưu trữ chúng.

Khi bạn sẵn sàng chuyển sang giai đoạn sau bản dùng thử, trang giá cả hiển thị các tùy chọn nạp tiền. Mọi số tiền nguyên từ $20 đến $500 đều hoạt động, với +5% tín dụng từ $50, +10% từ $100 và +15% từ $200. Thẻ (Visa, Mastercard, Apple Pay, Google Pay) và tiền mã hóa (USDT trên TRC20, USDC trên Base) đều được chấp nhận.

Hỏi đáp

Có thực sự gói miễn phí cho SillyTavern không?

Có một lần dùng thử với số dư tín dụng $0.50, được nhận chỉ bằng một cú nhấp chuột trên trang khóa API sau khi đăng ký. Nó kéo dài 7 ngày và không cần thẻ. Sau đó, bạn trả tiền theo token từ tín dụng trả trước.

Tôi nhập model ID nào trong SillyTavern?

Nhập uncensored, viết thường. URL cơ sở là https://api.ttsapihub.com/v1 và khóa được điền vào trường Custom API Key.

Tại sao tôi nhận lỗi 429 khi tạo lại nhanh?

Khóa dùng thử cho phép 2 yêu cầu đồng thời, và một phản hồi dạng stream giữ khe của nó cho đến khi hoàn tất. Chờ vài giây và thử lại; các yêu cầu thất bại không bị tính phí.

API có tạo hình ảnh hoặc giọng nói cho SillyTavern không?

Không. Nó chỉ xử lý văn bản, không tạo hình ảnh, âm thanh hoặc video và không có embedding.

Tôi có thể đặt giới hạn chi tiêu không?

Bạn thanh toán từ tín dụng trả trước, vì vậy bạn chỉ có thể chi trả số tiền bạn đã nạp. Theo dõi tiêu đề phản hồi X-Balance-USD để xem số dư còn lại.

Khóa của bạn chỉ cách một bước nữa là xong

Tạo tài khoản, sao chép khóa, thay đổi URL cơ sở. Đó là toàn bộ thiết lập.

Lấy khóa API