PL ▾

LLM API do napisów: koszt za 1 000 filmów

API LLM do napisów rozliczane jest za tokeny, a napisy są krótkie, więc rachunek jest mały: około $0,00012 za napis napisany z krótkiego transkryptu lub $0,12 za 1000 sztuk. Poniżej znajdziesz dokładne liczby, sposób na zmierzenie własnych zużyć i informacje o tym, gdzie faktycznie idą pieniądze.

Zaktualizowano

Przesuwające się po taśmociągu napisy wpadające do szczeliny monetowej, ilustrujące koszt generowania napisów za token

Kluczowe punkty

  • Cena to $0,15 za 1 mln tokenów wejściowych i $0,50 za 1 mln tokenów wyjściowych, w systemie przedpłaty, bez subskrypcji i bez darmowego planu.
  • Napis z transkryptu 400-tokenowego z odpowiedzią 120-tokenową kosztuje $0,00012, więc 100 000 napisów kosztuje $12,00.
  • Wejście zwykle dominuje w liczbie tokenów, ale wyjście kosztuje więcej za token; skróć oba.
  • Jednorazowy kredyt próbny $0,50 obejmuje około 4000 napisów o tym rozmiarze, a doładowania zaczynają się od kwoty $20.

Krótka odpowiedź

Wzór: koszt = tokeny wejściowe × $0,15 / 1 000 000 + tokeny wyjściowe × $0,50 / 1 000 000.

Zadanie generowania napisów ma dwie liczby tokenów: to, co wysyłasz (instrukcje plus tekst do opisu) i to, co otrzymujesz z powrotem (napisy). Podstaw obie wartości do wzoru i uzyskasz cenę jednego elementu. Pomnóż przez swoją objętość. To jest cały model: bez miejsc, bez opłaty miesięcznej, bez minimalnego zużycia. Doładowujesz kredyt, wydajesz go, gdy zapytania się powiodą, a zapytania, którym odmówiono lub które się nie powiodły, nie są rozliczane.

Reszta tej strony stosuje wzór do czterech powszechnych obciążeń pracą z napisami, a następnie pokazuje, jak zmierzyć rzeczywiste zużycie z własnego ruchu, aby przestać szacować.

Cztery obciążenia pracą z napisami, wycenione dokładnie

Poniższe liczby tokenów to zaokrąglone wartości wybrane, aby były realistyczne, a nie pomiary żadnego konkretnego narzędzia. Zastąp je swoimi.

ObciążenieTokeny wejściowe / wyjścioweNa elementNa 1 000Na 100 000
Krótki napis z tytułu i tagów150 / 40$0,0000225 + $0,00002 = $0,0000425$0.0425$4.25
Napis z transkryptu trwającego 2 minuty400 / 120$0.00006 + $0.00006 = $0.00012$0.12$12.00
Opis z przewodnikiem stylu o 1 500 tokenach1,800 / 100$0.00027 + $0.00005 = $0.00032$0.32$32.00
Podsumowanie transkryptu o 20 000 tokenach20,000 / 500$0.003 + $0.00025 = $0.00325$3.25$325.00

Aby sprawdzić jeden wiersz ręcznie: 400 tokenów wejściowych to 400 / 1 000 000 × $0,15 = $0,00006. 120 tokenów wyjściowych to 120 / 1 000 000 × $0,50 = $0,00006. Suma to $0,00012, a 1000 takich zestawów to $0,12.

Wyróżniają się dwie rzeczy. Koszt za element jest znikomy, dopóki wejście nie stanie się długie, a strona wejściowa rośnie najszybciej, gdy powtarzasz duży przewodnik po stylu w każdym zapytaniu. Trzeci wiersz wysyła 1500 tokenów zasad, aby wygenerować opis 100-tokenowy, więc około 83% tokenów wejściowych to ten sam tekst za każdym razem. Tam są oszczędności.

Dlaczego tokeny wyjściowe zasługują na uwagę

Koszty wyjścia wynoszą $0,50 za 1 mln, wobec $0,15 za wejście, co daje stosunek około 3,3 do 1. Opis to głównie wyjście, więc łatwo tam przepłacić, pozwalając modelowi na długie wypowiadanie się. Pomagają trzy nawyki:

  • Określ długość w promptcie: „jedno zdanie, poniżej 140 znaków” działa lepiej niż liczenie na szczęście.
  • Ustaw max_tokens jako limit bezpieczeństwa. Jest to opcja w tym API, ale limit 80 tokenów w zadaniu generowania opisu zapobiega sytuacji, w której niekontrolowana odpowiedź kosztuje więcej niż wartość samego materiału.
  • Poproś tylko o opis. Bez instrukcji modele lubią dodawać wstęp i ofertę korekty. Powiedz „odpowiedz tylko opisem i niczym więcej”.

Ograniczenie odpowiedzi z 120 tokenów do 60 oszczędza 60 × $0,50 / 1 000 000 = $0,00003 za element. Przy 100 000 napisach daje to $3,00, co stanowi ćwierć całego rachunku $12,00 za drugie obciążenie.

Zmierz własne liczby

Każda odpowiedź zawiera obiekt usage z liczbą tokenów promptu i uzupełnienia, więc nie musisz zgadywać. Nagłówki odpowiedzi zawierają również X-Balance-USD, pozostały kredyt po zapytaniu. Zaloguj oba przez dzień prawdziwego ruchu i uzyskasz swój prawdziwy średni koszt na element.

from openai import OpenAI
import os

client = OpenAI(api_key=os.environ["API_KEY"], base_url="https://api.unfilteredvideo.com/v1")
IN_PRICE, OUT_PRICE = 0.15 / 1_000_000, 0.50 / 1_000_000

def caption(transcript):
    raw = client.chat.completions.with_raw_response.create(
        model="uncensored",
        max_tokens=80,
        temperature=0.5,
        messages=[
            {"role": "system", "content": "Write one caption under 140 characters. Reply with the caption only."},
            {"role": "user", "content": transcript},
        ],
    )
    resp = raw.parse()
    u = resp.usage
    cost = u.prompt_tokens * IN_PRICE + u.completion_tokens * OUT_PRICE
    print(f"{u.prompt_tokens} in, {u.completion_tokens} out, ${cost:.6f}, balance {raw.headers.get('X-Balance-USD')}")
    return resp.choices[0].message.content

Prowadź bieżącą sumę w arkuszu kalkulacyjnym lub małej tabeli, pogrupowaną według wersji promptu. Gdy zmienisz prompt, koszt jednostkowy się zmienia i chcesz to zobaczyć przed rachunkiem.

Szacowanie tokenów przed uruchomieniem ruchu

Zanim będziesz miał prawdziwe logi, szacuj na podstawie długości tekstu. Dla angielskiej prozy przybliżona reguła to około cztery znaki na token lub trzy czwarte słowa. Inne języki i teksty pełne symboli lub kodu używają więcej tokenów na słowo, więc traktuj regułę jako minimum. Mowa trwająca dwie minuty przy około 150 słowach na minutę to około 300 słów, co daje około 400 tokenów. Stąd wiersz 400-tokenowy w tabeli.

Myśl w miesiącach, a nie w zapytaniach. Załóżmy, że publikujesz 30 filmów dziennie i piszesz do każdego jeden napis i jeden opis. Przy podanych wyżej stawkach koszt to $0.00012 + $0.00032 = $0.00044 za film, a 30 × 30 = 900 filmów miesięcznie kosztuje 900 × $0.00044 = $0.396, czyli około $0.40 miesięcznie. Większość zespołów stwierdzi, że model do opisywania nie jest ich głównym problemem kosztowym. Problemem są powtórzenia, zbyt długie prompty i zapomniane pętle testowe, które szybko pokazują się w dzienniku aktywności z sekcji powyżej.

Pięć sposobów na obniżenie rachunku

Skróć powtarzaną część

Systemowy prompt 1000-tokenowy wysłany z 100 000 napisami to 100 000 × 1000 = 100 mln tokenów wejściowych, czyli $15,00. Zmniejszenie go do 300 tokenów usuwa 70 mln tokenów i oszczędza $10,50. Zapisz zasady raz, prostymi słowami, a przykłady skróć do tych dwóch, które mają znaczenie.

Umieść kilka elementów w jednym zapytaniu

Jeśli instrukcje są długie, a materiały krótkie, grupuj je. Dwadzieścia osobnych zapytań z promptem 1000 tokenów i materiałem 100 tokenów wysyła 20 × 1100 = 22 000 tokenów wejściowych, co kosztuje $0.0033. Jedno zapytanie z jednym promptem i 20 materiałami wysyła 1000 + 20 × 100 = 3000 tokenów, co kosztuje $0.00045. Poproś o tablicę JSON (tryb JSON jest obsługiwany) i dopasuj wyniki do materiałów za pomocą pola identyfikatora. Kompromis polega na tym, że jedna niepoprawnie sformatowana odpowiedź kosztuje Cię całą grupę, więc trzymaj grupy wystarczająco małe, aby można było je ponowić próbę.

Pomiń model, gdy możesz

Jeśli napis to szablon z tytułem, użyj szablonu. Wysyłaj tylko elementy wymagające oceny: ton, streszczenie, przeredagowanie wokół materiału wrażliwego.

Ogranicz dane wejściowe, których nie potrzebujesz

Usuń znaczniki czasu, tagi mówiących i wypełniacz z transkryptu przed wysłaniem, jeśli napis ich nie używa. Mniej tokenów wejściowych to bezpośrednia oszczędność.

Nie płać dwukrotnie za to samo zadanie

Przechowuj każdy wynik kluczowany przez hash wejścia i wersji promptu. Ponowne uruchomienie katalogu po awarii nie powinno kosztować nic za elementy już zakończone.

Kredyt próbny, doładowania i co kupi $20

Nie ma darmowego planu. Nowi użytkownicy mogą odebrać $0.50 kredytu próbnego jednym kliknięciem na stronie klucza API po zalogowaniu się przez Google lub e-mail i hasło. Jest to jedna sztuka na osobę, ważna przez 7 dni, bez konieczności podania karty. Przy drugim typie zadania ($0.00012 za materiał) $0.50 pokrywa $0.50 / $0.00012 = około 4166 opisów. Przy stawce podsumowania 20 000 tokenów ($0.00325) pokrywa około 153.

Po okresie próbnym doładowujesz dowolną kwotę całkowitą od $20 do $500, płatną USDT na TRC20 lub USDC na Base. Przy cenie $0,00012 za napis $20 opłaca około 166 000 sztuk. Większe doładowania dają bonus: +5% od $50, +10% od $100, +15% od $200. Doładowanie $100 z bonusem 10% daje $110 kredytu, co wynosi około 916 000 napisów o tym rozmiarze. Kredyt nie wygasa, więc nie ma presji, aby wydać go w ciągu miesiąca. Aktualna tabela znajduje się na stronie cennika.

Kiedy to nie jest właściwy wybór

Bądź szczery co do dopasowania. Jeśli Twoje napisy są proste, bezpieczne i w dużym zakresie, a nie przeszkadza Ci uruchamianie małego modelu na własnym sprzęcie, wnioskowanie lokalne może być tańsze, gdy zliczysz tylko prąd. Jeśli potrzebujesz oficjalnego modelu dostawcy z konkretną marką za nim, to nie jest to ten przypadek: to jeden model o otwartych wagach uruchamiany przez niezależnego dostawcę, dostępny pod jednym identyfikatorem modelu, uncensored. Sprawdź aktualne ceny innych dostawców przed podjęciem decyzji, ponieważ się one zmieniają.

API pasuje do przypadków napisów i opisów do materiałów, które mainstreamowe API czasem odrzucają: opowieści kryminalne, horror, czarny humor, literatura dla dorosłych. Model odpowiada na te materiały bez odrzuceń treści dla prawnego użytku dorosłego, a odrzucone zapytania i tak nie są rozliczane. Obsługuje tylko tekst, więc nie transkrybuje audio ani nie renderuje klatek. Aby zobaczyć szerszy obraz tego, gdzie API wpisuje się w stos technologiczny, przeczytaj artykuł o potokach wideo, a szczegóły zapytań znajdziesz w poradniku szybkiego startu.

Pytania i odpowiedzi

Ile kosztuje napis na tym API?

Zależy od tokenów. Napis napisany na podstawie około 400 tokenów wejściowych z odpowiedzią 120 tokenów kosztuje $0,00012, więc 1000 napisów kosztuje $0,12 przy stawce $0,15 i $0,50 za 1 mln tokenów.

Czy dla zadań z napisami jest darmowy plan?

Nie. Nowi użytkownicy mogą zebrać jednorazowy kredyt próbny $0,50, ważny przez 7 dni bez karty. Po tym czasie kredyt pochodzi z doładowań przedpłaconych zaczynających się od $20.

Czy odrzucone lub nieudane zapytania są rozliczane?

Nie. Nieudane lub odrzucone zapytania nie są rozliczane, więc ponowne próby po błędzie nie zwiększają Twojej faktury.

Jak mogę zobaczyć, ile kosztowało każde zapytanie?

Przeczytaj obiekt użycia w odpowiedzi, aby uzyskać liczbę tokenów i pomnóż przez ceny za token. Nagłówek odpowiedzi X-Balance-USD pokazuje Twój pozostały kredyt.

Twój klucz jest o jeden formularz dalej

Utwórz konto, skopiuj klucz, zmień bazowy URL. To cała konfiguracja.

Pobierz klucz API