TH ▾

LLM API สำหรับแคปชัน: ค่าใช้จ่ายต่อ 1,000 วิดีโอ

API LLM สำหรับแคปชันคิดเงินตามโทเคน และแคปชันมีขนาดสั้น ดังนั้นบิลจึงน้อย: ประมาณ $0.00012 สำหรับแคปชันที่เขียนจากบทถอดเสียงสั้น หรือ $0.12 ต่อ 1,000 รายการ ด้านล่างคือตัวเลขที่แม่นยำ วิธีวัดปริมาณการใช้งานด้วยตัวเอง และรายละเอียดการใช้จ่ายจริง

อัปเดตล่าสุด

แถบคำบรรยายเคลื่อนที่ไปตามสายพานเข้าสู่ช่องใส่เหรียญ แสดงถึงต้นทุนต่อโทเคนของการสร้างแคปชัน

ประเด็นสำคัญ

  • ราคา $0.15 ต่อ 1 ล้านโทเคนอินพุต และ $0.50 ต่อ 1 ล้านโทเคนเอาต์พุต แบบเติมเงินล่วงหน้า ไม่มีแพ็กเกจสมาชิกและไม่มีระดับบริการฟรี
  • แคปชันจากบทถอดเสียง 400 โทเคนพร้อมคำตอบ 120 โทเคนมีค่าใช้จ่าย $0.00012 ดังนั้นแคปชัน 100,000 รายการมีค่าใช้จ่าย $12.00
  • โทเคนอินพุตมักจะเป็นตัวกำหนดจำนวนโทเคนหลัก แต่โทเคนเอาต์พุตมีราคาต่อโทเคนสูงกว่า; ปรับปรุงทั้งสองส่วน
  • เครดิตทดลองใช้ครั้งเดียว $0.50 ครอบคลุมแคปชันขนาดนั้นประมาณ 4,000 รายการ และการเติมเงินเริ่มต้นที่ $20

คำตอบแบบสั้น

สูตร: ค่าใช้จ่าย = จำนวนโทเคนอินพุต × $0.15 / 1,000,000 + จำนวนโทเคนเอาต์พุต × $0.50 / 1,000,000.

งานแคปชันมีจำนวนโทเคนสองส่วน: สิ่งที่คุณส่ง (คำสั่งรวมกับข้อความที่จะแคปชัน) และสิ่งที่ได้รับกลับ (แคปชัน) นำทั้งสองค่ามาใส่ในสูตรเพื่อหาราคาต่อรายการ คูณด้วยปริมาณงานของคุณ นั่นคือโมเดลทั้งหมด: ไม่มีที่นั่ง ไม่มีค่าธรรมเนียมรายเดือน ไม่มีปริมาณการใช้งานขั้นต่ำ เติมเครดิตแล้วใช้เมื่อคำขอสำเร็จ และคำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่ถูกคิดเงิน

ส่วนที่เหลือของหน้านี้จะนำสูตรไปใช้กับงานสร้างคำบรรยายทั่วไปสี่ประเภท จากนั้นแสดงวิธีวัดปริมาณการใช้งานจริงจากปริมาณการใช้งานของคุณเอง เพื่อที่คุณจะหยุดการประมาณการได้

งานสร้างคำบรรยายสี่ประเภท พร้อมราคาชัดเจน

จำนวนโทเคนด้านล่างเป็นตัวเลขปัดเศษที่เลือกให้สมจริง ไม่ใช่การวัดจากเครื่องมือเฉพาะ เปลี่ยนเป็นค่าของคุณเอง

ภาระงานโทเคนอินพุต / เอาต์พุตต่อรายการต่อ 1,000ต่อ 100,000
คำบรรยายสั้นจากหัวข้อและแท็ก150 / 40$0.0000225 + $0.00002 = $0.0000425$0.0425$4.25
แคปชันจากบทถอดเสียง 2 นาที400 / 120$0.00006 + $0.00006 = $0.00012$0.12$12.00
คำอธิบายพร้อมคู่มือรูปแบบ 1,500 โทเคน1,800 / 100$0.00027 + $0.00005 = $0.00032$0.32$32.00
สรุปบทถอดเสียง 20,000 โทเคน20,000 / 500$0.003 + $0.00025 = $0.00325$3.25$325.00

เพื่อตรวจสอบหนึ่งแถวด้วยตนเอง: input tokens 400 คือ 400 / 1,000,000 × $0.15 = $0.00006 output tokens 120 คือ 120 / 1,000,000 × $0.50 = $0.00006 ผลรวมคือ $0.00012 และ 1,000 ของมันคือ $0.12

สองสิ่งที่โดดเด่นคือ ค่าต่อรายการมีขนาดเล็กจนกว่าอินพุตจะยาว และฝั่งอินพุตเติบโตเร็วที่สุดเมื่อคุณทำซ้ำคู่มือรูปแบบขนาดใหญ่ในทุกคำขอ แถวที่สามส่งกฎ 1,500 โทเคนเพื่อสร้างคำอธิบาย 100 โทเคน ดังนั้นประมาณ 83% ของโทเคนอินพุตของแถวนี้คือข้อความเดียวกันทุกครั้ง นั่นคือจุดที่คุณประหยัดได้

เหตุผลที่โทเคนเอาต์พุตควรได้รับความสนใจ

ค่าใช้จ่าย output คือ $0.50 ต่อ 1M เทียบกับ $0.15 สำหรับ input ซึ่งเป็นอัตราส่วนประมาณ 3.3 ต่อ 1 แคปชันส่วนใหญ่เป็น output ดังนั้นจึงง่ายที่จะใช้จ่ายเกินโดยปล่อยให้โมเดลพูดยาวๆ สามนิสัยช่วยคุณได้:

  • ระบุความยาวในพรอมต์: "หนึ่งประโยค ต่ำกว่า 140 ตัวอักษร" ได้ผลดีกว่าการหวัง
  • ตั้งค่า max_tokens เป็นขีดจำกัดความปลอดภัย มันไม่บังคับใน API นี้ แต่ขีดจำกัดที่ 80 สำหรับงานแคปชันจะหยุดการตอบกลับที่หลุดควบคุมไม่ให้มีค่าใช้จ่ายมากกว่ามูลค่าของรายการ
  • ขอแคปชันเท่านั้น โดยไม่มีคำสั่ง โมเดลชอบเพิ่มประโยคนำและข้อเสนอปิดท้าย บอกว่า "ตอบกลับด้วยแคปชันเท่านั้นและไม่มีอะไรอื่น"

การตัดการตอบกลับจาก 120 โทเคนเหลือ 60 ประหยัด 60 × $0.50 / 1,000,000 = $0.00003 ต่อรายการ เมื่อทำกับแคปชัน 100,000 รายการจะประหยัดได้ $3.00 ซึ่งคิดเป็นหนึ่งในสี่ของบิลทั้งหมด $12.00 สำหรับภาระงานที่สอง

วัดตัวเลขของคุณเอง

ทุกการตอบกลับมีวัตถุ usage ที่มีจำนวนโทเคนพรอมต์และคอมพลีชัน ดังนั้นคุณไม่ต้องเดา หัวข้อการตอบกลับยังมี X-Balance-USD ซึ่งเป็นเครดิตคงเหลือหลังจากคำขอ บันทึกทั้งสองค่าเป็นเวลาหนึ่งวันของการจราจรจริงและคุณจะมีค่าเฉลี่ยที่แท้จริงต่อรายการ

from openai import OpenAI
import os

client = OpenAI(api_key=os.environ["API_KEY"], base_url="https://api.unfilteredvideo.com/v1")
IN_PRICE, OUT_PRICE = 0.15 / 1_000_000, 0.50 / 1_000_000

def caption(transcript):
    raw = client.chat.completions.with_raw_response.create(
        model="uncensored",
        max_tokens=80,
        temperature=0.5,
        messages=[
            {"role": "system", "content": "Write one caption under 140 characters. Reply with the caption only."},
            {"role": "user", "content": transcript},
        ],
    )
    resp = raw.parse()
    u = resp.usage
    cost = u.prompt_tokens * IN_PRICE + u.completion_tokens * OUT_PRICE
    print(f"{u.prompt_tokens} in, {u.completion_tokens} out, ${cost:.6f}, balance {raw.headers.get('X-Balance-USD')}")
    return resp.choices[0].message.content

เก็บยอดรวมสะสมในสเปรดชีตหรือตารางเล็กๆ โดยจัดกลุ่มตามเวอร์ชันของพรอมต์ เมื่อคุณเปลี่ยนพรอมต์ ค่าใช้จ่ายต่อรายการจะเปลี่ยนไป และคุณต้องการเห็นการเปลี่ยนแปลงนั้นก่อนที่บิลจะออก

การประมาณจำนวนโทเคนก่อนเริ่มใช้งานจริง

ก่อนที่คุณจะมีบันทึกจริง ให้ประมาณการจากความยาวข้อความ สำหรับงานเขียนภาษาอังกฤษ กฎโดยประมาณคือประมาณสี่ตัวอักษรต่อโทเคน หรือสามส่วนสี่ของคำ ภาษาอื่นและข้อความที่มีสัญลักษณ์หรือโค้ดใช้โทเคนมากกว่าต่อคำ ดังนั้นให้ถือกฎนี้เป็นขีดต่ำสุด การพูดสองนาทีที่ประมาณ 150 คำพูดต่อนาทีคือประมาณ 300 คำ ซึ่งใกล้เคียงกับ 400 โทเคน นั่นคือที่มาของแถว 400 โทเคนในตาราง

จากนั้นคิดเป็นเดือนไม่ใช่คำขอ สมมติว่าคุณเผยแพร่ 30 วิดีโอต่อวันและเขียนแคปชันหนึ่งรายการและคำอธิบายหนึ่งรายการสำหรับแต่ละรายการ ที่ตัวเลขข้างต้นนั่นคือ $0.00012 + $0.00032 = $0.00044 ต่อวิดีโอ และ 30 × 30 = 900 วิดีโอต่อเดือนมีค่าใช้จ่าย 900 × $0.00044 = $0.396 ดังนั้นประมาณ $0.40 ต่อเดือน ทีมส่วนใหญ่จะพบว่าโมเดลแคปชันไม่ใช่ปัญหาต้นทุนของพวกเขา การทำซ้ำ พรอมต์ขนาดใหญ่ และลูปทดสอบที่ลืมไป คือปัญหาเหล่านั้น และปรากฏอย่างรวดเร็วในบันทึกการใช้งานจากส่วนข้างต้น

ห้าวิธีเพื่อลดบิล

ลดทอนส่วนที่ซ้ำกัน

ระบบพรอมต์ขนาด 1,000 โทเคนที่ส่งพร้อมกับแคปชัน 100,000 รายการ จะเท่ากับ 100,000 × 1,000 = 100M โทเคนอินพุต หรือ $15.00 การเขียนใหม่ให้เหลือ 300 โทเคนจะลดโทเคนลง 70M และประหยัดได้ $10.50 เขียนกฎครั้งเดียวด้วยภาษาธรรมดา และลดตัวอย่างเหลือเพียงสองอันที่สำคัญ

รวมรายการหลายรายการในคำขอเดียว

หากคำสั่งยาวและรายการสั้น ให้รวมเป็นชุด คำขอ 20 คำพร้อมพรอมต์ขนาด 1,000 โทเคนและรายการขนาด 100 โทเคนแต่ละรายการ จะส่ง 20 × 1,100 = 22,000 โทเคนอินพุต ซึ่งคิดเป็น $0.0033 คำขอหนึ่งคำพร้อมพรอมต์หนึ่งครั้งและรายการ 20 รายการ จะส่ง 1,000 + 20 × 100 = 3,000 โทเคน ซึ่งคิดเป็น $0.00045 ขอให้ตอบกลับเป็นอาร์เรย์ JSON (รองรับโหมด JSON) และจับคู่ผลลัพธ์กับรายการโดยฟิลด์ id ข้อเสียเปรียบคือหากคำตอบผิดรูปแบบหนึ่งครั้ง คุณอาจเสียทั้งกลุ่ม ดังนั้นให้รักษาขนาดกลุ่มให้เล็กพอที่จะลองใหม่ได้

ข้ามโมเดลเมื่อทำได้

หากแคปชันเป็นเทมเพลตที่มีหัวข้ออยู่ ให้ใช้เทมเพลต ส่งเฉพาะรายการที่ต้องประเมิน: น้ำเสียง, สรุป, การปรับคำพูดรอบเนื้อหาที่ละเอียดอ่อน

ตัดอินพุตที่ไม่จำเป็นออก

ตัดเวลา, แท็กผู้พูด และคำฟุ่มเฟือยออกจากบทพูดก่อนส่งหากแคปชันไม่ได้ใช้สิ่งเหล่านี้ โทเคนอินพุตน้อยลงคือการประหยัดโดยตรง

อย่าจ่ายสองครั้งสำหรับงานเดียวกัน

เก็บผลลัพธ์แต่ละรายการโดยคีย์ด้วยแฮชของอินพุตและเวอร์ชันของพรอมต์ การรันแคตตาล็อกใหม่หลังจากเกิดข้อผิดพลาดควรไม่มีค่าใช้จ่ายสำหรับรายการที่เสร็จสิ้นไปแล้ว

เครดิตทดลองใช้, การเติมเงิน และสิ่งที่ $20 ซื้อได้

ไม่มีระดับฟรี ผู้ใช้ใหม่สามารถขอเครดิตทดลองใช้ $0.50 ได้คลิกเดียวที่หน้า คีย์ API หลังจากเข้าสู่ระบบด้วย Google หรือด้วยอีเมลและรหัสผ่าน จำกัดหนึ่งต่อคน ใช้ได้ 7 วัน และไม่ต้องการบัตร ในภาระงานที่สอง ($0.00012 ต่อรายการ) $0.50 ครอบคลุม $0.50 / $0.00012 = ประมาณ 4,166 แคปชัน ที่อัตราสรุปขนาด 20,000 โทเคน ($0.00325) ครอบคลุมประมาณ 153

หลังจากทดลองใช้ คุณสามารถเติมเงินด้วยจำนวนเต็มใดๆ ตั้งแต่ $20 ถึง $500 จ่ายด้วย USDT บน TRC20 หรือ USDC บน Base ที่ $0.00012 ต่อแคปชัน $20 จ่ายให้ได้ประมาณ 166,000 แคปชัน การเติมเงินจำนวนมากขึ้นมีโบนัส: +5% จาก $50, +10% จาก $100, +15% จาก $200 การเติมเงิน $100 พร้อมโบนัส 10% ให้เครดิต $110 ซึ่งเท่ากับแคปชันขนาดนั้นประมาณ 916,000 แคปชัน เครดิตไม่หมดอายุ ดังนั้นจึงไม่มีความกดดันที่ต้องใช้ให้หมดในเดือนเดียว หน้าราคา มีตารางราคาปัจจุบัน

เมื่อสิ่งนี้ไม่ใช่ทางเลือกที่เหมาะสม

ตรงไปตรงมาเกี่ยวกับความเหมาะสม หากแคปชันของคุณเรียบง่าย ปลอดภัย และปริมาณสูง และคุณยินดีที่จะรันโมเดลขนาดเล็กบนฮาร์ดแวร์ของคุณเอง การอนุมานในเครื่องอาจมีต้นทุนต่ำกว่าเมื่อคุณนับเฉพาะค่าไฟฟ้า หากต้องการโมเดลทางการจากผู้ขายที่มีแบรนด์เฉพาะอยู่เบื้องหลัง นี่ไม่ใช่แบบนั้น: เป็นโมเดลแบบเปิดน้ำหนักหนึ่งตัวที่ให้บริการโดยผู้ให้บริการอิสระ ซึ่งเข้าถึงได้ที่โมเดล ID เดียว uncensored ตรวจสอบราคาปัจจุบันของผู้ให้บริการรายอื่นก่อนตัดสินใจ เพราะมีการเปลี่ยนแปลง

กรณีที่เหมาะสมสำหรับ API นี้คือแคปชันและคำอธิบายสำหรับเนื้อหาที่ API ทั่วไปบางครั้งปฏิเสธ: เรื่องอาชญากรรม, สยองขวัญ, มุกตลกแบบมืดๆ, นิยายสำหรับผู้ใหญ่ โมเดลตอบกลับเนื้อหาเหล่านั้นโดยไม่มีการปฏิเสธเนื้อหาสำหรับการใช้งานผู้ใหญ่ที่ถูกต้องตามกฎหมาย และคำขอที่ปฏิเสธจะไม่ถูกเรียกเก็บเงินเช่นกัน รองรับเฉพาะข้อความ ดังนั้นจึงไม่สามารถถอดเสียงเสียงหรือเรนเดอร์เฟรมได้ สำหรับภาพรวมขนาดใหญ่ของตำแหน่งที่มันอยู่ในสแต็กสื่อ ดูบทความเกี่ยวกับ video pipelines และสำหรับรายละเอียดคำขอ ดู quickstart

ถาม-ตอบ

คำอธิบายสั้นๆ มีค่าใช้จ่ายเท่าไรใน API นี้?

ขึ้นอยู่กับโทเคน แคปชันที่เขียนจากโทเคนอินพุตประมาณ 400 พร้อมการตอบกลับขนาด 120 โทเคน มีค่าใช้จ่าย $0.00012 ดังนั้นแคปชัน 1,000 รายการมีค่าใช้จ่าย $0.12 โดยคิดจากอัตรา $0.15 สำหรับอินพุตและ $0.50 สำหรับเอาต์พุตต่อ 1M โทเคน

มีระดับบริการฟรีสำหรับงานคำอธิบายสั้นๆ หรือไม่?

ไม่ ผู้ใช้ใหม่สามารถรับเครดิตทดลองใช้ครั้งเดียวมูลค่า $0.50 ใช้ได้ภายใน 7 วันโดยไม่ต้องใช้บัตร หลังจากนั้น เครดิตจะมาจากการเติมเงินล่วงหน้าเริ่มต้นที่ $20

คำขอที่ปฏิเสธหรือล้มเหลวมีการเรียกเก็บเงินหรือไม่

ไม่ คำขอที่ล้มเหลวหรือถูกปฏิเสธจะไม่มีการเรียกเก็บเงิน ดังนั้นการลองใหม่หลังจากเกิดข้อผิดพลาดจะไม่เพิ่มยอดบิลของคุณ

ฉันจะดูว่าแต่ละคำขอมีค่าใช้จ่ายเท่าใดได้อย่างไร

อ่านวัตถุการใช้งานในคำตอบสำหรับจำนวนโทเคนและคูณด้วยราคาต่อโทเคน ส่วนหัวของคำตอบ X-Balance-USD แสดงยอดเครดิตคงเหลือของคุณ

คีย์ของคุณพร้อมใช้งานแล้ว เพียงกรอกแบบฟอร์มเดียว

สร้างบัญชี คัดลอกคีย์ และเปลี่ยน base URL นั่นคือการตั้งค่าทั้งหมด

รับคีย์ API