Cara Menghitung Biaya API LLM (Dengan Rumus)

Setiap API LLM memublikasikan harga per satu juta token, tetapi banyak tim tetap kaget saat melihat tagihan pertama. Tarifnya jarang menjadi masalah. Kejutannya datang dari jumlah token yang ditebak alih-alih diukur, dan dari token yang lupa dihitung.

Panduan ini memberi cara yang bisa diulang untuk memperkirakan biaya sebelum rilis. Tarif dalam contoh bersifat ilustratif — selalu gunakan angka terkini dari halaman harga.

Rumusnya

Penyedia menghargai token input (prompt) dan token output (completion) secara terpisah, per satu juta token:

biaya per request = token_input  × tarif_input  / 1.000.000
                  + token_output × tarif_output / 1.000.000

Output biasanya beberapa kali lebih mahal daripada input, sehingga request dengan prompt pendek dan jawaban panjang bisa lebih mahal daripada request dengan prompt panjang dan jawaban pendek. Perkirakan kedua sisi secara terpisah.

Langkah 1: ukur token, jangan ditebak

Patokan kasar untuk teks bahasa Inggris adalah sekitar empat karakter per token, seperti dijelaskan panduan tokenizer OpenAI — tetapi bahasa lain, termasuk bahasa Indonesia, kode, dan data terstruktur ter-tokenisasi secara berbeda. Cara yang andal adalah menjalankan sampel request nyata dan membaca objek usage yang dikembalikan setiap respons. Catat jumlah token input dan output dari setidaknya beberapa puluh request yang representatif, lalu pakai rata-ratanya (dan persentil ke-90 untuk perencanaan kasus terburuk).

Langkah 2: hitung token yang tersembunyi

Token di pesan pengguna hanyalah sebagian dari tagihan. Pastikan sampel Anda mencakup:

• System prompt dan instruksi, yang dikirim di setiap request.
• Definisi tool dan function, yang diserialisasi ke dalam prompt.
• Riwayat percakapan: aplikasi chat biasanya mengirim ulang giliran sebelumnya, sehingga input bertambah di setiap giliran.
• Konteks hasil retrieval pada pipeline RAG — sering kali bagian terbesar dari prompt.
• Token reasoning: model reasoning menghasilkan token internal yang biasanya ditagih sebagai output meski tidak Anda lihat.
• Retry: percobaan gagal yang sudah memakai token bisa tetap ditagih, jadi tambahkan tingkat retry yang Anda amati.

Langkah 3: ubah satu request menjadi angka bulanan

Ambil beban kerja ilustratif: asisten support yang menangani 2.000 request per hari, rata-rata 1.500 token input dan 400 token output per request, pada model bertarif $0,25 per 1 juta input dan $1,25 per 1 juta output.

input  per request: 1.500 × $0,25 / 1.000.000 = $0,000375
output per request:   400 × $1,25 / 1.000.000 = $0,000500
biaya per request:                            = $0,000875
per hari  (× 2.000):                          = $1,75
per bulan (× 30):                             = $52,50

Dengan harga resmi $5 input dan $25 output per 1 juta token, beban kerja yang sama berbiaya $0,0175 per request, atau $1.050 per bulan. Selisih itulah — bukan pilihan model — yang biasanya menjadi tuas terbesar pada anggaran LLM.

Langkah 4: bandingkan PAYG dengan token plan

Token plan prabayar menjual kuota token tetap untuk satu model. Di zcloud, token input dan output sama-sama mengurangi kuota, jadi perbandingan yang tepat memakai tarif gabungan: biaya PAYG beban kerja Anda dibagi total tokennya.

tarif PAYG gabungan = $0,000875 / (1.500 + 400) token × 1.000.000 ≈ $0,46 per 1 juta token
tarif plan          = $2 / 16.000.000 token × 1.000.000           = $0,125 per 1 juta token

Dengan angka ilustratif ini plan lebih murah per token, dan karena token output adalah sisi mahal dari PAYG, plan paling menguntungkan untuk beban kerja yang banyak output. Beban kerja bulanan di atas memakai 2.000 × 30 × 1.900 = 114.000.000 token, yang dengan $0,125 per 1 juta setara sekitar $14,25 kuota plan. Jalankan perhitungan yang sama dengan tarif nyata model yang Anda pakai; halaman harga menampilkan contoh PAYG vs plan yang dihitung dari katalog live.

Langkah 5: tambahkan cadangan dan pasang batas

Anggap perkiraan sebagai titik awal, bukan janji. Tambahkan ruang untuk pertumbuhan trafik dan perubahan prompt, lalu buat pengeluaran mudah dipantau:

• Lacak usage yang dilaporkan setiap respons, per fitur dan per pelanggan.
• Pasang alert saat pengeluaran harian melewati perkiraan dengan persentase tertentu.
• Gunakan saldo atau plan prabayar sebagai batas keras. Di zcloud, bila plan maupun saldo PAYG tidak menutup sebuah request, API mengembalikan 402 insufficient_balance alih-alih menumpuk tagihan.

Checklist singkat

• Tarif diambil dari daftar harga terkini, bukan dari ingatan.
• Jumlah token diambil dari usage yang diukur, bukan perkiraan karakter.
• System prompt, tool, riwayat, konteks retrieval, dan token reasoning sudah dihitung.
• Perkiraan bulanan memakai rata-rata; kasus terburuk memakai persentil ke-90.
• PAYG dibandingkan dengan plan memakai tarif gabungan.
• Alert pengeluaran dan batas prabayar sudah terpasang.

Siap mencoba angka Anda sendiri? Bandingkan tarif per model di halaman harga, dan jika Anda memindahkan kode yang sudah ada, ikuti checklist migrasi API kompatibel OpenAI.

FAQ

Mengapa output lebih mahal daripada input? Menghasilkan token satu per satu membutuhkan komputasi lebih besar daripada membaca prompt, dan penyedia menetapkan harga output sesuai itu. Karena itulah panjang jawaban sangat memengaruhi biaya.

Apakah prompt yang di-cache lebih murah? Sering kali ya. Banyak model menagih prefix prompt yang berulang dengan tarif lebih rendah. Lihat prompt caching untuk cara token cache dilaporkan.

Apakah token plan selalu lebih murah? Tidak. Plan lebih murah bila satu model menanggung sebagian besar trafik dan kuotanya terpakai. Untuk pemakaian campuran atau tidak teratur di banyak model, saldo PAYG lebih sederhana. Bandingkan tarif gabungan dengan beban kerja Anda sendiri.