Panduan Lengkap Model Harga AI Berbasis Token

Biaya API AI biasanya bermuara pada satu hal: berapa banyak token yang masuk, berapa banyak yang keluar, dan model mana yang Anda gunakan. Sedikit perubahan prompt, utas percakapan yang lebih panjang, atau balasan yang lebih panjang bisa mengubah pengaturan berbiaya rendah menjadi tagihan bulanan yang jauh lebih besar.

Berikut versi singkatnya:

• Saya membayar untuk token input dan token output
• Token output sering kali berbiaya 3x hingga 8x lebih mahal daripada input
• Prompt yang di-cache dapat memangkas biaya input berulang sebesar 50% hingga 90%
• Percakapan panjang bisa terus menambah biaya input karena riwayat sering dikirim ulang
• Harga model bisa bervariasi hingga ratusan kali lipat
• Pada awal 2026, tarif token bisa berkisar dari $0.06 hingga $168.00 per 1 juta token

Matematikanya sederhana:

Total biaya = (token input × tarif input) + (token output × tarif output)

Kedengarannya mudah. Tetapi tagihan berubah cepat ketika saya menambahkan riwayat percakapan, percobaan ulang, contoh few-shot, konteks retrieval, atau model yang menggunakan token penalaran tersembunyi.

Sebuah contoh dasar menjelaskan poin ini dengan cepat. Jika sebuah permintaan menggunakan 2.500 token input dengan tarif $2.50 per 1 juta dan 750 token output dengan tarif $15.00 per 1 juta, biayanya adalah $0.0175 per permintaan. Pada 100.000 permintaan per bulan, itu menjadi $1,750.00.

Yang paling penting bukan hanya jumlah token, tetapi bentuk beban kerja. Dalam istilah sederhana, pendorong biaya utama adalah:

• ukuran prompt
• panjang balasan
• pertumbuhan percakapan
• caching
• percobaan ulang
• tingkatan model
• jenis input, seperti teks atau gambar

Jika saya ingin menjaga pengeluaran tetap terkendali, langkah utamanya sederhana:

• batasi balasan dengan max_tokens
• minta jawaban yang lebih singkat
• pangkas atau ringkas riwayat percakapan lama
• jaga agar teks prompt berulang tetap stabil untuk caching
• kirim tugas sederhana ke model berbiaya lebih rendah
• pantau penggunaan token, tingkat percobaan ulang, dan biaya per fitur

Panduan ini menjelaskan harga token dalam bahasa yang sederhana, menunjukkan bagaimana penggunaan berubah menjadi dolar, dan memberikan cara sederhana untuk memperkirakan pengeluaran bulanan tanpa terkejut nanti.

Token AI: Rahasia di Balik Harga, Kecepatan, dan Optimasi Biaya AI

Cara Menghitung Biaya Token

Gunakan rumus dari bagian sebelumnya untuk mengubah jumlah token menjadi dolar. Rincian di bawah ini menunjukkan token mana yang dihitung untuk penagihan dan bagaimana jumlah tersebut berubah menjadi biaya.

Token Input, Token Output, dan Token Cache

Token input adalah token yang dikirim dalam permintaan Anda, ditagih dengan tarif input. Dalam aplikasi obrolan, pesan-pesan sebelumnya sering dikirim ulang pada setiap giliran, sehingga ikut ditagih lagi juga ^[1][6][7].

Token output adalah token yang dihasilkan model, ditagih dengan tarif output. Token penalaran tersembunyi juga dihitung sebagai output dan ditagih dengan tarif output, meskipun tidak muncul dalam balasan akhir ^[1][5][6].

Token cache adalah token input berulang yang ditagih dengan tarif lebih rendah. Jika Anda menggunakan kembali awalan prompt yang sama, penyedia dapat menerapkan diskon cache yang sering kali 50% hingga 90% lebih rendah dari harga input standar ^[1][5]. Tempatkan konten statis di dekat awal prompt untuk meningkatkan cache hit.

Setelah unit penagihan tersebut jelas, langkah berikutnya sederhana: ubah jumlah token menjadi jumlah dolar menggunakan panduan API LLM terpadu untuk pengendalian biaya.

Bagaimana Jumlah Token Menjadi Biaya Dolar

Sebagian besar penyedia mencantumkan harga per 1 juta token, jadi Anda menghitung biaya input dan output secara terpisah ^[1][3].

Biaya = (Token Input ÷ 1.000.000 × Tarif Input) + (Token Output ÷ 1.000.000 × Tarif Output)

Contoh Biaya Hipotetis Sederhana

Misalkan Anda menggunakan model tingkat menengah dengan harga $2.50 per 1 juta token input dan $15.00 per 1 juta token output, dengan permintaan yang mencakup 2.500 token input dan 750 token output ^[3]:

Inilah sebabnya dua permintaan yang tampak serupa bisa berakhir dengan biaya yang sangat berbeda. Pada 100.000 permintaan per bulan, total tersebut menjadi $1,750.00. Dan perhatikan pembagiannya: biaya output hampir 2x biaya input, meskipun output menyumbang kurang dari seperempat token. Itulah poin kuncinya di sini. Bentuk beban kerja bisa sama pentingnya dengan model yang Anda pilih.

Mengapa Tagihan Anda Berubah Antar Beban Kerja

Rumus harga sama, bentuk beban kerja berbeda, tagihan berbeda.

Rumusnya tidak berubah. Bagaimana aplikasi Anda menggunakan model itulah yang berubah. Jadi dua aplikasi bisa melakukan jumlah panggilan API yang sama dan tetap berakhir dengan biaya bulanan yang sangat berbeda, hanya karena panggilan tersebut dibangun secara berbeda.

Mengapa Token Output Biasanya Lebih Mahal daripada Token Input

Input lebih murah karena model dapat membaca prompt Anda secara paralel. Model dapat memproses token-token tersebut pada saat yang sama.

Output bekerja secara berbeda. Model harus menghasilkan balasan satu token pada satu waktu, langkah demi langkah. Itu membutuhkan lebih banyak komputasi. Itulah sebabnya token output sering berbiaya 3–8× lebih mahal daripada token input ^[7][3], dan terkadang bahkan lebih.

Inilah sebabnya panjang output bisa memukul tagihan Anda begitu cepat. Dua kontrol sederhana sangat membantu ^[7]:

• Tetapkan batas max_tokens
• Beri tahu model untuk menjawab secara ringkas

Jika Anda menginginkan cara cepat untuk memangkas pengeluaran, mulailah dari sana.

Pendorong Biaya Tersembunyi: Pertumbuhan Konteks, Percobaan Ulang, dan Percakapan Panjang

Aplikasi obrolan memiliki pola biaya yang licik: setiap pesan baru biasanya mengirim seluruh riwayat percakapan kembali ke model, dan Anda membayar untuk input itu lagi.

Inilah bagian yang menumpuk. Percakapan 10 giliran dengan 200 token per giliran membangun hingga 2.000 token input tambahan pada giliran terakhir ^[7]. Jadi meskipun setiap pesan terasa kecil, totalnya terus bertumpuk.

Beberapa hal lain juga mendorong biaya input naik:

• Prompt yang bertele-tele
• Contoh few-shot
• Dokumen yang diambil (retrieved)

Semuanya dihitung sebagai input yang ditagih pada setiap permintaan ^[2][7].

Ringkasan bergulir dan pemangkasan pesan lama dapat menjaga pertumbuhan itu tetap terkendali ^[7][3]. Tanpa itu, percakapan panjang dan konteks berulang menjadi pengganda biaya yang diam-diam.

Pemilihan Model dan Modalitas

Dalam praktiknya, pemilihan model sering menjadi variabel harga terbesar. Selisih antara model hemat dan model penalaran premium bisa mencapai 600× per token ^[1][7]. Itu bukan ayunan kecil. Itu adalah jenis selisih yang bisa mengubah seluruh anggaran Anda.

Model penalaran juga bisa menggunakan jauh lebih banyak token daripada yang Anda lihat dalam jawaban akhir karena token penalaran tersembunyi ^[4]. Jadi balasan yang singkat tidak selalu berarti permintaan yang murah.

Modalitas juga penting. Input gambar bisa ditokenisasi sangat berbeda antar model, yang berarti gambar yang sama bisa berbiaya sangat berbeda tergantung model mana yang menanganinya ^[4].

Setelah Anda tahu pendorong mana yang paling penting dalam beban kerja Anda, pengeluaran bulanan menjadi jauh lebih mudah diperkirakan, dan batasan menjadi jauh lebih mudah ditetapkan.

Cara Memperkirakan dan Mengendalikan Pengeluaran Token AI

Sekarang setelah pendorong harga jelas, ubah menjadi anggaran dan rencana pengendalian.

Bangun Estimasi Biaya Bulanan dari Ukuran Permintaan Rata-rata

Berikut rumus dasarnya:

Biaya bulanan = [(rata-rata token input × tarif input) + (rata-rata token output × tarif output)] × permintaan per hari × 30

Itu memberi Anda titik awal yang sederhana. Dari sana, pemilihan model dapat mengubah total Anda secara besar-besaran, bahkan ketika beban kerja tetap sama.

Menggunakan 1.000 permintaan per hari sebagai baseline ^[3]:

Kasus penggunaan sama. Beban token sama. Tagihan sangat berbeda.

Membantu juga untuk menambahkan buffer 30%–50% untuk percobaan ulang, kegagalan, dan pertumbuhan. Jika Anda melewatkan bantalan itu, perkiraan Anda bisa terlihat baik di atas kertas namun tetap meleset dalam praktik.

Gunakan baseline ini untuk pertama-tama menemukan pendorong biaya terbesar.

Pangkas Pemborosan Tanpa Memangkas Kualitas

Biaya tersembunyi terbesar sering kali adalah system prompt. Sebuah system prompt 500 token yang dikirim dengan setiap permintaan di seluruh 10.000 panggilan harian berjumlah 5 juta token input per hari sebelum satu pesan pengguna pun dihitung ^[3]. Itu banyak pengeluaran yang terikat pada teks yang berhenti diperhatikan banyak tim setelah peluncuran.

Audit prompt tersebut secara berkala dan pangkas apa pun yang tidak melakukan pekerjaan nyata.

Beberapa langkah biasanya menghemat uang paling banyak dengan kerugian paling sedikit:

• Aktifkan prompt caching. Jaga instruksi sistem dan definisi tool di bagian atas prompt Anda agar tetap stabil ^[9][4].
• Ringkas riwayat percakapan. Setelah sekitar 5 giliran, tukar transkrip lengkap dengan blok konteks singkat ^[3].
• Gunakan batch processing untuk pekerjaan tidak mendesak. Ringkasan massal, pengayaan data malam hari, dan pekerjaan serupa tidak memerlukan balasan real-time ^[9][4].
• Routing berdasarkan kompleksitas. Kirim pekerjaan klasifikasi atau ekstraksi sederhana ke model berbiaya lebih rendah. Simpan model premium untuk tugas penalaran yang lebih sulit ^[4][10].

Setelah Anda memangkas sumber pemborosan utama, langkah berikutnya adalah memastikan penggunaan tetap berada dalam rencana.

Lacak Penggunaan dengan Peringatan, Log, dan Anggaran Per Fitur

Memperkirakan pengeluaran di awal hanyalah setengah pekerjaan. Anda juga perlu memantau angka-angka yang membentuk biaya sehari-hari.

Lacak keempat metrik ini:

• token per permintaan
• tingkat cache hit
• biaya per interaksi
• tingkat percobaan ulang

Kemudian pasang pengaman di sekitarnya. Tetapkan peringatan otomatis pada 80% dan 100% dari anggaran harian Anda. Tandai setiap lonjakan yang melompat di atas 3× rata-rata harian Anda. Catat biaya percobaan ulang secara terpisah agar panggilan yang gagal tidak terkubur dalam total penggunaan. Dan beri setiap fitur anggaran tokennya sendiri, sehingga satu fitur mahal tidak diam-diam memakan anggaran yang dimaksudkan untuk yang lainnya.

Kesimpulan: Cara Berpikir tentang Harga Token

Harga token terlihat sederhana di atas kertas, tetapi biaya sehari-hari bisa berpindah-pindah cukup banyak. Panjang prompt, riwayat percakapan, pemilihan model, dan percobaan ulang semuanya memengaruhi apa yang Anda bayar. Itulah sebabnya pemilihan model dan bentuk beban kerja sama pentingnya dengan jumlah token mentah.

Pada awal 2026, harga per juta token berkisar dari $0.06 hingga $168.00 - sebuah rentang 2.800× ^[3]. Selisih itu menjelaskan mengapa beban kerja yang persis sama bisa jatuh ke dalam rentang anggaran yang sangat berbeda. Jika Anda memahami dari mana ayunan biaya itu berasal, Anda jauh lebih kecil kemungkinannya terkena kejutan buruk di tengah bulan.

Poin Penting untuk Penganggaran dan Penskalaan

Untuk penganggaran, mulailah dengan rumus di atas, lalu lihat pola permintaan aktual Anda sebelum memilih model ^[1][2][11]. Jumlah kata paling banter adalah jalan pintas kasar. Tokenizer berbeda menurut penyedia, dan kode bisa menggunakan 1,5–2× lebih banyak token daripada bahasa Inggris biasa. Aksara non-Latin sering menggunakan lebih banyak token juga ^[1][3].

Panjang output perlu perhatian khusus. Token output sering berbiaya lebih mahal daripada token input, jadi model yang cenderung menghasilkan jawaban panjang bisa mendorong tagihan Anda naik dengan cepat. Prompt yang singkat tidak selalu berarti pengeluaran rendah jika balasannya panjang. Gunakan parameter max_tokens untuk menetapkan batas atas dan menghentikan output yang tak terkendali sebelum menjadi mahal ^[3][4]. Untuk fitur percakapan, awasi juga pertumbuhan konteks. Tanpa ringkasan atau sliding window, riwayat percakapan bisa mendorong biaya input naik seiring waktu ^[11][8].

Untuk menjaga pengeluaran tetap stabil, perlakukan pemantauan biaya seperti angka operasi inti, bukan renungan belakangan. Sesuaikan kedalaman model dengan tingkat kesulitan tugas, periksa penggunaan Anda dalam USD secara berkala, dan lakukan perubahan lebih awal sebelum kelebihan kecil berubah menjadi yang menyakitkan. Tim yang menskalakan dengan baik terus mengawasi biaya dengan ketat dan menyetel model, desain prompt, serta pengaturan pemantauan agar sesuai dengan pekerjaan.

FAQ

Bagaimana cara memperkirakan biaya token AI bulanan saya?

Hitung biaya per permintaan terlebih dahulu. Lalu kalikan angka itu dengan volume bulanan yang Anda harapkan.

Gunakan rumus ini:

((token input × harga input per 1 juta) / 1.000.000) + ((token output × harga output per 1 juta) / 1.000.000)

Sebuah detail kecil bisa mengacaukan perkiraan Anda: token input tidak hanya berarti pesan pengguna. Anda juga perlu menghitung:

• system prompt
• riwayat percakapan
• definisi tool

Bagian itu sering membuat orang tersandung.

Anda juga harus memperhitungkan penyesuaian harga yang dapat mengubah total akhir, seperti:

• input yang di-cache
• diskon batch
• model yang berat penalaran yang mungkin menagih token internal tersembunyi sebagai output

Jika Anda menganggarkan pengeluaran bulanan, langkah teraman adalah mendasarkan perhitungan Anda pada jejak permintaan penuh, bukan hanya prompt dan balasan yang terlihat.

Mengapa balasan AI yang singkat masih bisa mahal?

Bahkan balasan AI yang singkat bisa berbiaya lebih dari yang Anda kira.

Inilah alasannya: token output sering berbiaya lebih mahal daripada token input. Jadi meskipun prompt Anda singkat, balasannya bisa mendorong tagihan naik. Selain itu, beberapa model menghasilkan token berpikir tersembunyi yang juga ditagih.

Biaya juga bisa naik dari teks yang tidak pernah Anda lihat. Itu termasuk system prompt, riwayat percakapan, dan dokumen yang diambil yang dikirim bersama permintaan.

Bagaimana cara mengurangi biaya token tanpa merusak kualitas?

Gunakan API Terpadu dari APIMart untuk routing model sehingga setiap tugas dikirim ke model berbiaya terendah yang dapat menanganinya dengan baik.

Itu berarti Anda menyimpan model premium untuk tugas penalaran yang lebih sulit dan mengirim pekerjaan bervolume tinggi - seperti klasifikasi atau ringkasan - ke model berbiaya lebih rendah. Ini adalah salah satu cara paling sederhana untuk memangkas pengeluaran tanpa merusak output di tempat yang penting.

Anda juga bisa memangkas biaya dengan beberapa langkah praktis:

• Gunakan prompt caching untuk menghindari pembayaran ulang atas konten prompt yang berulang
• Jaga prompt tetap ringkas agar Anda tidak menghabiskan token pada kata-kata berlebih
• Tetapkan batas token penyelesaian maksimum untuk menjaga respons agar tidak berjalan panjang
• Gunakan batch processing untuk tugas async guna menurunkan penggunaan token dan biaya dalam skala besar

Perubahan kecil seperti ini bisa membuat penyok besar pada biaya penggunaan, terutama ketika volume mulai meningkat.