Biaya AI di perusahaan kini bukan lagi sekadar soal langganan bulanan. Dalam satu kasus yang mencuri perhatian, sebuah perusahaan disebut menghabiskan sekitar $500 juta dalam kredit Claude hanya dalam sebulan setelah tidak memasang batas penggunaan AI untuk karyawannya.
Peristiwa itu menyoroti satu masalah yang makin sering dibicarakan di kalangan korporasi, yaitu pengeluaran AI yang melaju lebih cepat daripada manfaat yang benar-benar terasa. Janji efisiensi dari AI generatif tetap besar, tetapi tanpa pengendalian yang jelas, tagihan API dapat membengkak jauh melampaui perkiraan.
Saat akses dibuka tanpa pagar
Menurut laporan Axios, perusahaan yang menghabiskan dana sebesar itu tidak disebutkan namanya. Inti masalahnya bukan pada teknologinya semata, melainkan pada tidak adanya guardrail atau pembatas penggunaan yang memadai saat layanan Claude dibuka untuk karyawan.
Kasus ini menjadi contoh ekstrem bagaimana AI generatif bisa berubah dari alat produktivitas menjadi beban biaya besar. Saat penggunaan dibiarkan longgar, biaya komputasi dapat naik drastis meski hasil kerja belum tentu sebanding dengan pengeluaran yang terjadi.
Kekhawatiran perusahaan mulai menguat
Isu pengeluaran AI juga muncul di tengah sikap yang lebih hati-hati dari banyak perusahaan besar. Sejumlah pemimpin perusahaan kini lebih terbuka menyampaikan bahwa adopsi AI belum selalu menghasilkan efisiensi seperti yang sebelumnya dijanjikan.
Nama-nama seperti Costco, Delta Airlines, dan IBM disebut telah menyuarakan keberatan terhadap pemakaian AI yang dinilai belum memberi hasil berkelanjutan. Di saat yang sama, mereka juga menunjukkan preferensi untuk tetap mempertahankan tenaga kerja manusia.
Strategi yang tidak seragam di level korporasi
Di sisi lain, langkah yang diambil perusahaan teknologi besar tidak selalu sejalan. Amazon, Meta, dan Microsoft terus melakukan pengurangan karyawan, sementara perusahaan lain justru lebih berhati-hati dalam mengadopsi AI secara luas.
Kontras ini memperlihatkan bahwa strategi AI di kalangan korporasi masih belum seragam. Belum ada pola efisiensi yang benar-benar sama di semua perusahaan, sehingga hasilnya pun sangat bergantung pada cara setiap organisasi mengelola penerapan teknologi tersebut.
Biaya ditekan, tapi pemakaian bisa melonjak
Di tengah kritik soal mahalnya AI, perusahaan teknologi juga berusaha menurunkan ongkos komputasi. Google disebut mengembangkan model dan teknik inferensi yang lebih efisien dari sisi biaya.
Gartner memperkirakan biaya inferensi model AI generatif pada 2030 hanya sepersepuluh dari level 2025. Namun, turunnya biaya per unit tidak otomatis menurunkan total tagihan jika volume pemakaian naik lebih cepat.
Gartner memproyeksikan penggunaan token dapat berkembang sekitar 5 hingga 30 kali dari level saat ini. Risiko itu diperkirakan semakin besar seiring meningkatnya ketergantungan pada agen AI dan proses kerja yang makin kompleks.
Aturan penggunaan ikut diperketat
Penyedia layanan AI juga mulai menyesuaikan cara mereka menagih layanan. Google dan Anthropic disebut telah beralih ke penagihan berbasis penggunaan serta batas penggunaan yang lebih ketat.
Kebijakan itu memunculkan keresahan, terutama di kalangan pengguna non-perusahaan. Meski begitu, model tersebut mencerminkan kebutuhan penyedia untuk mengendalikan konsumsi komputasi yang terus melonjak.
Sikap baru terhadap pemakaian tanpa disiplin
Laporan yang sama juga menyoroti mulai ditinggalkannya praktik yang disebut “tokenmaxxing” di kalangan korporasi. Istilah itu merujuk pada kebiasaan memakai kredit AI secepat mungkin tanpa disiplin mengukur nilai bisnis yang dihasilkan.
Perubahan sikap ini menunjukkan perusahaan mulai bergeser dari sekadar mengejar eksperimen besar-besaran. Pertanyaan yang kini lebih penting adalah apakah setiap token yang dipakai benar-benar memberi manfaat yang sepadan.
Microsoft bahkan disebut mulai menjauh dari pendekatan semacam itu. Awal bulan ini, perusahaan tersebut dilaporkan membatalkan langganan Claude dan mendorong karyawan agar tidak menggunakannya secara berlebihan.
Langkah itu menarik karena terjadi hanya enam bulan setelah Microsoft mendorong berbagai pekerja dengan profil berbeda untuk lebih banyak melakukan vibe-code. Perubahan arah ini menambah kesan bahwa penggunaan AI tanpa disiplin biaya mulai dianggap sebagai persoalan serius di level perusahaan.
Source: www.androidauthority.com