ChatGPT menghabiskan biaya Rp 10 miliar per hari untuk beroperasi

OpenAI dikabarkan perlu merogoh kocek Rp 10 miliar per hari untuk menjalankan model kecerdasan buatan (AI) ChatGPT.

Menjalankan model pembelajaran mesin skala besar seperti ChatGPT di server bisa mahal karena sumber daya komputasi yang signifikan diperlukan untuk melatih dan memelihara model ini. Selain itu, biaya dapat bervariasi tergantung pada faktor seperti ukuran dan kompleksitas model, jumlah data yang diproses, dan tingkat permintaan pengguna.

Namun, organisasi yang menggunakan model bahasa kecerdasan buatan (AI) dapat mempertimbangkan manfaat kemampuan mereka sebanding dengan biaya menjalankannya di server. ChatGPT adalah model bahasa paling populer di dunia saat ini, dan menurut laporan terbaru, biayanya cukup mahal untuk dijalankan.

Model bahasa OpenAI, ChatGPT, yang menyediakan layanan pemrosesan bahasa alami (NLP), memerlukan daya komputasi yang signifikan dan dapat menghabiskan biaya hingga $700.000 (Rp 10,5 miliar) untuk menjalankannya. Menurut Gizmochina (25/4), biaya tinggi ini terutama berasal dari server mahal yang diperlukan untuk memberikan umpan balik berdasarkan masukan pengguna, termasuk menulis surat pengantar, membuat rencana pengajaran, dan mengoptimalkan data pribadi.

Juga, karena Dylan Patel, Kepala Analis di SemiAnalysis, memperkirakan harga model GPT-3, ChatGPT sekarang mungkin lebih mahal setelah menggunakan model GPT-4 terbaru.

Biaya penalaran AI jauh melebihi biaya pelatihan, dan biaya inferensi ChatGPT jauh melebihi biaya pelatihan. Microsoft sedang mengembangkan chip kecerdasan buatan, dengan nama kode Athena, untuk mengurangi biaya menjalankan model kecerdasan buatan generatif, tetapi chip tersebut akan dirilis untuk penggunaan internal hanya oleh Microsoft dan OpenAI awal tahun depan.