Chip khusus baru untuk menurunkan biaya token dan memperkuat kendali infrastruktur AI OpenAI
OpenAI dan Broadcom pada Rabu memperkenalkan Jalapeño, sebuah chip inferensi baru yang dioptimalkan untuk large language model (LLM). Langkah ini menandai upaya agresif OpenAI untuk menurunkan biaya token bagi pelanggan korporasi sekaligus memperkuat posisinya dalam persaingan ketat dengan Anthropic di pasar AI generatif.
Jalapeño menjadi prosesor kecerdasan buatan pertama yang dirilis OpenAI, sebuah tonggak penting yang mengisyaratkan ambisi perusahaan untuk membangun tumpukan teknologi (technology stack) ujung ke ujung (end-to-end) di balik model dan produk mereka, mulai dari infrastruktur perangkat keras hingga layanan aplikasi seperti ChatGPT. Dengan kata lain, OpenAI tidak lagi sekadar bergantung pada ekosistem chip pihak ketiga, tetapi mulai mengendalikan lapisan fundamental komputasi AI-nya sendiri.
Sejak tahap perancangan, Jalapeño diklaim dirancang untuk kompatibel dengan seluruh jenis LLM. OpenAI berjanji akan menerbitkan laporan teknis terperinci dalam beberapa bulan mendatang. Namun, perusahaan sudah menegaskan bahwa arsitektur chip ini difokuskan pada pengurangan perpindahan data dan penyeimbangan sumber daya komputasi, memori, dan jaringan. Pendekatan tersebut diharapkan mampu memaksimalkan kinerja puncak sekaligus meningkatkan efisiensi energi—dua faktor krusial dalam operasi inferensi berskala besar.
Peluncuran Jalapeño juga mencerminkan strategi diversifikasi infrastruktur OpenAI. Selama ini, perusahaan mengandalkan kemitraan dengan pemain besar seperti Nvidia dan Cerebras. Kolaborasi dengan Broadcom menambah satu lagi pilar dalam portofolio perangkat keras mereka. Namun, memiliki chip sendiri memberi OpenAI daya tawar (leverage) baru: kemampuan untuk mengoptimalkan biaya dan performa sesuai kebutuhan internal, terutama ketika semakin banyak perusahaan menyadari betapa mahalnya proses inferensi dan betapa cepatnya harga token dapat meningkat.
Secara praktis, Jalapeño diharapkan memberi para pengembang model AI dan pelanggan perusahaan opsi untuk mengakses harga token yang lebih rendah. Jika berhasil, ini berpotensi meredakan kekhawatiran banyak bisnis yang selama ini waspada terhadap eskalasi biaya operasional akibat konsumsi token yang terus meningkat. Di tengah kompetisi yang kian intens, langkah ini juga membantu OpenAI merebut kembali sorotan publik dari Anthropic, yang dalam beberapa bulan terakhir kerap mencuri perhatian lewat peluncuran model dan layanan baru yang agresif.
Chirag Dekate, analis di Gartner, menilai bahwa perusahaan-perusahaan saat ini sedang menghadapi lonjakan perubahan biaya yang terkait dengan tokenomics dan konsumsi token. Semakin tinggi volume token yang digunakan, semakin besar tekanan terhadap struktur biaya mereka. Dalam konteks ini, Jalapeño diposisikan sebagai instrumen untuk mengintervensi langsung ekonomi di balik konversi daya listrik menjadi token.
“Ini memungkinkan OpenAI mengubah ekonomi konversi watt menjadi token, dan hal itu juga berujung pada efisiensi marjin yang lebih tinggi serta peningkatan marjin,” ujar Dekate. Menurutnya, jika ekosistem model AI berkembang menjadi ajang perang harga, kehadiran chip internal seperti Jalapeño memberi OpenAI ruang manuver yang jauh lebih besar untuk menyesuaikan dan menyetel harga tanpa harus mengorbankan profitabilitas.
OpenAI tidak sepenuhnya meninggalkan infrastruktur pihak ketiga. Perusahaan tetap akan memanfaatkan GPU dan sistem dari Nvidia atau Cerebras ketika dianggap tepat. Namun, kepemilikan chip AI sendiri menempatkan OpenAI dalam posisi yang lebih sejajar dengan raksasa teknologi lain: Google dengan TPU, Amazon Web Services dengan Trainium, dan Alibaba dengan Zhenwu M890. Semua pemain ini memanfaatkan chip rancangan khusus untuk mengendalikan biaya, performa, dan peta jalan teknologi (roadmap) mereka.
Bagi Broadcom, kemitraan ini membuka peluang strategis untuk memperdalam keterlibatan di ekosistem AI tingkat atas. Sebagai perancang semikonduktor, Broadcom mendapatkan kesempatan untuk berkolaborasi langsung dengan salah satu pengembang model AI paling berpengaruh di dunia dan ikut membentuk generasi baru infrastruktur komputasi AI. “Dengan terlibat dalam inisiatif ini, Broadcom mampu mengubah aspek ekonomi dan memposisikan diri untuk menghadirkan efisiensi yang lebih baik pada titik harga yang berbeda,” kata Dekate.
Meski demikian, banyak detail penting mengenai Jalapeño yang masih belum terungkap. OpenAI belum memublikasikan spesifikasi teknis lengkap, sehingga belum jelas bagaimana chip ini akan diintegrasikan dengan sistem lain, baik di pusat data OpenAI maupun di lingkungan mitra. Pertanyaan lain yang mengemuka adalah apakah Broadcom dan OpenAI mampu menjadikan Jalapeño sebagai produk yang berkelanjutan dan matang melalui beberapa generasi desain chip—sebuah tantangan yang selama ini hanya berhasil dijawab oleh segelintir pemain seperti Nvidia dan AMD.
Dekate mengingatkan bahwa umur panjang mikrochip rancangan khusus sulit diprediksi. “Masuk ke ranah infrastruktur itu sangat sulit. Anda membutuhkan peta jalan bertahun-tahun, pandangan multi-tahun dan multi-generasi untuk mengeksekusi dan mempertahankan pengembangan,” ujarnya. Tanpa komitmen jangka panjang dan investasi berkelanjutan, banyak proyek chip khusus berisiko berhenti pada generasi awal.
Dengan dominasi Nvidia dan kehadiran AMD yang sudah lama mapan di pasar chip akselerator AI, OpenAI dan Broadcom harus menemukan cara untuk memastikan keberlanjutan pasokan dan evolusi Jalapeño. Ketersediaan, kapasitas produksi, dan kemampuan untuk terus meningkatkan performa dari generasi ke generasi akan menjadi faktor penentu apakah chip ini sekadar eksperimen atau akan berkembang menjadi pilar utama infrastruktur OpenAI.
“Masih terlalu dini, tetapi secara keseluruhan, ini adalah arah yang sangat baik,” kata Dekate. Ia menyebut langkah OpenAI sebagai evolusi logis bagi para penyedia model frontier—model-model paling canggih yang mendorong batas kemampuan AI saat ini. Menurutnya, penyedia seperti OpenAI dan Anthropic hampir tak punya pilihan selain mengembangkan atau mengendalikan lapisan perangkat keras (hardware) mereka sendiri jika ingin tetap kompetitif dalam jangka panjang. “Saya memperkirakan Anthropic juga akan menyiapkan sesuatu yang serupa dalam waktu dekat,” tambahnya.
Dengan Jalapeño, OpenAI mengirim sinyal jelas: perang AI generatif tidak lagi hanya ditentukan oleh kecanggihan model, tetapi juga oleh seberapa efisien dan terjangkau model tersebut dapat dijalankan pada skala global. Chip ini mungkin baru langkah pertama, tetapi implikasinya terhadap ekonomi AI—dari harga token hingga strategi infrastruktur—bisa menjadi sangat luas.
