Table of Contents
- Model AI Tiongkok Tantang Dominasi Teknologi Frontier
- Efisiensi dan Tantangan Model AI Tiongkok Open-Weight
- Mengenal Model AI Tiongkok Berbasis Open-Weight
- Perbedaan Open-Weight dan Open Source
- Model Tertutup sebagai Pembanding
- Model AI Tiongkok dan Ekonomi Biaya Token
- Mengapa Model Open-Weight Bisa Lebih Murah?
- Deretan Model AI Tiongkok yang Banyak Digunakan
- Dampak Model AI Tiongkok bagi Industri AI Global
- Tekanan Harga bagi Penyedia Model Frontier
- Ekosistem Pengembang yang Semakin Terbuka
- Kendala Infrastruktur dan Keamanan Model AI Tiongkok
- Strategi Mengadopsi Model AI Tiongkok Secara Aman
- Menjalankan Model Secara Self-Hosted
- Menerapkan Strategi Multi-Model
- Melakukan Audit Keamanan dan Tata Kelola
- Peluang Model AI Tiongkok bagi Bisnis di Indonesia
- Contoh Penerapan di Berbagai Sektor
- Kualitas Bahasa Indonesia Tetap Menjadi Kunci
- Cara Memilih Model AI Tiongkok yang Tepat untuk Bisnis
- Masa Depan Model AI Tiongkok di Tengah Ketegangan Geopolitik
- Pertanyaan Seputar Model AI Tiongkok
- Apakah Model AI Tiongkok Aman Digunakan?
- Apakah Model Open-Weight Bisa Berjalan di Laptop?
- Apakah Model Frontier Masih Dibutuhkan?
- Apa Itu Arsitektur Mixture of Experts?
- Apakah Model Open-Weight Bisa Disesuaikan dengan Data Perusahaan?
- Bagaimana Memulai Adopsi AI di Perusahaan?
Model AI Tiongkok Tantang Dominasi Teknologi Frontier
Model AI Tiongkok berbasis open-weight kini menjadi sorotan global, menawarkan alternatif yang lebih hemat biaya dibandingkan model eksklusif. Dengan kemampuan untuk dijalankan di perangkat sederhana seperti laptop, model-model ini tidak hanya kuat dan mumpuni. Model ini juga memberikan solusi nyata untuk mengurangi pengeluaran perusahaan, khususnya dalam hal biaya token AI. Fenomena ini mengubah lanskap ekonomi layanan AI dan menantang dominasi model frontier yang lebih mahal. Dalam prospektus IPO yang dirilis baru-baru ini, Anthropic menyampaikan sebuah pengakuan penting. Menurut perusahaan tersebut, semakin banyaknya model AI yang tersedia dapat membuat pelanggan mempertimbangkan ulang nilai tambah model frontier yang mahal. Data dari OpenRouter menunjukkan bahwa lebih dari separuh volume token global pada minggu terakhir Oktober berasal dari model AI Tiongkok. Angka ini merupakan lonjakan signifikan dibandingkan tahun sebelumnya. OpenRouter sendiri adalah platform yang memungkinkan akses ke berbagai model AI melalui satu API. Platform ini mempermudah integrasi teknologi tersebut ke dalam sistem perusahaan.
Efisiensi dan Tantangan Model AI Tiongkok Open-Weight
Red Hat, penyedia perangkat lunak open source, telah menguji model GLM dari Beijing dalam versi self-hosted untuk kebutuhan internal mereka. Model Qwen dari Alibaba, yang juga populer, tersedia dalam skala lebih kecil. Stephen Watt, Wakil Presiden di Red Hat, mengungkapkan bahwa awalnya ada keraguan terhadap kemampuan model open-weight dibandingkan model frontier. Namun, hasil pengujian menunjukkan bahwa model ini cukup kompeten untuk banyak tugas. Bahkan, dalam beberapa kasus, model open-weight Tiongkok mampu menyaingi performa model frontier seperti Opus milik Anthropic. Namun, adopsi model AI Tiongkok tidak lepas dari tantangan. Kekhawatiran geopolitik menjadi salah satu hambatan utama, terutama bagi perusahaan dan pemerintah di negara-negara Barat. Hal ini memicu permintaan terhadap model open-weight buatan Barat, seperti yang dikembangkan oleh Meta dan Reflection AI. Meski demikian, model Tiongkok tetap menarik perhatian karena efisiensi biaya yang ditawarkannya.Mengenal Model AI Tiongkok Berbasis Open-Weight
Untuk memahami fenomena ini, kita perlu mengenal terlebih dahulu apa yang dimaksud dengan model open-weight. Model open-weight adalah model AI yang bobot (weights) hasil pelatihannya dirilis secara publik. Bobot inilah yang menyimpan seluruh “pengetahuan” model setelah melalui proses pelatihan yang panjang dan mahal. Dengan memiliki bobot tersebut, perusahaan dapat mengunduh, menjalankan, dan menyesuaikan model di infrastruktur milik sendiri. Sebagian besar model AI Tiongkok yang populer saat ini dirilis dengan pendekatan tersebut. Strategi ini berbeda dengan banyak pengembang di Amerika Serikat yang memilih menyediakan model melalui API berbayar. Akibatnya, model buatan Tiongkok menyebar dengan cepat di kalangan pengembang, startup, hingga perusahaan besar. Popularitas ini juga didorong oleh komunitas yang sangat aktif di berbagai platform berbagi model. Setiap kali model baru dirilis, komunitas segera membuat versi terkompresi, panduan instalasi, dan hasil uji perbandingan. Dukungan komunitas tersebut membuat proses adopsi menjadi lebih cepat dan murah. Bagi perusahaan, hal ini berarti waktu uji coba yang lebih singkat sebelum model digunakan secara nyata.Perbedaan Open-Weight dan Open Source
Istilah open-weight sering disamakan dengan open source, padahal keduanya tidak selalu identik. Pada model open source sepenuhnya, pengembang biasanya juga membuka kode pelatihan, dokumentasi data, dan proses pengembangannya. Sementara itu, model open-weight umumnya hanya membagikan bobot akhir beserta kode untuk menjalankannya. Data pelatihan dan resep lengkapnya sering kali tetap dirahasiakan oleh pengembang. Selain itu, setiap model memiliki lisensi yang berbeda-beda. Ada lisensi yang sangat longgar seperti MIT dan Apache 2.0, ada pula lisensi dengan batasan komersial tertentu. Oleh karena itu, tim legal perusahaan perlu membaca lisensi sebelum memakai model untuk produk komersial.Model Tertutup sebagai Pembanding
Di sisi lain, model tertutup atau closed model hanya dapat diakses melalui layanan milik pengembangnya. Pengguna tidak pernah memegang bobot model dan membayar sesuai jumlah token yang diproses. Contohnya adalah model frontier milik OpenAI, Anthropic, dan Google. Keunggulan model ini terletak pada performa puncak, kemudahan integrasi, serta dukungan infrastruktur yang matang. Namun, ketergantungan pada satu penyedia dapat membuat biaya sulit dikendalikan ketika skala penggunaan meningkat.Model AI Tiongkok dan Ekonomi Biaya Token
Token adalah satuan teks yang diproses oleh model bahasa, baik sebagai input maupun output. Dalam bahasa Inggris, satu token kira-kira setara dengan tiga perempat kata. Untuk bahasa Indonesia, jumlah token per kata cenderung lebih banyak karena struktur imbuhannya. Setiap kali chatbot menjawab pertanyaan pelanggan, ada token yang dihitung dan ditagihkan. Bagi perusahaan dengan ribuan percakapan per hari, biaya token dapat membengkak dengan cepat. Apalagi, tren AI agent membuat satu tugas bisa memicu puluhan panggilan model secara berantai. Setiap langkah agent membaca konteks, merencanakan tindakan, lalu menulis hasil, sehingga konsumsi token berlipat ganda. Di sinilah model AI Tiongkok menawarkan daya tarik yang sulit diabaikan.Mengapa Model Open-Weight Bisa Lebih Murah?
Ada beberapa alasan mengapa model open-weight cenderung lebih murah untuk dioperasikan. Pertama, banyak model menggunakan arsitektur Mixture of Experts (MoE) yang hanya mengaktifkan sebagian parameter untuk setiap token. Hasilnya, kebutuhan komputasi per permintaan menjadi jauh lebih ringan. Kedua, persaingan antarpenyedia hosting membuat harga per token terus tertekan. Ketiga, perusahaan dapat memilih ukuran model yang paling sesuai, mulai dari versi kecil hingga versi besar. Keempat, model yang di-host sendiri tidak dikenai margin keuntungan penyedia API. Dengan demikian, biaya operasional lebih bergantung pada efisiensi infrastruktur milik perusahaan sendiri.Deretan Model AI Tiongkok yang Banyak Digunakan
Persaingan di antara pengembang Tiongkok berlangsung sangat ketat. Setiap beberapa bulan, muncul versi baru dengan peningkatan kemampuan yang cukup signifikan. Berikut beberapa nama yang paling sering dibicarakan oleh komunitas pengembang global.- DeepSeek. Pengembang asal Hangzhou ini mencuri perhatian dunia lewat model penalaran DeepSeek-R1 pada awal 2025. Model tersebut dikenal efisien dan dirilis dengan lisensi MIT yang longgar.
- Qwen. Keluarga model milik Alibaba ini tersedia dalam banyak ukuran, dari versi ringan hingga versi raksasa. Banyak varian Qwen dirilis dengan lisensi Apache 2.0, sehingga populer untuk fine-tuning.
- GLM. Model asal Beijing ini dikembangkan oleh Zhipu AI, yang kini juga dikenal dengan merek Z.ai. Seri GLM dikenal cukup kuat untuk tugas pemrograman dan agent.
- Kimi. Moonshot AI mengembangkan seri Kimi yang dikenal unggul dalam pemrosesan konteks panjang dan tugas agentik.
- MiniMax. Perusahaan asal Shanghai ini merilis model bahasa dan model multimodal yang juga mulai banyak dilirik pengembang.
Dampak Model AI Tiongkok bagi Industri AI Global
Kehadiran model open-weight dari Tiongkok tidak hanya memengaruhi perusahaan pengguna. Fenomena ini juga mengubah cara para pengembang model frontier menyusun strategi bisnis mereka. Ketika alternatif yang lebih murah tersedia luas, penyedia model mahal harus membuktikan nilai tambahnya secara lebih jelas.Tekanan Harga bagi Penyedia Model Frontier
Persaingan harga kini menjadi salah satu isu terpenting di industri AI. Penyedia model frontier mulai merilis varian yang lebih kecil dan lebih murah untuk menjaga pelanggan. Selain itu, mereka juga menawarkan diskon untuk pemrosesan massal dan fitur penyimpanan konteks atau caching. Langkah ini menunjukkan bahwa tekanan dari model open-weight benar-benar dirasakan oleh para pemain besar. Di sisi lain, penyedia model frontier tetap memiliki keunggulan dalam riset dan keandalan layanan. Mereka biasanya lebih cepat menghadirkan kemampuan baru, seperti penalaran mendalam dan penggunaan alat yang kompleks. Oleh karena itu, persaingan ini kemungkinan besar tidak akan berakhir dengan satu pemenang tunggal. Pasar justru akan terbagi berdasarkan kebutuhan, anggaran, dan tingkat risiko yang dapat diterima setiap perusahaan.Ekosistem Pengembang yang Semakin Terbuka
Model open-weight juga mendorong lahirnya ekosistem pengembang yang lebih terbuka dan kolaboratif. Para peneliti dapat mempelajari cara kerja model secara langsung, lalu membagikan hasil eksperimennya kepada komunitas. Startup dapat membangun produk khusus tanpa harus melatih model dari nol dengan biaya yang sangat besar. Sementara itu, kampus dan lembaga riset memperoleh akses ke teknologi canggih yang sebelumnya sulit dijangkau. Ekosistem ini juga mempercepat munculnya berbagai alat pendukung, mulai dari perangkat lunak inferensi hingga teknik kompresi model. Hasilnya, menjalankan model AI di perangkat lokal menjadi semakin mudah dari tahun ke tahun. Tren inilah yang membuat model open-weight terus mendapatkan tempat di kalangan pengembang global.Kendala Infrastruktur dan Keamanan Model AI Tiongkok
Meskipun menawarkan efisiensi biaya, model open-weight masih menghadapi kendala infrastruktur. Menurut Jonathan Cornelissen, CEO DataCamp, penyedia model open-weight sering kali tidak mampu memenuhi kebutuhan kecepatan dan skala yang diinginkan. Latensi dan kapasitas menjadi tantangan utama. Kondisi ini membuat beberapa perusahaan, termasuk DataCamp, tetap mengandalkan model frontier seperti OpenAI untuk kebutuhan mereka. Di sisi lain, beberapa perusahaan seperti Red Hat telah menemukan cara untuk memaksimalkan nilai dari model Tiongkok. Red Hat membatasi anggaran penggunaan model frontier hingga $300 per bulan per karyawan. Dengan cara ini, Red Hat mendorong insinyur mereka untuk memilih model yang paling sesuai dengan tugas yang dihadapi. Langkah ini berhasil mengubah pengeluaran untuk model AI dari tidak terkendali menjadi lebih stabil, bahkan “berkurang secara radikal,” menurut Watt.Strategi Mengadopsi Model AI Tiongkok Secara Aman
Pengalaman Red Hat dan DataCamp menunjukkan bahwa tidak ada satu pendekatan yang cocok untuk semua perusahaan. Keputusan terbaik bergantung pada jenis tugas, sensitivitas data, dan kemampuan tim teknis. Berikut beberapa strategi yang dapat dipertimbangkan sebelum mengadopsi model open-weight.Menjalankan Model Secara Self-Hosted
Menjalankan model di server sendiri memberi kendali penuh atas data dan konfigurasi. Data pelanggan tidak perlu dikirim ke server pihak ketiga, termasuk ke server di luar negeri. Pendekatan ini sangat relevan bagi sektor yang diatur ketat, seperti perbankan, kesehatan, dan pemerintahan. Meski begitu, self-hosting membutuhkan GPU, tim operasional, serta pemantauan performa yang berkelanjutan. Oleh karena itu, perusahaan perlu menghitung total biaya kepemilikan, bukan hanya biaya token semata.Menerapkan Strategi Multi-Model
Banyak perusahaan kini tidak lagi bergantung pada satu model saja. Mereka menggunakan model frontier untuk tugas yang sangat kompleks dan bernilai tinggi. Sementara itu, tugas rutin seperti ringkasan, klasifikasi, dan menjawab pertanyaan umum dialihkan ke model yang lebih murah. Pendekatan ini mirip dengan kebijakan anggaran yang diterapkan Red Hat kepada para insinyurnya. Hasilnya, kualitas tetap terjaga sementara biaya keseluruhan dapat ditekan secara signifikan.Melakukan Audit Keamanan dan Tata Kelola
Model yang dijalankan secara lokal tetap perlu diuji sebelum digunakan di lingkungan produksi. Tim keamanan sebaiknya memeriksa sumber unduhan, integritas file model, serta perilaku model terhadap perintah berbahaya. Selain itu, perusahaan perlu menguji potensi bias dan sensor bawaan yang mungkin memengaruhi jawaban model. Pengujian ini penting karena setiap model membawa nilai dan batasan dari data pelatihannya. Dokumentasi yang rapi juga akan memudahkan perusahaan ketika menghadapi audit regulator.Peluang Model AI Tiongkok bagi Bisnis di Indonesia
Fenomena ini juga relevan bagi pelaku usaha di Indonesia yang sedang gencar mengadopsi AI. Banyak perusahaan lokal ingin menghadirkan chatbot, asisten virtual, dan otomasi layanan pelanggan. Namun, biaya token model frontier dalam dolar AS sering menjadi hambatan, terutama bagi UMKM. Kehadiran model open-weight yang lebih murah dapat membuka akses teknologi AI bagi lebih banyak bisnis. Meski demikian, perusahaan di Indonesia tetap perlu memperhatikan Undang-Undang Nomor 27 Tahun 2022 tentang Pelindungan Data Pribadi. Regulasi ini mengatur cara data pribadi dikumpulkan, diproses, dan ditransfer ke luar negeri. Oleh karena itu, pemilihan lokasi server dan cara model dijalankan menjadi pertimbangan yang sangat penting. Dalam konteks ini, menjalankan model secara lokal bisa menjadi pilihan yang lebih aman dibandingkan mengirim data ke luar negeri.Contoh Penerapan di Berbagai Sektor
Model open-weight yang hemat biaya dapat dimanfaatkan di banyak sektor usaha. Di sektor ritel, model dapat menjawab pertanyaan stok, harga, dan status pesanan secara otomatis. Di sektor pendidikan, model dapat membantu menyusun ringkasan materi dan menjawab pertanyaan siswa. Sementara itu, sektor perhotelan dapat memanfaatkannya untuk melayani reservasi dan permintaan tamu sepanjang hari. Instansi pemerintah daerah juga dapat menggunakannya untuk menjawab pertanyaan layanan publik yang berulang. Kuncinya adalah memulai dari kebutuhan yang paling sering muncul dan paling mudah diukur hasilnya.Kualitas Bahasa Indonesia Tetap Menjadi Kunci
Selain biaya dan keamanan, kemampuan model memahami bahasa Indonesia juga harus diuji secara serius. Pelanggan Indonesia sering menggunakan bahasa informal, singkatan, hingga campuran bahasa daerah. Model yang unggul dalam pengujian berbahasa Inggris belum tentu memberikan hasil yang sama untuk percakapan lokal. Karena itu, perusahaan sebaiknya menyiapkan kumpulan pertanyaan nyata dari pelanggan sebagai bahan uji. Dengan pengujian yang tepat, perusahaan dapat memilih model yang benar-benar sesuai dengan karakter audiensnya.Cara Memilih Model AI Tiongkok yang Tepat untuk Bisnis
Sebelum memutuskan, perusahaan sebaiknya menyusun kerangka evaluasi yang jelas dan terukur. Kerangka ini membantu tim membandingkan model secara objektif, bukan berdasarkan tren semata. Berikut beberapa langkah praktis yang dapat diterapkan.- Tentukan kasus penggunaan utama. Identifikasi tugas yang ingin diotomatisasi, misalnya layanan pelanggan, ringkasan dokumen, atau pembuatan kode.
- Siapkan data uji yang representatif. Gunakan contoh pertanyaan dan dokumen nyata agar hasil pengujian mencerminkan kondisi lapangan.
- Bandingkan kualitas jawaban. Uji beberapa model sekaligus dan nilai akurasi, relevansi, serta konsistensi jawabannya.
- Hitung biaya secara menyeluruh. Masukkan biaya token, server, tenaga ahli, dan pemeliharaan ke dalam perhitungan.
- Ukur latensi dan kapasitas. Pastikan model tetap responsif ketika jumlah pengguna meningkat pada jam sibuk.
- Periksa lisensi dan kepatuhan. Pastikan lisensi model mengizinkan penggunaan komersial dan sesuai regulasi data yang berlaku.