Daftar Isi
CompactifAI: Solusi Efisien untuk Model Bahasa Besar
Multiverse Computing berhasil mengamankan pendanaan sebesar $215 juta dalam seri B untuk mengembangkan teknologi kompresi AI yang inovatif. Teknologi CompactifAI yang terinspirasi dari kuantum ini mampu mengurangi ukuran model bahasa besar (LLM) hingga 95% tanpa menurunkan kinerja. Pendanaan ini dipimpin oleh Bullhound Capital dengan partisipasi dari HP Tech Ventures, SETT, Forgepoint Capital International, dan lainnya.
CompactifAI dan Efisiensi Model Bahasa Besar
CompactifAI menawarkan solusi atas tantangan besar dalam industri AI, yaitu kebutuhan sumber daya komputasi yang besar untuk menjalankan LLM. Biasanya, LLM memerlukan infrastruktur cloud khusus yang meningkatkan biaya dan konsumsi energi. Berbeda dengan metode kompresi seperti kuantisasi atau pemangkasan yang sering menurunkan performa, CompactifAI memungkinkan model berjalan empat hingga 12 kali lebih cepat dan memangkas biaya inferensi hingga 80%.
Penerapan di Edge Computing
Teknologi ini memungkinkan model AI berjalan tidak hanya di cloud atau pusat data pribadi, tetapi juga langsung pada perangkat edge seperti PC, ponsel, mobil, drone, hingga Raspberry Pi. Enrique Lizaso Olmos, pendiri dan CEO Multiverse, menyatakan bahwa CompactifAI membuka efisiensi baru dalam penerapan AI dengan mengurangi kebutuhan perangkat keras secara signifikan.
Teknologi Berbasis Jaringan Tensor
Menurut Román Orús, salah satu pendiri dan kepala ilmuwan Multiverse, teknologi ini menggunakan jaringan tensor, sebuah pendekatan terinspirasi kuantum untuk menyederhanakan jaringan saraf. Versi terkompresi dari model populer sumber terbuka seperti Llama, DeepSeek, dan Mistral sudah tersedia, dengan lebih banyak model direncanakan untuk dirilis.
Potensi Pasar dan Dukungan Investor
Pasar inferensi AI diproyeksikan mencapai $106 miliar dalam beberapa tahun mendatang. Multiverse berencana menggunakan pendanaan ini untuk mempercepat adopsi CompactifAI, yang dapat mengubah cara AI diterapkan secara global melalui efisiensi biaya dan energi. Tuan Tran, presiden teknologi dan inovasi di HP, menegaskan bahwa pendekatan ini berpotensi menghadirkan manfaat berupa peningkatan kinerja, personalisasi, privasi, dan efisiensi biaya bagi berbagai perusahaan.