CompactifAI: Solusi Efisien untuk Model Bahasa Besar
Multiverse Computing telah berhasil mengamankan pendanaan sebesar $215 juta dalam putaran pendanaan seri B untuk mengembangkan teknologi kompresi AI yang inovatif. Teknologi CompactifAI yang terinspirasi dari kuantum ini mampu mengurangi ukuran model bahasa besar hingga 95% tanpa mengorbankan kinerja. Pendanaan ini dipimpin oleh Bullhound Capital dengan partisipasi dari berbagai investor termasuk HP Tech Ventures, SETT, Forgepoint Capital International, dan lainnya.CompactifAI menawarkan solusi untuk tantangan besar dalam industri AI, yaitu kebutuhan sumber daya komputasi yang besar untuk menjalankan model bahasa besar (LLM). Biasanya, LLM memerlukan infrastruktur cloud khusus yang meningkatkan biaya dan konsumsi energi. Meskipun teknik kompresi seperti kuantisasi dan pemangkasan sudah ada, mereka sering kali mengakibatkan penurunan kinerja yang signifikan. Namun, CompactifAI memungkinkan model yang dikompresi berjalan empat hingga 12 kali lebih cepat dan mengurangi biaya inferensi hingga 80%.Teknologi ini memungkinkan model AI untuk beroperasi tidak hanya di cloud atau pusat data pribadi, tetapi juga langsung pada perangkat edge seperti PC, ponsel, mobil, drone, dan bahkan Raspberry Pi. Enrique Lizaso Olmos, pendiri dan CEO Multiverse, menyatakan bahwa teknologi ini membuka efisiensi baru dalam penerapan AI dan mendapatkan adopsi cepat karena kemampuannya untuk mengurangi persyaratan perangkat keras secara radikal.Román Orús, salah satu pendiri dan kepala ilmuwan di Multiverse, menjelaskan bahwa teknologi ini didasarkan pada jaringan tensor, pendekatan yang terinspirasi dari kuantum untuk menyederhanakan jaringan saraf. Versi terkompresi dari model sumber terbuka populer seperti Llama, DeepSeek, dan Mistral sudah tersedia, dengan lebih banyak model direncanakan untuk dirilis.Investasi ini datang ketika pasar inferensi AI diproyeksikan mencapai $106 miliar. Multiverse berencana menggunakan pendanaan ini untuk mempercepat adopsi teknologinya, yang berpotensi mengubah cara AI diterapkan secara global dengan menangani masalah efisiensi biaya dan energi. Tuan Tran, presiden teknologi dan inovasi di HP, menyatakan bahwa pendekatan Multiverse memiliki potensi untuk mewujudkan manfaat AI berupa peningkatan kinerja, personalisasi, privasi, dan efisiensi biaya bagi perusahaan dari segala jenis.
