Daftar Isi
Meta Meluncurkan Alat Keamanan Purple Llama untuk Melindungi Model Kecerdasan Buatan
Meta, perusahaan induk Facebook, telah meluncurkan alat keamanan baru untuk melindungi dan mengamankan model kecerdasan buatan (AI) mereka yang bersumber terbuka. Proyek ini diberi nama Purple Llama dan bertujuan untuk memberikan para pengembang serangkaian alat untuk menguji keamanan model mereka sebelum dirilis. Meta berharap bahwa dengan meluncurkan rangkaian alat keamanan ini, mereka dapat membangun kepercayaan pada para pengembang dan mendorong inovasi baru dalam bidang AI.
Salah satu alat yang tersedia di Purple Llama adalah Llama Guard, sebuah model pra-pelatihan terbuka yang dirancang untuk melindungi dari pembuatan konten berisiko. Llama Guard dilatih menggunakan campuran dataset yang tersedia secara publik dan dapat mendeteksi jenis konten berisiko yang umum.Meta berharap para pengembang dapat menyesuaikan Llama Guard sesuai dengan kebutuhan mereka dan mengadopsi praktik terbaik dalam penggunaannya.
CyberSec Eval: Benchmark Keamanan Siber untuk Model Bahasa
Selain itu, Purple Llama juga menawarkan CyberSec Eval, seperangkat benchmark evaluasi keamanan siber untuk model bahasa besar. CyberSec Eval mencakup tes untuk mengukur risiko keamanan serta alat untuk mengevaluasi frekuensi saran kode yang tidak aman. Tujuan dari alat ini adalah membuat model AI lebih sulit untuk menghasilkan kode jahat.
Proyek Purple Llama sendiri dinamai berdasarkan model kecerdasan buatan sumber terbuka populer Meta, yaitu Llama, dan konsep dari dunia keamanan siber di mana tim merah menyerang sistem dan tim biru membela. Dalam sebuah panel di AI Summit New York 2023, Sy Choudhury, Direktur Pengembangan Bisnis Meta, Kemitraan AI, menjelaskan bahwa kombinasi warna merah dan biru menciptakan warna ungu, yang menjadi inspirasi nama proyek ini.
Meta juga mengumumkan bahwa alat-alat dalam proyek Purple Llama akan dilisensikan secara permissif, sehingga dapat digunakan untuk penggunaan komersial dan penelitian. Perusahaan ini juga berencana untuk bekerja sama dengan anggota Aliansi AI yang baru terbentuk untuk meningkatkan alat-alat tersebut dan membuatnya lebih tersedia bagi komunitas sumber terbuka. Meta berharap langkah ini dapat mendorong kolaborasi di antara para pengembang dan standarisasi alat kepercayaan dan keamanan untuk AI generatif.
Komitmen Meta: Lindungi dan Tingkatkan Keamanan Kecerdasan Buatan
Dengan meluncurkan Purple Llama, Meta menunjukkan komitmennya dalam melindungi dan mengamankan model kecerdasan buatan sumber terbuka. Alat-alat ini diharapkan dapat membantu para pengembang dalam menguji keamanan model mereka sebelum dirilis, sehingga dapat meminimalkan risiko penggunaan AI yang jahat.
