Daftar Isi
Gaussian Probing dan Ancaman AI Generatif
Perkembangan pesat artificial intelligence generatif mendorong lonjakan jumlah model sumber terbuka yang kian mudah diakses publik. Sayangnya, kemampuan ini turut memunculkan kebutuhan mendesak akan deteksi kapabilitas berbahaya AI yang andal dan tidak melanggar hukum. Model-model ini dapat diadaptasi secara gratis untuk beragam kebutuhan. Sebagai contoh, mulai dari menghasilkan gambar produk dengan gaya artistik tertentu hingga menyusun materi pemasaran visual yang lebih menarik. Namun, kemampuan yang sama semakin sering disalahgunakan oleh pihak tidak bertanggung jawab untuk tujuan berbahaya dan melanggar hukum. Pelaku dapat melakukan fine-tuning pada model generatif untuk menghasilkan konten ilegal. Selain itu, praktik ini juga mencakup penyebaran ujaran kebencian. Praktik ini turut mencakup materi pelecehan seksual anak (child sexual abuse material/CSAM) yang dilarang secara internasional.
Skala masalah ini berkembang sangat cepat dan menimbulkan kekhawatiran serius di kalangan peneliti serta penegak hukum. National Center for Missing and Exploited Children melaporkan lebih dari 1,5 juta kasus dugaan CSAM yang dihasilkan AI. Laporan ini tercatat sepanjang tahun 2025. Angka ini naik drastis dari sekitar 67.000 laporan pada tahun 2024. Peningkatan ini setara dengan lebih dari dua puluh kali lipat hanya dalam satu tahun.
Risiko CSAM dari Model AI Generatif
Secara tradisional, insinyur menilai apakah suatu sistem AI mampu menghasilkan konten berbahaya dengan memberikan berbagai prompt. Selanjutnya, mereka memeriksa keluarannya secara sistematis. Untuk banyak jenis konten, pendekatan ini masih dapat digunakan sebagai metode audit standar yang relatif efektif. Namun, untuk CSAM, metode tersebut tidak dapat diterapkan. Hal ini karena terhalang ketentuan hukum yang melarang pembuatan dan distribusi materi tersebut dalam bentuk apa pun. Di Amerika Serikat, pembuatan CSAM merupakan tindakan ilegal dalam kondisi apa pun, tanpa memandang niat, tujuan pengujian, atau konteks penelitian. Larangan serupa juga berlaku di banyak negara lain melalui regulasi nasional dan konvensi internasional yang berfokus pada perlindungan anak. Hambatan hukum ini menimbulkan celah kritis dalam keselamatan AI karena menghalangi penggunaan prosedur evaluasi berbasis keluaran. Pertanyaannya: bagaimana cara menentukan apakah sebuah model mampu menghasilkan CSAM tanpa pernah mengizinkannya membuat konten tersebut?
Kolaborasi MIT dan Thorn: Lahirnya Gaussian Probing
Tim Peneliti dan Kemitraan dengan Thorn
Untuk menjawab tantangan ini, Associate Professor Ashia Wilson dan mahasiswa pascasarjana Vinith Suriyakumar bekerja sama dengan peneliti MIT. Kolaborasi ini melibatkan Healthy ML Lab. Lab ini berfokus pada pengembangan sistem AI yang aman dan etis. Lab ini dipimpin oleh Associate Professor Marzyeh Ghassemi, yang memiliki kepakaran dalam machine learning untuk aplikasi kesehatan. Mereka juga berkolaborasi dengan Thorn, organisasi nirlaba yang berfokus pada perlindungan anak dari eksploitasi seksual di ruang digital. Misi Thorn adalah mentransformasi cara anak-anak dilindungi dari pelecehan dan eksploitasi seksual di era digital. Selain itu, misi ini juga dijalankan melalui teknologi, riset, dan kerja sama lintas sektor. Bersama-sama, tim ini mengembangkan metode audit baru yang dapat menentukan apakah sebuah model telah dispesialisasi untuk menghasilkan CSAM. Metode ini dilakukan tanpa perlu memberikan prompt atau menghasilkan gambar apa pun. Pendekatan ini menjadi dasar teknik Gaussian probing yang dirancang sebagai prosedur audit nongeneratif yang patuh hukum.
Cara Kerja Perubahan Internal Model
Metode Gaussian probing berfokus pada perubahan internal yang terjadi pada model selama proses fine-tuning. Metode ini tidak berfokus pada keluarannya yang tampak di permukaan. Dengan menelaah representasi tersembunyi di dalam model, peneliti dapat menyimpulkan secara andal apakah model tersebut telah diadaptasi. Adaptasi ini termasuk kemungkinan model menghasilkan citra berbahaya. Dalam pengujian awal, prosedur audit ini berhasil mengidentifikasi varian model yang dispesialisasi untuk CSAM dengan akurasi 100 persen. Hasil ini menunjukkan potensi kuat sebagai alat penyaringan keselamatan. Platform yang meng-host model sumber terbuka dapat menggunakan Gaussian probing untuk secara otomatis menandai model yang tidak aman. Model tersebut kemudian dapat dihapus sebelum diunduh secara luas oleh pengguna. Metode ini juga dapat mencegah model berbahaya diunggah sejak awal. Dengan demikian, risiko distribusi luas konten ilegal berkurang dan paparan terhadap materi yang merugikan anak dapat diminimalkan.
Kutipan Peneliti dan Kredit Penulis
“Ini membuka jalur baru bagi platform yang meng-host model sumber terbuka dan bagi penegak hukum untuk benar-benar menguji apakah sebuah model mampu menghasilkan CSAM. Sebelumnya, kita tidak memiliki cara untuk mengukur hal ini. Ini adalah titik buta besar yang dimanfaatkan sebagian orang. Sekarang, kita dapat menangani masalah keselamatan AI yang berdampak negatif sangat parah,” ujar penulis utama Vinith Suriyakumar, mahasiswa pascasarjana MIT di bidang teknik elektro dan ilmu komputer (EECS).
Suriyakumar dan Wilson menulis makalah ini bersama postdok MIT Lena Stempfle yang berkontribusi pada pengembangan metodologi teknis. Wilson sendiri menjabat sebagai Lister Brothers Career Development Professor di EECS. Ia juga menjadi peneliti utama di Laboratory for Information and Decision Systems (LIDS) dan penulis senior makalah ini. Ghassemi, associate professor di EECS dan anggota Institute for Medical Engineering and Science (IMES) serta LIDS, juga menjadi penulis. Selain itu, ia turut memberikan perspektif interdisipliner pada penelitian ini. Karya ini dipresentasikan sebagai spotlight paper pada lokakarya “Trustworthy AI for Good” di International Conference on Machine Learning. Hal ini menandakan pengakuan komunitas ilmiah terhadap urgensi topik tersebut.
Adaptasi Model dan Risiko Penyalahgunaan LoRA
Kemajuan terbaru dalam AI generatif membuat proses kustomisasi model untuk tugas-tugas spesifik menjadi jauh lebih mudah dan murah secara komputasi. Alih-alih melatih ulang seluruh model dengan himpunan data baru yang besar, pengguna dapat menerapkan teknik bernama low-rank adaptation (LoRA). LoRA secara efisien menyesuaikan perilaku model tanpa mengubah struktur dasar secara menyeluruh, sehingga mengurangi kebutuhan sumber daya. Pendekatan ini memicu ledakan varian model yang terspesialisasi untuk berbagai aplikasi, baik komersial maupun nonkomersial. Sebagai contoh, terdapat sistem yang menghasilkan gambar cat air dalam gaya gerakan seni tertentu. Selain itu, ada pula alat yang dirancang untuk aplikasi sangat spesifik seperti desain interior atau ilustrasi medis. Sayangnya, teknik yang sama dapat digunakan untuk membuat model yang menghasilkan CSAM berkualitas tinggi dan konten berbahaya lainnya. Dengan demikian, risiko penyalahgunaan pun semakin meluas.
Cara standar untuk mengaudit sebuah model adalah dengan memberinya prompt yang berpotensi bermasalah. Selanjutnya, hasil yang dihasilkan diperiksa secara manual atau otomatis. Proses manual ini memakan waktu dan sulit diskalakan. Selain itu, cara ini juga secara psikologis merugikan bagi evaluator manusia yang harus berulang kali melihat materi mengganggu. Untuk CSAM, pendekatan ini sama sekali tidak dapat digunakan. Sebab, menghasilkan konten tersebut adalah tindakan ilegal, bahkan untuk tujuan pengujian akademik. “Kita berada dalam situasi yang sangat sulit di mana, berdasarkan hukum itu sendiri, kita tidak dapat menggunakan cara evaluasi de facto. Kita harus membuang seluruh perangkat evaluasi yang ada dan mengambil pendekatan yang berbeda,” jelas Suriyakumar. Menyadari dilema ini, tim pun bermitra dengan Thorn untuk mengembangkan solusi baru. Solusi ini sama sekali tidak memerlukan pembuatan citra ilegal, namun tetap memberikan sinyal teknis yang kuat tentang kemampuan berbahaya model.
Metode Audit Nongeneratif: Cara Kerja Gaussian Probing
Deteksi Kapabilitas Berbahaya AI Tanpa Menghasilkan Konten Ilegal
Alih-alih memeriksa keluaran, para peneliti menganalisis modifikasi yang diperkenalkan oleh LoRA selama fine-tuning terhadap model dasar. Modifikasi ini, yang dikenal sebagai LoRA adaptor, mengkodekan bagaimana model dasar telah dispesialisasi untuk tugas tertentu. Selain itu, modifikasi ini juga mencakup potensi pembuatan konten berbahaya. Metode audit baru ini memeriksa adaptor tersebut untuk menentukan apakah sebuah model telah di-tune untuk kemampuan berbahaya. Proses ini dilakukan tanpa pernah menghasilkan satu gambar pun. Gaussian probing bekerja dengan cara memasukkan serangkaian titik data acak ke dalam model. Selanjutnya, sistem mengamati bagaimana titik-titik tersebut ditransformasikan di dalam struktur internal berlapis-lapis model. “Kami tidak pernah menjalankan model sampai tahap akhir atau memberikan prompt pada model, sehingga kami tidak pernah menghasilkan gambar,” kata Suriyakumar, menekankan bahwa prosedur ini sepenuhnya nongeneratif dan patuh terhadap regulasi yang melarang pembuatan CSAM.
Validasi dan Tingkat Akurasi Deteksi
Pada beberapa titik di dalam model, para peneliti menangkap bagaimana LoRA adaptor mengubah perhitungan dan aliran informasi. Mereka kemudian merata-ratakan respons ini untuk merangkum efek keseluruhan adaptor terhadap pemrosesan internal model. Dengan demikian, dihasilkan representasi ringkas dari spesialisasi yang diperkenalkan. Respons yang diringkas ini menjadi indikator kuat tentang bagaimana model tersebut telah dispesialisasi. Selain itu, respons ini juga menunjukkan apakah terdapat pola yang konsisten dengan kemampuan menghasilkan CSAM. Untuk memvalidasi pendekatan mereka, tim menguji Gaussian probing pada varian dari tiga keluarga model berbeda. Ketiga keluarga model ini banyak digunakan dalam ekosistem AI generatif. Mereka membandingkan hasil probing dengan informasi ground-truth dari LoRA adaptor. Informasi ini mencakup adaptor yang diketahui menghasilkan CSAM, citra berbahaya lainnya, atau konten yang aman. Metode ini berhasil mengidentifikasi setiap model yang diadaptasi untuk menghasilkan CSAM dengan akurasi 100 persen. Selain itu, metode ini juga menunjukkan tingkat kesalahan yang sangat rendah untuk model yang aman.
“Ada sekumpulan besar kekhawatiran terkait keselamatan anak dengan adanya AI, dan ini adalah kekhawatiran nyata yang perlu ditangani. Banyak anak yang dirugikan oleh deepfake berbasis AI. Kami telah menunjukkan bahwa Gaussian probing dapat menjadi alat yang sangat berguna, dan kami berharap komunitas riset benar-benar mencurahkan lebih banyak perhatian pada masalah ini,” ujar Wilson, menekankan pentingnya pendekatan berbasis bukti dalam kebijakan keselamatan digital.
Skalabilitas, Ketangguhan, dan Agenda Riset ke Depan
Keunggulan Skalabilitas dan Ketangguhan Metode
Keunggulan utama Gaussian probing adalah skalabilitas dan biayanya yang relatif rendah dibandingkan audit berbasis keluaran. Ribuan varian model baru dirilis secara daring setiap bulan. Oleh karena itu, solusi keselamatan yang praktis harus mampu mengikuti laju tersebut tanpa mengorbankan akurasi. Karena metode ini tidak memerlukan pembuatan atau peninjauan keluaran, Gaussian probing dapat diotomatisasi dan diterapkan dalam skala besar. Dengan demikian, sejumlah besar model dapat disaring sebelum didistribusikan secara luas. Teknik ini juga menawarkan ketangguhan terhadap upaya pengelakan yang dilakukan oleh pelaku jahat. Untuk menghindari deteksi, pelaku harus memanipulasi struktur internal model dasar secara sangat hati-hati dengan cara yang dapat menggagalkan proses probing. Upaya tersebut jauh lebih kompleks dibanding sekadar melakukan fine-tuning model dengan LoRA adaptor. Akibatnya, biaya dan kesulitan pun meningkat bagi pihak yang ingin menyalahgunakan teknologi.
Rencana Riset Lanjutan dan Dukungan Pendanaan
Ke depan, para peneliti berencana menguji Gaussian probing pada rentang varian model yang lebih luas. Rencana ini mencakup model dengan arsitektur berbeda dan ukuran parameter yang lebih besar. Mereka juga ingin menyelidiki apakah teknik ini dapat mendeteksi kemampuan berbahaya pada model dasar sebelum proses fine-tuning dilakukan. Dengan demikian, intervensi dapat dilakukan lebih dini. Pendekatan ini berpotensi memperluas perlindungan, bahkan sebelum model dimodifikasi untuk tujuan tertentu oleh pengguna. “Sekarang kita memiliki pendekatan teknologi untuk sebagian menjawab kekhawatiran ini. Begitu banyak upaya dicurahkan dalam kolaborasi ini, yang memungkinkan kita menangani masalah yang sangat sulit dan merugikan begitu banyak anak, baik secara nasional maupun di seluruh dunia. Semoga kita dapat memberikan dampak yang transformatif di bidang ini,” kata Ghassemi, menyoroti pentingnya kolaborasi antara akademisi, organisasi nirlaba, dan pemangku kepentingan lain. Riset ini didukung sebagian oleh Bridgewater AIA Labs Research Fellowship. Pendanaan ini turut mendukung pengembangan metode AI yang lebih aman dan bertanggung jawab.
Pada akhirnya, Gaussian probing menawarkan kerangka baru untuk deteksi kapabilitas berbahaya AI tanpa harus menghasilkan konten ilegal. Pendekatan ini membantu menutup titik buta regulasi dan teknologi dalam perlindungan anak di era AI generatif. Pendekatan ini mampu mendeteksi model yang dispesialisasi untuk menghasilkan CSAM tanpa pernah memproduksi satu pun gambar ilegal. Dengan kemampuan itu, pendekatan ini berpotensi menjadi standar baru bagi platform, regulator, dan penegak hukum. Standar ini akan membantu menyaring risiko yang muncul dari ekosistem model sumber terbuka yang semakin terdesentralisasi.
