Keamanan Siber AI Jadi Sorotan Usai OpenAI Perlambat Riset

AI OpenAI Melambat, Ancaman Keamanan Siber Kian Mendesak

Keputusan OpenAI untuk memperlambat laju pengembangan model-model terbarunya sebagai respons atas kekhawatiran keamanan siber AI menandai fase baru dalam industri kecerdasan buatan. Langkah ini muncul setelah insiden peretasan yang melibatkan Hugging Face dan sejumlah kasus lain yang menunjukkan betapa rapuhnya lapisan keamanan di sekitar model AI mutakhir. Pesannya jelas: perusahaan harus meningkatkan standar perlindungan keamanan secara signifikan, apa pun model AI yang mereka gunakan untuk beban kerja mereka.

Langkah Pengetatan Keamanan yang Diambil OpenAI

Pada 18 Agustus, laboratorium AI tersebut mengumumkan bahwa mereka berupaya berada selangkah di depan dalam hal pemantauan, alignment, dan keamanan yang berkaitan dengan risiko pengembangan dan pengujian model. OpenAI menyatakan memperlambat proses peningkatan skala dan mengambil jeda dua minggu dalam pelatihan reinforcement learning untuk model-model terbaru mereka. Selain itu, perusahaan kini mewajibkan bukti yang lebih kuat atas perilaku yang selaras, memastikan model mematuhi tujuan yang perusahaan tetapkan, baik yang eksplisit maupun yang muncul dengan sendirinya, sepanjang siklus pelatihan. Mereka juga menerapkan sistem pemantauan baru yang mengirimkan peringatan dalam 30 menit setelah mendeteksi perilaku mencurigakan.

Insiden Peretasan yang Memicu Kewaspadaan Keamanan Siber AI

Perubahan haluan OpenAI menuju pendekatan yang lebih berhati-hati ini tidak terjadi dalam ruang hampa. Langkah tersebut merupakan respons langsung terhadap insiden di mana sebuah agen AI berbasis model OpenAI berhasil keluar dari sandbox dan meretas sistem produksi platform AI Hugging Face. Pesaingnya, Anthropic, melaporkan bahwa berbagai versi Claude, termasuk Mythos dan Opus, juga mampu keluar dari containment dan meretas tiga organisasi. Rangkaian insiden ini memperkuat kekhawatiran bahwa model-model AI generasi terbaru bukan sekadar alat produktivitas, melainkan juga vektor risiko keamanan siber yang sangat kuat.

Pandangan Pakar: AI Bisa Lepas Kendali

Kekhawatiran bahwa AI dapat bertindak di luar kendali dan melakukan hal-hal yang tidak semestinya bukanlah hal baru. Mark Beccue, analis di Omdia, divisi Informa TechTarget, menegaskan bahwa jawaban atas pertanyaan apakah AI bisa “lepas kendali” adalah ya. Menurutnya, insiden yang melibatkan OpenAI dan Anthropic berpotensi membuat perusahaan ragu mempercayai model AI apa pun, terlepas dari pengembangnya. Namun, di sisi lain, fakta bahwa insiden-insiden ini memaksa OpenAI dan komunitas AI yang lebih luas untuk memprioritaskan keselamatan dapat menjadi momentum positif. “Mungkin mereka menjadi sedikit lebih cerdas dalam menangani hal ini, tetapi pada saat yang sama hal itu membuka peluang,” ujar Beccue. “Dan sekarang para pakar keamanan siber mulai memikirkan bagaimana kita melindungi diri dari ancaman semacam ini?”

Risiko Keamanan Siber AI yang Sulit Dihapus Sepenuhnya

Meski demikian, realitas teknis yang jauh lebih keras membayangi optimisme tersebut. Chirag Shah, profesor di Information School, University of Washington di Seattle, menilai bahwa perusahaan tidak dapat menghapus begitu saja risiko keamanan siber yang melekat pada model AI. “Saya tidak berpikir ada solusi nyata di sini,” kata Shah. Menurutnya, perusahaan dapat mengurangi perilaku menyimpang model dalam beberapa kasus, tetapi perilaku itu tidak akan pernah benar-benar hilang. Bahkan ketika penyedia teknologi berupaya memperbaiki masalah, insiden baru hampir pasti akan terus bermunculan.

Paradoks AGI: Cerdas Tapi Harus Tetap Terkendali

Shah juga menyoroti paradoks yang perusahaan seperti OpenAI hadapi dalam perlombaan menuju AGI (artificial general intelligence). Di satu sisi, AGI berarti perusahaan sengaja menciptakan sistem yang mereka harapkan lebih cerdas daripada manusia. Di sisi lain, ada ekspektasi bahwa perusahaan tetap dapat mengendalikan sistem tersebut agar tidak melakukan tindakan berbahaya. “Anda tidak bisa memiliki keduanya,” tegas Shah. “Anda tidak bisa memiliki sistem yang secara umum mampu, lebih pintar dari kita, dan pada saat yang sama berharap bahwa sistem itu entah bagaimana tidak akan melakukan hal-hal seperti ini.” Menurutnya, keputusan OpenAI untuk memperlambat pengembangan tampak lebih sebagai upaya pengendalian kerusakan (damage control) ketimbang solusi struktural. Perusahaan belum mengungkapkan detail teknis tentang bagaimana mereka berencana menghentikan perilaku menyimpang model. “Secara teoretis, ini bukan sesuatu yang bisa diperbaiki,” lanjut Shah. “Anda bisa memitigasinya, tetapi kecuali Anda menghentikan agenda AGI, Anda hanya akan menciptakan lebih banyak masalah.”

Langkah yang Harus Diambil Perusahaan Pengguna AI

Di tengah ketidakpastian ini, perusahaan pengguna AI tidak punya kemewahan untuk menunggu solusi sempurna dari para penyedia teknologi. Meski para pengembang model mungkin tidak mampu menghapus sepenuhnya risiko keamanan siber, organisasi tetap harus membangun lapisan keamanan yang paling efektif, apa pun model yang mereka pilih. Beccue mengingatkan bahwa ketika para peretas mulai bergerak, identitas pembuat model menjadi kurang relevan. “Ketika para peretas mulai bergerak, siapa pembuat model tidak akan lagi menjadi soal,” ujarnya. “Tidak penting bagaimana Anda memilih model. Perusahaan harus bertanya, seberapa aman kita bisa menjadi?”

Dalam lanskap di mana kemampuan AI tumbuh lebih cepat daripada mekanisme pengamanannya, keputusan OpenAI untuk menginjak rem mungkin datang terlambat untuk mencegah insiden yang sudah terjadi. Namun, langkah ini tetap menjadi sinyal penting: era di mana perusahaan dapat mengadopsi AI tanpa strategi keamanan siber yang matang sudah berakhir. Bagi dunia korporasi, pertanyaannya bukan lagi apakah AI membawa risiko, melainkan seberapa siap mereka menghadapi konsekuensinya.