Mengatur Revolusi AI demi Inovasi dan Keadilan

Tata Kelola AI Global: Peringatan Keras dari Panel Ilmiah PBB

Tata kelola AI tertinggal jauh dari laju inovasi teknologinya. Itulah peringatan utama dalam laporan pendahuluan Panel Ilmiah Internasional Independen Perserikatan Bangsa-Bangsa mengenai artificial intelligence. Panel tersebut menegaskan bahwa dunia hanya memiliki jendela waktu yang sempit untuk membangun tata kelola AI global yang efektif sebelum risiko yang menyertainya meningkat di luar kendali. Jika tindakan terus ditunda, komunitas internasional berisiko kehilangan kesempatan untuk mengarahkan perkembangan AI secara aman, adil, dan bertanggung jawab.

Artificial intelligence dipandang sebagai salah satu teknologi paling transformatif dalam sejarah modern. Bila dikembangkan dan diterapkan secara bertanggung jawab, AI berpotensi mempercepat pencapaian Tujuan Pembangunan Berkelanjutan Perserikatan Bangsa-Bangsa. Teknologi ini dapat meningkatkan layanan kesehatan, memperluas akses pendidikan, mempercepat penelitian ilmiah, mengoptimalkan produksi pertanian, serta memperkuat aksesibilitas bagi penyandang disabilitas di berbagai negara. Namun tanpa tata kelola yang kuat, teknologi yang sama dapat memperdalam ketimpangan sosial dan ekonomi, mempercepat penyebaran misinformasi, mengancam hak asasi manusia, mengganggu pasar tenaga kerja, dan memusatkan kendali teknologi pada segelintir negara serta korporasi besar. Tantangan utama, sebagaimana diidentifikasi panel, adalah menemukan cara untuk memaksimalkan manfaat AI sambil menekan risiko yang terus berkembang dan kian kompleks.

Dalam beberapa tahun terakhir, kemampuan AI meningkat dengan kecepatan yang belum pernah terjadi sebelumnya. Kemajuan dalam daya komputasi, ketersediaan data pelatihan berskala besar, dan teknik machine learning yang semakin canggih telah melahirkan sistem yang mampu melakukan percakapan secara fasih, melakukan penalaran ilmiah tingkat tinggi, mengembangkan perangkat lunak, serta menghasilkan gambar, audio, dan video yang sangat realistis. Generasi baru “agen” AI juga mulai muncul dan menyebar luas. Alih-alih sekadar merespons perintah, sistem ini dapat merencanakan tugas, memanfaatkan berbagai alat digital, menulis kode, dan menyelesaikan proyek kompleks dengan sedikit atau tanpa pengawasan manusia. Menurut laporan tersebut, kompleksitas tugas yang dapat ditangani sistem ini meningkat dua kali lipat setiap beberapa bulan, sehingga menimbulkan tantangan tata kelola yang semakin mendesak.

Manfaat Nyata, Risiko Nyata: Ketimpangan Global dalam AI

Laporan PBB ini mendokumentasikan semakin banyak contoh nyata di mana AI sudah memberikan manfaat yang dapat dirasakan di berbagai sektor. Panel menekankan bahwa perkembangan tersebut bukan skenario masa depan yang jauh, melainkan realitas yang tengah berlangsung di banyak negara. Pada saat yang sama, teknologi yang sama memunculkan risiko baru yang serius dan belum sepenuhnya dipahami oleh pembuat kebijakan maupun masyarakat luas. Tanpa tata kelola yang memadai, risiko tersebut dapat berkembang lebih cepat daripada kemampuan lembaga publik untuk mengidentifikasi, memantau, dan mengendalikannya secara efektif.

Salah satu temuan kunci laporan ini adalah bahwa revolusi AI berlangsung secara sangat timpang di tingkat global. Meskipun AI digunakan di berbagai kawasan, akses terhadap sistem dan infrastruktur canggih terkonsentrasi di negara berpendapatan tinggi. Laporan mencatat bahwa Amerika Serikat menguasai sekitar tiga perempat daya komputasi yang menopang superkomputer AI terkemuka di dunia, sementara Tiongkok menyumbang sekitar 15 persen kapasitas tersebut. Bersama-sama, kedua negara ini mengendalikan sekitar 90 persen kapasitas komputasi yang sangat penting bagi pengembangan model AI mutakhir. Sebagian besar model tercanggih juga dikembangkan oleh perusahaan yang berbasis di kedua negara ini, memperkuat dominasi teknologi branda dan memperlebar kesenjangan global.

Banyak negara berkembang tidak memiliki infrastruktur komputasi, keahlian teknis, sumber daya data, investasi, maupun ketersediaan alat dalam bahasa lokal yang diperlukan untuk memanfaatkan AI secara mandiri. Akibatnya, branda kerap bergantung pada teknologi yang tidak branda rancang sendiri dan sulit branda periksa, audit, atau sesuaikan dengan konteks sosial dan budaya setempat. Panel memperingatkan bahwa jika kesenjangan ini tidak segera diatasi, AI berisiko memperkuat ketimpangan global yang sudah ada, alih-alih membantu menguranginya. Tata kelola yang adil menuntut distribusi kapasitas teknologi yang lebih merata, termasuk dukungan internasional untuk infrastruktur digital, penelitian, dan pengembangan sumber daya manusia di negara berpendapatan rendah dan menengah.

Keterbatasan Kerangka Regulasi dan “Dilema Bukti”

Laporan tersebut juga menegaskan bahwa sistem tata kelola saat ini tidak dirancang untuk menghadapi teknologi yang berevolusi secepat AI. Pemerintah menghadapi apa yang oleh para ahli disebut sebagai “dilema bukti” dalam perumusan kebijakan. Pembuat kebijakan membutuhkan bukti ilmiah yang kuat sebelum menerapkan regulasi, tetapi ketika bukti memadai telah tersedia, teknologi yang hendak diatur sering kali sudah berubah secara signifikan dan menimbulkan risiko baru. Lebih dari 40 kerangka tata kelola dan pedoman etika AI telah disusun di berbagai kawasan dan organisasi internasional. Namun kerangka tersebut terfragmentasi, tidak konsisten, dan jarang dievaluasi secara sistematis untuk menilai efektivitasnya dalam praktik. Banyak penilaian keamanan justru dilakukan oleh perusahaan yang mengembangkan teknologi tersebut, sehingga menimbulkan konflik kepentingan yang serius.

Untuk menutup kesenjangan ini, panel menyerukan evaluasi independen yang lebih kuat, kerja sama internasional yang lebih erat, dan standar bersama untuk memastikan bahwa sistem AI aman, transparan, dan dapat dipertanggungjawabkan. Tata kelola yang efektif memerlukan mekanisme pengawasan yang tidak bergantung pada kepentingan komersial semata dan melibatkan berbagai pemangku kepentingan. Panel juga menekankan perlunya investasi dalam infrastruktur digital, pendidikan, keterampilan teknis, dan lembaga publik yang mampu mengawasi penggunaan AI. Dengan demikian, negara dapat mengatur dan menerapkan teknologi ini dengan cara yang mencerminkan prioritas, nilai, dan kebutuhan masyarakat branda sendiri, sekaligus menjaga kepentingan publik global.

Peran Panel Ilmiah PBB dan Dialog Global 2026

Perserikatan Bangsa-Bangsa saat ini tengah membangun arsitektur internasional baru untuk mendukung negara dalam mengambil keputusan yang tepat terkait artificial intelligence. Pada tahun 2025, Majelis Umum PBB membentuk Panel Ilmiah Internasional Independen tentang Artificial Intelligence, yang terdiri dari 40 pakar dari berbagai kawasan dan disiplin ilmu. Para pakar ini bertugas dalam kapasitas pribadi, bukan sebagai perwakilan pemerintah, sehingga diharapkan dapat memberikan penilaian yang objektif. Mandat panel bersifat ilmiah, bukan regulatif, dan berfokus pada penyusunan kajian berbasis bukti. Panel secara berkala meninjau bukti terbaru mengenai peluang, risiko, dan dampak AI, lalu menghasilkan penilaian independen yang dapat dijadikan rujukan oleh pemerintah ketika merumuskan kebijakan nasional maupun regional.

Temuan panel akan menjadi masukan utama bagi Dialog Global PBB tentang Tata Kelola AI, yang akan dimulai di Jenewa pada 6 Juli 2026 dan melibatkan negara-negara anggota. Dalam forum tersebut, negara-negara anggota akan membahas pendekatan internasional untuk mengelola artificial intelligence secara kolektif dan terkoordinasi. Panel menegaskan bahwa AI tidak secara inheren bermanfaat maupun berbahaya; dampak akhirnya akan sangat ditentukan oleh pilihan kebijakan yang diambil sekarang oleh pemerintah, perusahaan, dan masyarakat sipil. Teknologi ini sudah mengubah ilmu pengetahuan, layanan kesehatan, pendidikan, dan perekonomian di berbagai belahan dunia dengan kecepatan signifikan. Apakah AI akan mengurangi atau justru memperburuk ketimpangan, serta apakah ia akan memperkuat atau merusak demokrasi dan hak asasi manusia, sangat bergantung pada seberapa cepat dan efektif dunia dapat mengembangkan tata kelola yang mampu mengikuti laju inovasi.

Bias Gender, Krisis Informasi, dan Peran Industri Periklanan

Seiring artificial intelligence membentuk ulang cara orang bekerja, berkomunikasi, dan mengakses informasi, UN Women memperingatkan bahwa teknologi ini kerap mereplikasi stereotip gender yang telah lama mengakar. Bias-bias tersebut dapat memperkuat kekerasan dan pelecehan daring, serta mengecualikan perempuan dari proses pengambilan keputusan penting yang akan menentukan masa depan digital. Tanpa tata kelola AI yang sensitif terhadap kesetaraan gender, risiko diskriminasi akan semakin besar dan dapat menghambat kemajuan hak perempuan. Laporan UN Women menunjukkan bahwa banyak sistem artificial intelligence dilatih menggunakan data yang mencerminkan ketidaksetaraan historis, sehingga menghasilkan keluaran yang bias terhadap perempuan dan kelompok minoritas.

Pada saat yang sama, dengan belanja iklan global yang melampaui 1 triliun dolar AS per tahun, Perserikatan Bangsa-Bangsa menyoroti potensi besar yang belum dimanfaatkan dari brand-brand utama untuk memengaruhi arah perkembangan AI. Perusahaan dengan anggaran iklan besar memiliki kekuatan untuk mendorong praktik teknologi yang lebih etis dan bertanggung jawab melalui kebijakan pemasaran dan kemitraan strategis. Namun PBB memperingatkan bahwa jika pengaruh ini tidak digunakan secara hati-hati, artificial intelligence dapat memperparah krisis integritas informasi global yang sudah sangat serius. Penyebaran konten manipulatif, misinformasi, dan disinformasi dapat meningkat tajam jika tidak ada standar yang jelas dan mekanisme pengawasan yang kuat dalam ekosistem periklanan digital.

Menjembatani Kesenjangan: Agenda Tata Kelola AI yang Inklusif

Ringkasan laporan menegaskan bahwa kemampuan AI berkembang jauh lebih cepat daripada mekanisme pengaman dan tata kelolanya di tingkat nasional maupun internasional. Artificial intelligence memiliki potensi besar untuk mempercepat pencapaian Tujuan Pembangunan Berkelanjutan, tetapi tanpa pengaturan yang kuat, teknologi ini dapat memperdalam ketimpangan, mengancam hak asasi manusia, dan memusatkan kekuasaan teknologi pada segelintir negara dan perusahaan. Kemajuan pesat dalam daya komputasi dan teknik machine learning telah melahirkan sistem dan “agen” AI yang mampu menjalankan tugas kompleks dengan sedikit pengawasan manusia, sekaligus memunculkan risiko baru yang belum sepenuhnya dipahami oleh komunitas ilmiah dan regulator.

Laporan tersebut menyoroti ketimpangan global yang tajam dalam distribusi manfaat dan risiko artificial intelligence. Kapasitas komputasi dan pengembangan model AI mutakhir terkonsentrasi di Amerika Serikat dan Tiongkok, sementara banyak negara berkembang kekurangan infrastruktur, keahlian, dan sumber daya untuk memanfaatkan teknologi ini secara mandiri. Tanpa intervensi yang terarah, AI dikhawatirkan akan memperkuat ketidaksetaraan global dan memperlebar jurang digital. Sistem tata kelola yang ada dinilai tidak memadai karena terfragmentasi, tidak konsisten, dan bergerak lebih lambat dibandingkan laju perkembangan teknologi. Panel menyerukan evaluasi independen, standar bersama, dan kerja sama internasional, serta investasi dalam infrastruktur digital, pendidikan, dan kapasitas kelembagaan untuk memperkuat tata kelola artificial intelligence yang inklusif.

PBB membentuk Panel Ilmiah Internasional Independen untuk menyediakan penilaian ilmiah yang dapat menjadi dasar kebijakan berbasis bukti. Hasil kerja panel akan dibahas dalam Dialog Global PBB tentang Tata Kelola AI pada 2026, yang diharapkan menghasilkan rekomendasi konkret bagi negara-negara anggota. Panel menekankan bahwa dampak artificial intelligence—apakah akan mengurangi atau memperburuk ketimpangan, serta memperkuat atau melemahkan demokrasi dan hak asasi manusia—bergantung pada keputusan kebijakan yang diambil sekarang di berbagai tingkat pemerintahan. Laporan ini juga menyoroti risiko reproduksi stereotip gender oleh AI, serta peran besar industri periklanan global dalam membentuk arah perkembangan teknologi ini dan potensi kontribusinya terhadap krisis integritas informasi jika tidak dikelola secara bertanggung jawab. Tata kelola AI yang inklusif, adil, dan transparan menjadi kunci untuk memastikan bahwa artificial intelligence benar-benar melayani kepentingan publik global dan mendukung pembangunan berkelanjutan.