Gambar palsu dan informasi yang salah dalam era AI semakin meningkat. Bahkan pada tahun 2019, sebuah studi Pew Research Center menemukan bahwa 61% orang Amerika mengatakan bahwa terlalu banyak meminta dari orang Amerika rata-rata untuk dapat mengenali video dan gambar yang diubah. Dan itu sebelum alat AI generatif menjadi tersedia secara luas untuk publik. Adobe membagikan statistik Agustus 2023 tentang jumlah gambar yang dihasilkan oleh AI yang dibuat dengan Adobe Firefly mencapai satu miliar, hanya tiga bulan setelah diluncurkan pada Maret 2023. Menanggapi penggunaan gambar AI yang semakin meningkat, Google Deep Mind mengumumkan versi beta dari SynthID. Alat ini akan memberi tanda air dan mengidentifikasi gambar yang dihasilkan oleh AI dengan menyematkan tanda air digital langsung ke piksel gambar yang tidak terlihat oleh mata manusia tetapi dapat dideteksi untuk identifikasi. Kris Bondi, CEO dan pendiri Mimoto, perusahaan keamanan siber deteksi dan respons proaktif, mengatakan bahwa meskipun SynthID dari Google adalah langkah awal, masalah deepfake tidak akan dapat diselesaikan dengan satu solusi. Orang-orang lupa bahwa pelaku jahat juga berbisnis. Taktik dan teknologi mereka terus berkembang, menjadi tersedia untuk lebih banyak pelaku jahat, dan biaya teknik mereka, seperti deepfake, semakin murah, kata Bondi. Ekosistem keamanan siber membutuhkan pendekatan yang beragam untuk mengatasi deepfake, dengan kolaborasi untuk mengembangkan pendekatan yang fleksibel yang akan berkembang untuk memenuhi dan melampaui teknologi pelaku jahat, tambah Bondi.
Ulrik Stig Hansen, salah satu pendiri Encord, platform data pelatihan visi komputer berbasis di London, mengatakan bahwa tidak diragukan lagi deteksi data sintetis akan menjadi salah satu tantangan besar ke depan. Kami telah melihatnya berulang kali dengan teknologi baru, dan tidak berbeda dengan AI generatif seperti yang digunakan dalam cara yang sangat positif (misalnya, diagnosis yang lebih murah dalam perawatan kesehatan, pemulihan bencana yang lebih cepat), akan ada kerentanan bagi mereka yang ingin mengeksploitasi, tambah Hansen. Ini akan lebih menjadi masalah seberapa cepat aplikasi pencegahan dapat berkembang dibandingkan dengan para penjahat dan bagaimana regulasi akan membentuk ruang ini, kata Hansen. Kami telah melihat beberapa indikasi tentang bagaimana hal ini mungkin terlihat di UE, tetapi kuncinya adalah memungkinkan kemajuan aplikasi positif sambil membangun pagar yang kokoh untuk membatasi penyalahgunaan.
Watermark digital
Watermark digital, istilah yang diciptakan oleh Andrew Tirkel dan Charles Osborne pada tahun 1992, adalah cara untuk mengidentifikasi asal dan keaslian gambar. Metode lainnya adalah melalui metadata gambar, tetapi itu dapat dihapus atau diubah, yang mengurangi kepercayaan pada keaslian gambar. Dattaraj Rao, yang merupakan ilmuwan data utama di Persistent Systems dan memiliki 11 paten visi komputer, mengatakan bahwa watermarking secara tradisional telah digunakan untuk melindungi hak cipta gambar, tetapi dapat merusak dan mengubah konten. Menggunakan metode ini untuk gambar yang dihasilkan oleh AI, yang telah digunakan selama beberapa tahun, adalah sebuah peningkatan yang besar, kata Rao dalam sebuah wawancara melalui email. Meskipun tantangan utama akan menjadi semua perusahaan dan pengguna untuk mengadopsi standar tunggal untuk ini kita masih belum sepakat tentang format tunggal untuk menyimpan data gambar; oleh karena itu, kita memiliki GIF, JPEG, PNG, dll. Karena teknologi AI berkembang dengan cepat, seseorang akan menemukan cara untuk merusak watermark ini dan mengatasi masalahnya, kata Rao. Itulah yang terjadi dengan watermark yang terlihat, tambahnya. Saat ini, beberapa algoritma dapat mendeteksi dan mengisi piksel yang diberi tanda air pada gambar dengan warna tebakan terbaik berdasarkan sekitarnya. Sebuah makalah penelitian Google tahun 2017 melihat kerentanan teknik watermarking yang terletak pada konsistensi watermark di koleksi gambar. Untuk melawan konsistensi tersebut, ide yang akan diusulkan adalah memperkenalkan ketidaksesuaian saat menyematkan watermark pada gambar. Insinyur visi komputer di dalam diri saya merasa bahwa menggunakan teknik penggambaran bukanlah solusi jangka panjang di sini pada akhirnya, sebuah gambar adalah rangkaian intensitas warna piksel, yang dapat dengan mudah dimanipulasi, kata Rao. Masalah ini akan membutuhkan solusi generik untuk melindungi konten digital menggunakan teknik seperti kriptografi. Saat ini, kita tahu bahwa beberapa situs web aman berdasarkan enkripsi kunci publik yang disediakan oleh sertifikat TLS, yang dikeluarkan oleh lembaga yang diizinkan tertentu, jelas Rao. Demikian pula, kita mungkin akan membutuhkan cara untuk memverifikasi konten digital apa pun, katanya. Teknologi seperti blockchain dan buku besar digital dapat membantu menciptakan register terdesentralisasi dan tak tergoyahkan untuk konten digital sehingga Anda mengetahui garis keturunan lengkap untuk setiap gambar atau dokumen Word di internet, tetapi ini tentu sulit ditegakkan. Rao menambahkan bahwa metode mana pun yang berhasil, tantangannya akan ada dalam mengembangkan standar dan mendapat dukungan dari berbagai organisasi dan negara di seluruh dunia.
Gedung Putih mengadakan pertemuan dengan tujuh perusahaan AI
Pada bulan Juli 2023, Gedung Putih mengadakan pertemuan dengan tujuh perusahaan AI terkemuka, termasuk Google dan OpenAI. Setiap perusahaan berjanji untuk membuat alat untuk memberi tanda air dan mendeteksi teks, video, dan gambar yang dihasilkan oleh AI. Studi Pew Research Center juga menunjukkan bahwa 77% orang dewasa Amerika Serikat mengatakan bahwa langkah-langkah harus diambil untuk membatasi video dan gambar yang diubah dengan maksud menyesatkan, tetapi hanya 22% yang mengatakan mereka lebih memilih melindungi kebebasan untuk menerbitkan dan mengaksesnya. Neil Sahota, seorang futuris, penasihat kecerdasan buatan utama untuk Perserikatan Bangsa-Bangsa, dan penulis buku Own the AI Revolution (McGraw Hill), mengatakan kita dapat dan seharusnya memberi lebih banyak orang kemampuan untuk memverifikasi keaslian gambar untuk memastikan keakuratan. Ini termasuk perusahaan-perusahaan yang meningkatkan peran digital mereka. Ide tanda air telah ada di luar sana untuk beberapa waktu, kata Sahota. Ini akan membantu sejauh ini, tetapi masalah terbesar adalah bahwa tanda air dapat dipalsukan. Salah satu keuntungan tanda air fisik adalah bahwa mereka dapat menggunakan hal-hal seperti tinta ultraviolet, sehingga bagian dari itu tidak terlihat, dan kita belum menemukan cara untuk melakukannya dengan tanda air elektronik, kata Sahota. Jika solusi Google memiliki kemampuan (yang akan membuatnya jauh lebih sulit untuk dipalsukan), maka ini akan menjadi lompatan besar ke depan, tambahnya.
