Apakah Kecerdasan Buatan Anti-Black?

July 25, 2023 | by Luna

Apakah Kecerdasan Buatan (AI) Anti-Black?

Kenaikan kecerdasan buatan (AI) membawa era baru yang memiliki banyak kemungkinan. Platform AI generatif seperti ChatGPT telah menarik minat publik, tetapi dengan pertumbuhan AI, juga ada beberapa alasan untuk khawatir. Sisi jahat AI ini layak untuk lebih diinterogasi dan diperiksa. Anti-Blackness dapat dianggap sebagai keyakinan, sikap, tindakan, praktik, dan perilaku individu dan lembaga yang merendahkan, meminimalkan, dan mengabaikan partisipasi penuh orang-orang kulit hitam. Ada beberapa contoh dokumentasi tentang anti-blackness baik dalam algoritma maupun dalam AI kita. Meskipun potensi yang besar, bias anti-black yang tertanam dalam sistem AI harus dipertimbangkan.

Laporan University of Pennsylvania Law School Policy Lab tentang AI dan Bias Implisit

Sebuah laporan tahun 2021 oleh University of Pennsylvania Law School Policy Lab tentang AI dan Bias Implisit bertujuan untuk menyelidiki peran bias dalam platform rekrutmen dan perekrutan. Temuan dalam laporan tersebut menunjukkan bahwa di antara individu berusia 18-40 tahun yang disurvei, ada kekhawatiran yang cukup besar tentang ancaman stereotip di platform rekrutmen. Ancaman stereotip dapat dianggap sebagai fenomena di mana individu merasa seperti mereka distereotipkan berdasarkan identitas unik yang mereka miliki seperti ras, usia, atau agama. Laporan yang disebutkan di atas mengidentifikasi beberapa kekhawatiran yang dimiliki para profesional muda dalam hal AI. Misalnya, sistem AI diprogram untuk mengidentifikasi kata kunci tertentu dalam resume kandidat pekerjaan tetapi seringkali kata kunci ini dirancang dengan pemohon kulit putih dalam pikiran. Salah satu responden berbagi jika konsep AI tentang resume yang baik dibangun menggunakan referensi dari resume kulit putih, orang-orang yang bermain golf atau hoki lapangan akan memiliki keuntungan dibandingkan dengan kita yang lebih suka trek atau bola basket. Beberapa responden juga khawatir bahwa mencantumkan perguruan tinggi atau universitas sejarah kulit hitam (HBCU) dalam resume atau profil pelamar dapat menyebabkan AI menolak kandidat pekerjaan.

Pembicaraan tentang anti-blackness

Telah banyak pembicaraan tentang anti-blackness dalam teknologi pengenalan wajah. Nijeer Parks dituduh mencuri dan mencoba menabrak seorang polisi dengan mobil pada tahun 2019 setelah perangkat lunak pengenalan wajah mengidentifikasinya sebagai pelaku, meskipun pada saat kejadian dia berada 30 mil jauhnya. Pada tahun 2022, Randal Reid menghabiskan hampir seminggu di penjara setelah teknologi pengenalan wajah secara salah mengidentifikasinya sebagai pencuri di negara yang belum pernah dia kunjungi. Marketplace melaporkan pada bulan April bahwa dari lima kasus yang diketahui penangkapan salah berdasarkan teknologi pengenalan wajah, semua korban adalah pria kulit hitam. Kecerdasan buatan juga hadir dalam bentuk filter kecantikan favorit kita di media sosial. Banyak filter populer yang tersedia di aplikasi seperti Instagram dan TikTok mengikuti standar kecantikan kulit putih, menciptakan mata berwarna lebih terang, kulit lebih terang, dan hidung lebih tipis. Ketika saya menggunakan filter yang lebih gelap, foto-foto saya keluar lebih terang, kata profesor Eli Joseph. Sebuah artikel MIT Technology Review tahun 2021 menunjukkan bahwa filter kecantikan ini juga dapat memperpetuasi colorism. Telah terjadi peningkatan penggunaan platform seperti Lensa, DALL-E, dan alat Magic Edit Canva untuk mengedit foto dan menghasilkan gambar baru untuk penggunaan profesional dan pribadi, tetapi platform populer ini tidak tanpa masalah. Saya mengunduh [platform AI] untuk memberikan diri saya pilihan yang berbeda untuk diposting di LinkedIn [untuk] panel terbaru yang saya ikuti. Aplikasi AI memudarkan kepang saya dengan filter di sekitar bagian atas. Kulit saya dihaluskan, dicerahkan, dan dibersihkan… aplikasi tersebut tidak akan mengenali selfie saya, yang sangat membuat frustrasi, kata pendiri nirlaba Nitiya Walker. Saya baru-baru ini menggunakan Chat GPT dan bentuk AI lainnya untuk melakukan penelitian lebih mendalam tentang literatur dan statistik wanita Afrika-Amerika yang ada dan menemukan kekurangan informasi, kata Mea Boykins, yang merupakan mahasiswa Ph.D. di University of the West Indies.

AI sudah memperingatkan tidak sepenuhnya memberikan hasil yang spesifik dan hanya akan merespon pertanyaan umum

Tentu saja, AI memperingatkan bahwa tidak dapat memberikan hasil yang spesifik dan hanya akan berbagi respons umum. Pengguna harus memahami bahwa informasi yang diterima di platform AI generatif harus diambil dengan hati-hati. Sebuah studi yang baru saja diterbitkan menemukan bahwa beberapa prompt dengan mudah dapat menghasilkan hasil yang secara terang-terangan rasialis dari ChatGPT. Dalam studi tersebut, ketika para peneliti memberikan ChatGPT persona, seperti yang dimiliki oleh petinju terkenal Muhammad Ali, hasil yang sangat beracun ditampilkan, dengan output yang menghasilkan stereotip yang salah, dialog yang berbahaya, dan pendapat yang menyakitkan. Penasihat kesetaraan dan anti-rasisme Hannah Naomi Jones berbagi pengalaman terbaru yang dia miliki dengan AI dalam sebuah postingan Instagram. Saya hanya akan mengatakan apa yang sudah saya katakan selama 10 tahun. AI adalah anti-black… setelah beberapa percobaan, semua foto AI saya terus menggambarkan saya sebagai wanita kulit putih dan wanita Asia… semua foto tersebut mencerahkan kulit dan mata saya dan membuat hidung saya lebih kecil. Rasisme dalam AI, bias, kode, dan algoritma adalah hal yang tak terhindarkan… jika kita belum memperbaiki masalah kita dengan ras secara sistemik dan perilaku dan ada sejarah penghapusan maka mesin akan belajar apa yang telah kita ajarkan kepada mereka. Satu-satunya harapan adalah kesetaraan dalam pemrograman oleh ilmuwan anti-rasisme manusia. Untuk mengatasi anti-blackness yang merajalela dalam AI, kita harus memastikan bahwa mereka yang memprogram sistem AI beroperasi dari sudut pandang anti-rasisme dan anti-penindasan. Sebagian dari masalah mungkin terletak pada kenyataan bahwa sangat sedikit orang kulit hitam di bidang AI; laporan tahun 2021 menunjukkan bahwa hanya 2,4% penduduk AS yang lulus dengan gelar Ph.D. dalam AI adalah orang kulit hitam. Pembentukan lebih banyak komite etika AI mungkin merupakan bagian penting dari penanganan anti-blackness yang melekat dalam AI. Saat penggunaan meningkat, publik harus tetap waspada dan memahami kendala yang menyertai penggunaan teknologi baru ini.

Recommended Article
thumbnail post

AI-nya">Google Akan Menggunakan Postingan Reddit untuk Melatih Model AI-nya

thumbnail post

AI Canggih dengan Microsoft di NVIDIA GTC">Jelajahi Solusi AI Canggih dengan Microsoft di NVIDIA GTC