Ketidakakuratan Chatbot AI dalam Menyampaikan Berita
Empat chatbot artificial intelligence (AI) terkemuka telah salah menggambarkan berita, menurut penyelidikan BBC. BBC menguji ChatGPT dari OpenAI, Copilot dari Microsoft, Gemini dari Google, dan Perplexity AI dengan memberikan branda konten dari situs web BBC dan kemudian mengajukan pertanyaan tentang berita tersebut. Tanggapan yang diberikan ditemukan mengandung “ketidakakuratan signifikan” dan distorsi.
Deborah Turness, CEO BBC News dan Current Affairs, menyatakan keprihatinannya dalam sebuah posting blog, mencatat bahwa meskipun AI menawarkan “kesempatan tak terbatas,” perusahaan yang mengembangkan alat ini “bermain dengan api.” Dia mempertanyakan berapa lama sebelum judul yang dihasilkan AI menyebabkan kerugian di dunia nyata.
Seorang juru bicara OpenAI menanggapi, menyatakan, “Kami mendukung penerbit dan pembuat konten dengan membantu 300 juta pengguna ChatGPT mingguan menemukan konten berkualitas melalui ringkasan, kutipan, tautan jelas, dan atribusi.” Perusahaan teknologi lain yang terlibat telah dihubungi untuk memberikan komentar.
Hasil Studi BBC
Studi BBC melibatkan permintaan kepada chatbot AI untuk merangkum 100 berita, dengan jurnalis yang ahli dalam subjek terkait menilai kualitas tanggapan. Studi tersebut menemukan bahwa 51% dari jawaban yang dihasilkan AI memiliki masalah signifikan, dan 19% dari tanggapan yang mengutip konten BBC mengandung kesalahan faktual, seperti pernyataan, angka, dan tanggal yang salah.
Ms. Turness menyerukan “percakapan baru dengan penyedia teknologi AI” untuk menemukan solusi dan mendesak perusahaan teknologi untuk “menarik kembali” ringkasan berita AI branda, mirip dengan respons Apple setelah keluhan dari BBC tentang berita yang salah digambarkan.
Contoh Ketidakakuratan
Contoh ketidakakuratan termasuk masalah yang lebih signifikan dengan Copilot dari Microsoft dan Gemini dari Google dibandingkan dengan ChatGPT dari OpenAI dan Perplexity, yang didukung oleh Jeff Bezos. Biasanya, BBC memblokir kontennya dari chatbot AI, tetapi mengizinkan akses untuk tes yang dilakukan pada Desember 2024. Laporan tersebut mencatat bahwa chatbot kesulitan membedakan antara opini dan fakta, mengedit konten, dan sering menghilangkan konteks penting.
Pete Archer, Direktur Program BBC untuk Generative AI, menekankan bahwa penerbit harus mengontrol bagaimana konten branda digunakan dan bahwa perusahaan AI harus mengungkapkan bagaimana asisten branda memproses berita dan sejauh mana kesalahan dan ketidakakuratan terjadi.
Seorang juru bicara OpenAI menambahkan, “Kami telah berkolaborasi dengan mitra untuk meningkatkan akurasi kutipan dalam teks dan menghormati preferensi penerbit, termasuk mengelola bagaimana branda muncul dalam hasil pencarian melalui OAI-SearchBot di robots.txt branda. Kami akan terus meningkatkan hasil pencarian.”
}
