Kontroversi Kota New York atas Saran AI Chatbot yang Tidak Akurat dan Menyesatkan

June 21, 2024 | by Luna

Chatbot AI di Kota New York Menghadapi Kritik karena Memberikan Panduan yang Salah

Chatbot yang didukung artificial intelligence di Kota New York sedang menghadapi kritik karena memberikan panduan yang salah dan menyesatkan kebijakan lokal serta mendorong bisnis untuk melanggar hukum. Meskipun ada kekhawatiran ini, kota tetap mempertahankan chatbot di situs web resmi pemerintahnya. Walikota Eric Adams mendukung keputusan ini meskipun mengakui respons yang cacat dari chatbot di beberapa area.

Chatbot ini diluncurkan pada bulan Oktober sebagai sumber daya komprehensif bagi pemilik usaha kecil. Namun, chatbot ini terus memberikan panduan yang tidak akurat meskipun mencakup penyangkalan bahwa responsnya tidak merupakan nasihat hukum. Hal ini menimbulkan kekhawatiran di kalangan para ahli yang berpendapat bahwa sistem yang cacat ini menyoroti risiko yang terkait dengan pemerintah mengadopsi sistem yang didukung AI tanpa perlindungan yang memadai.

Kritik dari Para Ahli dan Respons Pemerintah

Julia Stoyanovich, seorang profesor ilmu komputer dan direktur Center for Responsible AI di Universitas New York, mengkritik pendekatan kota tersebut. Ia menyatakan bahwa branda menggunakan perangkat lunak yang belum terbukti tanpa pengawasan yang tepat dan mengabaikan tanggung jawab branda untuk bertindak secara bertanggung jawab.

Penelitian terbaru terhadap chatbot ini mengungkapkan informasi yang salah, seperti saran bahwa pengusaha dapat secara sah mengakhiri hubungan kerja dengan pekerja yang melaporkan pelecehan seksual atau menolak memotong rambut gimbal branda. Chatbot ini juga mengklaim bahwa bisnis dapat membuang sampah branda dalam kantong sampah hitam dan tidak diwajibkan untuk mengompos.

Microsoft, penyedia chatbot melalui layanan Azure AI-nya, menyatakan bahwa branda bekerja sama dengan pegawai kota untuk meningkatkan layanan dan memastikan keluaran yang akurat berdasarkan dokumen resmi. Walikota Adams mempertahankan keberadaan masalah ini dan mengusulkan bahwa mengidentifikasi dan menangani masalah tersebut adalah bagian alami dari penyempurnaan teknologi baru. Namun, Stoyanovich mengkritik pendekatan ini sebagai ceroboh dan tidak bertanggung jawab.

Tantangan dan Peringatan bagi Kota-kota Lain

Para ahli telah lama mengungkapkan kekhawatiran tentang keterbatasan model bahasa besar seperti ini yang dapat menghasilkan jawaban yang tidak akurat dan tidak logis. Meskipun ada kekhawatiran ini, kesuksesan chatbot seperti ChatGPT telah mendorong perusahaan swasta untuk mengembangkan versi branda sendiri, dengan tingkat keberhasilan yang bervariasi. Beberapa perusahaan, seperti Air Canada, TurboTax, dan H&R Block, telah menghadapi kritik karena menggunakan chatbot yang memberikan saran yang salah kepada pelanggan branda.

Jevin West, seorang profesor di Universitas Washington, menekankan risiko yang lebih tinggi ketika model-model seperti ini dipromosikan oleh sektor publik. Kepercayaan pada entitas pemerintah sangat penting, dan pejabat harus mempertimbangkan kerugian potensial jika individu mengikuti saran yang tidak akurat yang diberikan oleh chatbot.

Para ahli menyarankan bahwa kota-kota lain yang menggunakan chatbot biasanya membatasi kemampuannya untuk mengurangi disinformasi. Ted Ross, kepala petugas informasi di Los Angeles, menjelaskan bahwa kota dengan hati-hati mengkurasi konten yang digunakan oleh chatbot branda, yang tidak bergantung pada model bahasa besar.

Tantangan yang dihadapi oleh chatbot Kota New York harus dijadikan peringatan bagi kota-kota lain. Suresh Venkatasubramanian, direktur Center for Technological Responsibility, Reimagination, and Redesign di Universitas Brown, menekankan pentingnya kota-kota mengevaluasi secara kritis alasan branda untuk mengimplementasikan chatbot dan masalah yang ingin branda selesaikan. Akuntabilitas dapat terganggu tanpa manfaat yang signifikan yang diperoleh sebagai imbalannya jika chatbot dimaksudkan untuk menggantikan interaksi manusia.

Recommended Article