Daftar Isi
5 Langkah Kritis yang Harus Dilakukan oleh Pemimpin IT untuk Mengatur Generative AI
Penggunaan generative AI semakin meningkatkan tantangan pengaturan yang sangat sulit. Tips ini dapat membantu pemimpin IT untuk mengadopsi generative AI dengan aman dan bertanggung jawab.
Jarang sekali perusahaan teknologi merilis perangkat lunak dan segera setelah itu mengakui penyesalan pencipta. Namun, itulah yang terjadi dengan generative AI, teknologi yang sering menarik dan kadang-kadang menakutkan yang digunakan oleh individu dan organisasi untuk meningkatkan produktivitas. Mungkin penyesalan adalah kata yang terlalu kuat. Lebih seperti permohonan bantuan dari pendiri OpenAI dan perusahaan lain yang telah meminta bantuan Kongres untuk mengatur aplikasi genAI yang ditawarkan ke domain publik. Namun, terlepas dari risiko yang ada, penggunaan gen AI yang tidak disetujui dan disetujui oleh perusahaan semakin meningkat di antara karyawan yang menggunakannya untuk membuat konten.
Tujuh puluh satu persen dari organisasi yang disurvei oleh Dell Technologies mengatakan bahwa karyawan mereka menggunakan alat genAI di tempat kerja untuk membuat atau meningkatkan tulisan, video, gambar, dan kode perangkat lunak. Penelitian, rekomendasi, dan ideasi merupakan penggunaan lainnya. Sebagian besar kasus penggunaan perusahaan akan jatuh pada pemasaran dan penjualan, operasi pelanggan, pengembangan perangkat lunak, dan R&D, perkiraan McKinsey.
Tantangan Pengaturan Generative AI
Namun, penggunaan semacam itu memunculkan kekhawatiran pengaturan baru. Empat puluh lima persen eksekutif AS yang disurvei oleh KPMG mengatakan bahwa gen AI dapat berdampak negatif pada kepercayaan organisasi mereka jika alat pengelolaan risiko yang tepat tidak diimplementasikan. Namun, hanya 5% dari mereka yang disurvei oleh KPMG memiliki program pengaturan AI yang bertanggung jawab yang matang, dengan 49% mengatakan mereka berniat untuk melakukannya tetapi belum melakukannya.
Sebagai pemimpin IT, bagaimana Anda akan mempertimbangkan alat gen AI baik yang muncul dari bayangan maupun yang didukung atau bahkan dibangun oleh organisasi Anda? Langkah-langkah ini dapat membantu Anda memikirkan cara untuk memastikan bahwa karyawan menggunakan gen AI dengan bertanggung jawab dan melindungi organisasi Anda.
Dengarkan dan Pelajari. Anda akan melakukan survei kepada pemangku kepentingan di berbagai lini bisnis untuk mempelajari bagaimana karyawan menggunakan gen AI untuk meningkatkan pekerjaan mereka. Sebagai contoh, unit bisnis pemasaran mungkin menggunakan alat-alat ini untuk menyisir data tak terstruktur, mendapatkan wawasan tentang preferensi pelanggan. Apa risiko terkait dari skenario seperti itu? Jangan: Melarang penggunaan teknologi semacam itu sepenuhnya; Anda berisiko menjauhkan karyawan yang mendapatkan manfaat dari alat-alat ini.
Bangun Kerangka Pengaturan. Rapatkan dengan pimpinan eksekutif, manajer risiko, tim hukum, dan ilmuwan data untuk mencapai kesepakatan tentang bagaimana gen AI sesuai dengan strategi bisnis secara keseluruhan. Kemudian bangun kerangka pengaturan yang menentukan peran dan tanggung jawab pemangku kepentingan yang terlibat dalam penggunaan dan/atau pengembangan alat gen AI. Ini akan mencakup pedoman untuk penggunaan yang bertanggung jawab dan etis, keamanan dan privasi untuk alat gen AI publik dan pribadi. Misalnya, karyawan tidak boleh menyertakan informasi properti atau pribadi dalam alat gen AI publik.
Tips
Gunakan Kerangka Manajemen Risiko AI NIST ini sebagai panduan Anda. Jangan: Terburu-buru membuat kebijakan perusahaan tanpa berdiskusi dengan pemangku kepentingan. Ini adalah cara pasti untuk kehilangan teman dan menjauhkan orang.
Edukasi Karyawan. Selenggarakan program pelatihan dan kesadaran rutin bagi karyawan untuk memastikan bahwa semua karyawan menyadari penggunaan genAI chatbot dan alat lainnya dengan aman dan bertanggung jawab, sambil juga menjelaskan bagaimana menguasai alat-alat tersebut dapat membantu karyawan meningkatkan kemampuan profesional mereka. Jangan: Mengabaikan risiko. Buat anggota tim sadar akan risiko bias atau disinformasi dalam alat gen AI.
Periksa Arsitektur Data Anda. Pembuat alat gen AI secara teratur memperbaiki dan menyetel model bahasa besar mereka. Jika Anda memilih untuk membangun versi pribadi, Anda akan membutuhkan arsitektur data yang memungkinkan akses ke data berkualitas dari sumber terstruktur dan tak terstruktur, menurut McKinsey. Pastikan hanya personel yang berwenang yang memiliki akses ke model-model ini dan data yang digunakan untuk melatih mereka. Bangun model yang kesimpulannya dapat dijelaskan dengan mudah. Jangan: Membuat model data Anda dan melupakannya. Anda harus secara teratur menyempurnakan model genAI Anda untuk memperhitungkan kualitas data, bias creep, dan penggunaan yang tepat.
Pantau Penggunaan yang Bertanggung Jawab. Ini adalah bagian IT dari pengaturan teknologi. Anda akan mengimplementasikan perangkat lunak analitik perilaku untuk memastikan penggunaan yang bertanggung jawab dari alat gen AI publik dan pribadi, serta perangkat deteksi ancaman dan respons insiden untuk mengidentifikasi dan mengatasi aktivitas jahat apa pun. Jika Anda belum melakukannya, pertimbangkan untuk mengambil sikap keamanan zero-trust, di mana Anda berasumsi bahwa tidak ada pengguna atau perangkat yang dapat dipercaya secara default dan bahwa semua akses ke model gen AI harus diotentikasi dan diotorisasi. Jangan: Regulator federal sedang mempertimbangkan pedoman keamanan, tetapi Anda tidak bisa menunggu bimbingan mereka. Model publik dan pribadi siap untuk penyalahgunaan yang disengaja dan tidak disengaja.
Kesimpulan
Solusi teknis dan protokol tidak bisa datang cukup cepat mengingat kondisi keamanan generative AI saat ini. Seiring mudahnya chatbot ini dikonsumsi oleh banyak orang, mereka juga dapat dimanipulasi untuk menghasilkan informasi yang berbahaya. Seperti yang baru-baru ini ditunjukkan oleh para peneliti, respons GenAI terhadap permintaan dapat dipengaruhi dengan menambahkan akhiran untuk mendapatkan informasi yang berpotensi berbahaya, seperti cara membuat bom atau memproduksi obat-obatan. Serangan adversarial seperti itu, seperti yang dikenal, pada dasarnya menipu chatbot untuk memberikan informasi yang tidak diizinkan.
Jika itu terdengar seperti banyak pekerjaan di atas segala sesuatu yang Anda lakukan untuk memodernisasi dan mengubah bisnis Anda, Anda tidak salah. Namun, pemimpin IT bertanggung jawab untuk menerapkan kombinasi kebijakan dan teknologi yang tepat untuk membantu melindungi informasi perusahaan mereka. Seperti apa panduan Anda untuk mengatur gen AI? Pelajari lebih lanjut tentang cara membuka hasil bisnis yang lebih baik dengan Solusi Dell Generative AI.
