Daftar Isi
EU s AI Act Akan Mengancam Ekosistem AI Open Source
Komunitas open source mengatakan bahwa aturan EU AI Act lebih cocok untuk model tertutup dan pribadi, seperti ChatGPT. EU AI Act, undang-undang AI paling luas di dunia yang akan menjadi undang-undang, akan mengancam ekosistem AI open source, menurut sebuah posisi paper yang ditandatangani oleh Hugging Face, GitHub, Creative Commons, dan advokat lainnya. Mereka mengatakan proposal saat ini dari Act ini ditujukan untuk model-model besar, komersial, dan tertutup yang akrab bagi kebanyakan orang seperti ChatGPT dari OpenAI dan GPT-4, bukan untuk model open source. Oleh karena itu, Act ini akan mengancam menciptakan hambatan dan kerugian yang tidak praktis bagi kontributor dalam ekosistem open source ini, menurut para penandatangan, yang juga termasuk LAION, Open Future, dan EleutherAI. Hugging Face adalah perusahaan AI di balik StarCoder dan Hugging Chat; Microsoft memiliki platform repositori GitHub; EleutherAI adalah laboratorium riset nirlaba di balik GPT-J; LAION adalah organisasi nirlaba Jerman yang membangun dataset dasar Stable Diffusion; dan Open Future adalah sebuah think tank.
Aturan yang menyebabkan sejumlah tantangan bagi pengembang
Posisi paper yang dilihat oleh AI Business mengakui beberapa pengecualian yang dibuat untuk model AI open source dalam Act ini, tetapi juga menunjukkan aturan lain yang dianggap bermasalah. Ini termasuk Act ini diterapkan pada model-model dasar open source serta sistem AI yang diuji dalam kondisi dunia nyata. Aturan-aturan ini menimbulkan sejumlah tantangan bagi pengembang model dasar tanpa sumber daya keuangan dan institusional yang signifikan.
Terkait: Salah satu persyaratan yang dikritik oleh kelompok ini adalah menciptakan sistem manajemen kualitas untuk model dasar open source. Mereka berpendapat bahwa ini mengasumsikan akan ada produk akhir dan staf yang mengetahui hukum dan praktik teknologi yang relevan. Namun, ini adalah sumber daya keuangan dan manusia yang tidak dimiliki oleh proyek sukarela biasa. Kelompok ini juga mengatakan bahwa persyaratan untuk mempekerjakan auditor independen akan mahal dan sebenarnya tidak perlu untuk mengurangi risiko dalam banyak model dasar. Mereka berpendapat bahwa model open source sudah dapat ditinjau oleh publik, yang akan melakukannya dengan lebih baik daripada auditor. Poin lain yang menjadi perdebatan adalah persyaratan Act ini untuk menyimpan dokumentasi selama 10 tahun. Kelompok ini mengatakan bahwa dalam proyek open source, tidak jelas siapa yang akan bertanggung jawab atas hal ini mengingat pengembangan terdesentralisasi yang tidak memiliki organisasi formal. Kolaborasi open source seringkali bersifat ad hoc tanpa organisasi formal, kata kelompok ini.
Kelompok EleutherAI merekomendasikan tindakan hukum
Misalnya, mereka menunjukkan bahwa EleutherAI terdiri dari sekelompok sukarelawan selama tiga tahun sebelum menjadi entitas hukum. Kelompok ini merekomendasikan tindakan-tindakan berikut:
Terkait:
1. Tentukan komponen-komponen AI untuk menjelaskan mana yang termasuk dalam Act ini.
2. Klarifikasi bahwa pengembang yang bekerja sama dalam pengembangan komponen AI open source dan membuatnya tersedia di repositori publik tidak akan tunduk pada Act ini.
3. Dukung koordinasi dan tata kelola inklusif dengan ekosistem open source oleh Kantor AI EU. Kantor AI memantau implementasi aturan.
4. Izinkan pengujian terbatas dalam kondisi dunia nyata oleh model open source.
5. Buat aturan-aturan untuk model dasar open source yang sesuai dan berbeda dari aturan-aturan untuk model-model tertutup dan pribadi.
