Regulasi GenAI FDA: 5 Poin Powerful yang Wajib Tahu

Regulasi GenAI FDA: Kerangka Baru untuk Bidang Kesehatan

Regulasi GenAI FDA memasuki fase krusial dengan terbitnya sebuah makalah diskusi resmi. Makalah ini secara komprehensif menguraikan pendekatan pengawasan terhadap perangkat medis berbasis artificial intelligence generatif. Dokumen ini memetakan berbagai pertimbangan utama dalam mengatur perangkat yang memanfaatkan generative artificial intelligence. Cakupannya mulai dari penilaian risiko, evaluasi pra-pasar, hingga pemantauan pascapasar. FDA membuka ruang konsultasi publik dan mengundang masukan dari seluruh pemangku kepentingan—industri, tenaga kesehatan, peneliti, hingga pasien. Dengan demikian, kerangka regulasi yang dihasilkan tidak hanya ketat secara ilmiah, tetapi juga adaptif terhadap laju inovasi. Langkah ini sejalan dengan prioritas federal untuk memanfaatkan artificial intelligence. Tujuannya mempercepat pengembangan dan ketersediaan produk medis yang aman dan inovatif.

Pelaksana Tugas Komisaris FDA, Kyle Diamantas, J.D., menegaskan bahwa artificial intelligence tengah mengubah praktik kedokteran secara mendasar. Perubahan itu terjadi mulai dari cara dokter mendiagnosis hingga bagaimana pasien menerima perawatan. Ia menekankan bahwa Amerika Serikat harus berada di garis depan dalam membentuk standar pengembangan dan penggunaan teknologi ini. Hal tersebut harus dilakukan secara aman dan bertanggung jawab. Menurutnya, penerbitan makalah diskusi mengenai regulasi GenAI FDA merupakan bukti komitmen lembaga tersebut. Komitmen itu mencakup upaya mendorong inovasi yang berpihak pada tenaga kesehatan dan pasien. Selain itu, ia ingin memastikan bahwa pemanfaatan AI benar-benar meningkatkan mutu layanan dan hasil kesehatan.

Peran DHCoE dan CDRH dalam Modernisasi Regulasi Kesehatan Digital

Makalah diskusi mengenai regulasi GenAI FDA ini dipimpin oleh Digital Health Center of Excellence (DHCoE). Unit khusus ini berada di bawah Center for Devices and Radiological Health (CDRH) FDA dan berfokus pada kesehatan digital. Inisiatif ini memperkuat Pilar Kesehatan Publik FDA terkait Inovasi dan Kepemimpinan Global. Pilar tersebut menempatkan modernisasi kerangka regulasi sebagai prioritas utama. Tujuannya, agar kebijakan dapat mengikuti dinamika teknologi artificial intelligence dan solusi kesehatan digital yang berkembang sangat cepat. Dengan demikian, FDA berupaya memastikan bahwa regulasi tidak tertinggal jauh di belakang inovasi.

Direktur CDRH, Michelle Tarver, M.D., Ph.D., menekankan bahwa pasien dan klinisi berhak atas pendekatan regulasi. Pendekatan itu harus mampu mengimbangi laju inovasi teknologi kesehatan digital. Ia menjelaskan bahwa dengan membuka proses konsultasi publik, FDA memulai sebuah proses yang transparan. Proses tersebut bertujuan merumuskan pendekatan regulasi yang melindungi pasien dan konsumen tanpa mematikan kreativitas dan pengembangan teknologi baru. Pendekatan ini diharapkan tidak hanya relevan bagi Amerika Serikat. Selain itu, pendekatan tersebut berpotensi menjadi rujukan bagi regulator di berbagai negara. Negara-negara tersebut tengah menghadapi tantangan serupa dalam mengatur artificial intelligence generatif di sektor kesehatan.

Potensi dan Risiko Perangkat Medis Berbasis GenAI

Perangkat medis yang didukung GenAI menawarkan potensi besar untuk meningkatkan kualitas perawatan dan mentransformasi ekosistem layanan kesehatan. Teknologi ini dapat membantu mempercepat dan mempertajam diagnosis, mendukung pengambilan keputusan klinis, serta mempersonalisasi terapi sesuai profil pasien. Selain itu, GenAI turut mengoptimalkan alur kerja klinis di rumah sakit maupun klinik. Namun, di balik peluang tersebut, perangkat berbasis GenAI membawa profil risiko tersendiri. Profil tersebut berbeda dibandingkan perangkat lunak tradisional maupun generasi sebelumnya dari perangkat berbasis AI. Kemampuan menghasilkan konten baru, perilaku sistem yang lebih kompleks, serta ketergantungan pada data pelatihan berskala besar menimbulkan tantangan baru. Tantangan tersebut terkait keamanan, keandalan, dan potensi bias.

Direktur DHCoE, Rick Abramson, M.D., menegaskan bahwa perangkat medis berbasis artificial intelligence generatif siap mengubah lanskap teknologi kesehatan secara signifikan. Ia menyatakan bahwa FDA memikul tanggung jawab penting untuk memberikan kepemimpinan regulatori yang matang di era baru ini. Menurutnya, makalah diskusi mengenai regulasi GenAI FDA mendorong batas-batas ilmu regulasi dan memicu percakapan penting. Percakapan itu membahas bagaimana memungkinkan inovasi yang bermanfaat dan melindungi kesehatan publik. Selain itu, percakapan tersebut juga menyoroti pentingnya menjaga kepercayaan masyarakat terhadap sistem kesehatan yang semakin terdigitalisasi.

Kerangka Dua Sumbu untuk Penilaian Risiko

Salah satu elemen kunci dalam makalah diskusi ini adalah pengenalan kerangka dua sumbu. Kerangka tersebut diusulkan untuk menilai risiko perangkat medis berbasis GenAI. Kerangka ini dirancang untuk memberikan struktur yang lebih sistematis dalam memandu ekspektasi regulatori terhadap berbagai jenis perangkat GenAI. Melalui pendekatan dua sumbu, FDA berupaya mengkategorikan tingkat risiko. Faktor yang dipertimbangkan mencakup konteks penggunaan (misalnya, dukungan keputusan klinis versus intervensi langsung). Faktor lainnya adalah tingkat otonomi sistem serta potensi dampak terhadap keselamatan pasien. Dengan kerangka ini, intensitas pengawasan dapat disesuaikan dengan profil risiko masing-masing perangkat, sehingga regulasi menjadi lebih proporsional dan berbasis risiko.

Kerangka tersebut diharapkan membantu produsen memahami sejak awal jenis bukti dan tingkat pengawasan. Keduanya mungkin diperlukan untuk membawa produk mereka ke pasar. Bagi regulator, pendekatan ini memberikan alat analitis untuk membedakan antara perangkat yang memerlukan pengawasan ketat dan perangkat lainnya. Perangkat lainnya dapat diawasi dengan mekanisme yang lebih ringan, tanpa mengorbankan keselamatan pasien. Dengan demikian, kerangka dua sumbu ini menjadi fondasi awal bagi pengembangan kebijakan yang lebih rinci dan operasional di masa mendatang.

Evaluasi Pra-Pasar Berbasis Penilaian Kompetensi

Makalah diskusi regulasi GenAI FDA juga mengusulkan pendekatan evaluasi pra-pasar yang berlandaskan konsep penilaian kompetensi. Konsep ini terinspirasi dari cara dokter dilatih dan diuji sebelum diizinkan praktik klinis. Dalam konteks perangkat GenAI, pendekatan ini mencakup serangkaian pengujian nonklinis untuk menilai kinerja sistem. Sebagai contoh, pengujian tersebut berupa uji laboratorium, simulasi, atau evaluasi berbasis data yang terkontrol. Tahap ini kemudian dilengkapi dengan konfirmasi klinis. Konfirmasi tersebut memastikan bahwa perangkat benar-benar berfungsi sesuai tujuan dalam situasi nyata sebelum digunakan secara luas pada pasien.

Tujuan utama pendekatan penilaian kompetensi adalah memastikan bahwa perangkat GenAI tidak hanya unggul secara teknis di lingkungan uji. Selain itu, perangkat harus relevan, aman, dan dapat diandalkan dalam praktik klinis sehari-hari. FDA menekankan pentingnya bukti yang kuat mengenai kinerja, keandalan, dan batasan sistem. Bukti tersebut mencakup pemahaman tentang bagaimana perangkat merespons variasi data dan potensi bias yang mungkin muncul. Selanjutnya, sistem juga harus mampu menangani skenario yang tidak terduga. Dengan demikian, proses pra-pasar diharapkan dapat menyaring risiko sejak dini sebelum perangkat mencapai pasien.

Pemantauan Pascapemasaran yang Adaptif

Selain fokus pada evaluasi pra-pasar, makalah diskusi regulasi GenAI FDA menguraikan sejumlah strategi potensial untuk pemantauan pascapasar. Strategi tersebut dirancang agar proporsional dengan tingkat risiko dan karakteristik teknis sistem GenAI. FDA mengakui bahwa pengawasan berkelanjutan terhadap perangkat GenAI mungkin perlu dirancang secara berbeda dibandingkan perangkat medis konvensional. Hal ini terutama berlaku untuk sistem yang bersifat adaptif, terus belajar, atau menerima pembaruan perangkat lunak secara berkala. Dalam kasus seperti ini, mekanisme pemantauan yang lebih intensif, dinamis, dan mungkin real-time dapat diperlukan. Mekanisme tersebut berguna untuk mendeteksi dan mengatasi masalah sejak dini.

Strategi pemantauan pascapasar yang diusulkan mencakup pengumpulan data kinerja di dunia nyata serta pelaporan insiden dan kejadian tidak diinginkan. Selain itu, strategi ini mencakup mekanisme pembaruan yang transparan dan terdokumentasi. Pendekatan ini bertujuan memastikan bahwa perangkat GenAI tetap beroperasi dalam batas keamanan yang dapat diterima sepanjang siklus hidupnya. Hal ini berlaku bahkan ketika sistem mengalami pembaruan atau penyesuaian. Dengan demikian, pengawasan pascapasar menjadi bagian integral dari ekosistem regulasi yang menyeluruh, bukan sekadar tahap akhir setelah persetujuan pra-pasar.

Tantangan Model Fondasi dan Sistem AI Agen

Makalah tersebut juga menyoroti isu-isu baru seiring berkembangnya foundation models dan sistem AI yang bersifat agen (agentic AI systems). Foundation models adalah model berskala besar yang dapat dilatih sekali dan kemudian disesuaikan untuk berbagai aplikasi, termasuk perangkat medis. Sementara itu, sistem AI yang bersifat agen mampu mengambil tindakan secara otonom dalam lingkungan tertentu. Sebagai contoh, sistem tersebut dapat menyesuaikan terapi atau mengatur alur kerja tanpa intervensi manusia yang konstan. Kedua jenis sistem ini menghadirkan tantangan regulatori baru. Tantangan tersebut mencakup cara menetapkan dan menelusuri tanggung jawab, serta memastikan transparansi. Tantangan lainnya adalah mempertahankan kontrol terhadap perilaku sistem yang dapat berubah seiring waktu.

FDA menyoroti perlunya pendekatan regulasi yang mampu menangani kompleksitas rantai nilai foundation models. Rantai tersebut mencakup pihak mulai dari pengembang model dasar hingga produsen perangkat medis yang mengintegrasikannya. Pertanyaan penting yang diajukan mencakup bagaimana membagi tanggung jawab antara berbagai pihak. Pertanyaan lainnya mencakup bagaimana memastikan dokumentasi yang memadai atas perubahan model. Selain itu, muncul pertanyaan tentang bagaimana menjamin bahwa adaptasi model untuk konteks medis tidak mengorbankan keselamatan pasien. Untuk sistem AI agen, tantangan tambahan muncul terkait batas otonomi yang dapat diterima. Tantangan lainnya adalah mekanisme intervensi manusia ketika terjadi penyimpangan perilaku.

Konsultasi Publik Regulasi GenAI FDA dan Partisipasi Pemangku Kepentingan

Untuk setiap area yang dibahas dalam makalah diskusi, FDA menyusun serangkaian pertanyaan spesifik yang ditujukan kepada publik. Pertanyaan-pertanyaan ini dirancang untuk mengumpulkan masukan yang akan membantu membentuk kerangka regulasi GenAI FDA. Kerangka tersebut diharapkan kokoh secara ilmiah, berfokus pada keselamatan pasien, dan selaras dengan karakteristik unik perangkat medis berbasis GenAI. FDA menegaskan bahwa regulasi yang dihasilkan harus mampu menjaga integritas sistem kesehatan. Regulasi tersebut juga tidak boleh menghambat inovasi yang bermanfaat bagi masyarakat luas.

FDA secara aktif mendorong komentar dari produsen perangkat medis, klinisi, pasien, konsumen, peneliti, dan pihak berkepentingan lainnya. Umpan balik yang diharapkan mencakup perspektif praktis, teknis, etis, dan regulatori. Dengan demikian, kebijakan yang disusun mencerminkan kebutuhan dan realitas di lapangan. Komentar dapat disampaikan ke docket FDA-2026-N-7874 melalui situs Regulations.gov, dengan batas waktu pengiriman hingga 19 Oktober 2026. Partisipasi luas diharapkan dapat memperkaya proses penyusunan regulasi GenAI FDA dan meningkatkan legitimasi kebijakan yang dihasilkan.

Komitmen FDA terhadap Inovasi dan Perlindungan Kesehatan Publik

Makalah diskusi ini merupakan bagian dari upaya lebih luas FDA untuk mendukung kemajuan layanan kesehatan melalui pemanfaatan teknologi kesehatan digital. Teknologi tersebut harus aman, efektif, dan berkualitas tinggi. FDA berkomitmen mempromosikan pengembangan dan penggunaan teknologi tersebut secara bertanggung jawab. Komitmen ini diwujudkan melalui penetapan standar yang jelas, panduan yang transparan, dan mekanisme pengawasan yang adaptif terhadap perkembangan teknologi. Pendekatan ini diharapkan dapat menciptakan ekosistem inovasi yang sehat. Di dalam ekosistem tersebut, pelaku industri memiliki kejelasan regulasi dan pasien mendapatkan perlindungan maksimal.

Sebagai lembaga di bawah U.S. Department of Health and Human Services, FDA memikul mandat luas untuk melindungi kesehatan publik. Tanggung jawab ini mencakup memastikan keamanan, efektivitas, dan mutu obat-obatan manusia dan hewan. Cakupan tersebut juga meliputi vaksin serta produk biologis lain untuk penggunaan manusia. FDA juga mengatur perangkat medis, termasuk perangkat yang memanfaatkan GenAI. Pengaturan ini memastikan bahwa produk tersebut memenuhi standar keselamatan dan kinerja yang ketat. Selain itu, FDA mengawasi keamanan pasokan makanan nasional, kosmetik, suplemen makanan, dan produk elektronik pemancar radiasi. Lembaga ini juga memiliki mandat untuk mengatur produk tembakau. Dengan cakupan tugas yang luas, FDA berupaya menjaga kepercayaan publik. Upaya ini dilakukan melalui regulasi yang berbasis bukti dan berorientasi pada perlindungan kesehatan masyarakat.

Tonggak Penting Regulasi GenAI FDA untuk Kesehatan

Makalah diskusi regulasi GenAI FDA diterbitkan pada 18 Agustus 2026 dan menjadi tonggak penting. Tonggak ini merupakan bagian dari upaya membangun kerangka regulasi yang mampu mengikuti inovasi artificial intelligence generatif di bidang kesehatan. Dokumen ini merangkum pendekatan awal FDA untuk menilai risiko melalui kerangka dua sumbu. Dokumen ini juga mengusulkan evaluasi pra-pasar berbasis penilaian kompetensi. Selanjutnya, dokumen ini merancang strategi pemantauan pascapasar yang disesuaikan dengan tingkat risiko dan kemampuan adaptif sistem GenAI. Makalah ini juga menyoroti tantangan baru terkait foundation models dan sistem AI agen. Tantangan tersebut menuntut pendekatan regulasi yang lebih canggih dan kolaboratif.

Melalui proses konsultasi publik yang dibuka hingga 19 Oktober 2026, FDA berharap dapat menyusun kebijakan yang seimbang. Keseimbangan tersebut terjadi antara dorongan inovasi dan perlindungan pasien. Kerangka regulasi yang dihasilkan diharapkan tidak hanya kokoh secara ilmiah, tetapi juga praktis dan dapat diterapkan. Selain itu, kerangka tersebut harus mampu beradaptasi dengan evolusi teknologi kesehatan digital. Dalam jangka panjang, regulasi GenAI FDA diharapkan menjadi salah satu pilar utama dalam memastikan transformasi digital di sektor kesehatan. Transformasi tersebut harus berlangsung dengan cara yang aman, etis, dan berorientasi pada kepentingan publik.