Integrasi AI Generatif dengan Strategi Multicloud

January 4, 2024 | by Luna

CTO Dell EMEA, Elliott Young, Membahas Pentingnya Pendekatan Multicloud dalam Mengimplementasikan AI Generatif

CTO Dell EMEA, Elliott Young, bergabung dengan podcast AI Business untuk membahas bagaimana AI generatif dapat diintegrasikan dengan strategi multicloud perusahaan. Dalam podcast tersebut, Young menjelaskan bahwa bisnis harus mempertimbangkan pendekatan multicloud untuk menerapkan model AI generatif. Pendekatan ini melibatkan penggunaan solusi seperti PowerFlex yang memungkinkan beban kerja AI dioptimalkan untuk berjalan di berbagai lokasi, termasuk cloud mitra seperti Azure atau AWS. Dengan adopsi pendekatan multicloud, perusahaan dapat dengan mudah mengakses data dan mengelola beban kerja AI dengan satu kontrol yang sederhana.

Selain itu, Young juga membahas pentingnya memisahkan komponen pembelajaran mesin dan AI generatif. Dalam kasus pembelajaran mesin, organisasi seringkali ingin melakukan pelatihan di lokasi yang dekat dengan data untuk memaksimalkan efek gravitasi data. Namun, hasil dari pembelajaran mesin tersebut dapat dijalankan di cloud publik seperti Azure atau di Edge Gateway di pabrik. Di sisi lain, AI generatif membutuhkan infrastruktur yang berbeda, dengan penggunaan siklus GPU yang lebih umum. Oleh karena itu, perusahaan harus mempertimbangkan biaya dan fleksibilitas dalam memilih infrastruktur yang tepat untuk AI generatif.

Dalam mengimplementasikan AI generatif, perusahaan juga harus mempertimbangkan masalah keamanan dan kontrol akses. Koneksi model bahasa besar ke data perusahaan dapat menyebabkan eskalasi hak istimewa dan mengabaikan kontrol akses berbasis peran. Oleh karena itu, perusahaan harus menggunakan teknik yang tepat untuk memastikan bahwa akses ke data tersebut terbatas dan terlindungi. Selain itu, perusahaan juga harus mempertimbangkan trade-off antara memperbaiki pengaturan dan data yang ada dengan waktu yang dibutuhkan untuk mendapatkan manfaat dari solusi AI generatif baru.

Dalam mengoptimalkan infrastruktur untuk AI generatif, perusahaan dapat mulai dengan mengimplementasikan platform model bahasa besar di lokasi yang paling sesuai, baik itu di cloud publik atau di lokasi perusahaan. Setelah itu, perusahaan dapat melihat bagaimana pengguna akan menggunakan kemampuan tersebut dan mengoptimalkan infrastruktur untuk mengambil dataset baru atau menggabungkannya bersama. Salah satu pendekatan yang sedang populer adalah penggunaan data lakehouse, di mana data dapat dikonversi ke format yang dapat diinterogasi saat dimuat.

Dengan mempertimbangkan semua faktor ini, perusahaan dapat mengadopsi pendekatan multicloud yang tepat dan mengoptimalkan infrastruktur mereka untuk menerapkan AI generatif dengan efektif.

Recommended Article