Dynatrace Perluas Observabilitas AI

Dynatrace Memperluas Platform Observabilitas untuk Generative AI dan Large Language Models

Dynatrace, perusahaan observabilitas dan keamanan terpadu, meluaskan platformnya untuk observabilitas Generative AI dan Large Language Models (LLM). Teknologi AI semakin pesat, visibilitas terhadap fungsi AI penting untuk kehandalan, keamanan, dan transparansi. Dynatrace AI Observability menawarkan pandangan holistik terhadap aplikasi Generative AI, termasuk infrastruktur, model dasar, cache semantik, dan kerangka kerja orkestrasi.

Generative AI dan Tantangan yang Dihadapinya

Generative AI memperkaya transformasi digital, menciptakan solusi inovatif untuk organisasi. Tantangan baru muncul: keamanan, transparansi, kehandalan, pengalaman, dan biaya. Observabilitas AI diperlukan, termasuk untuk solusi Generative AI. Dynatrace memberikan wawasan terbaik, memungkinkan adopsi AI yang aman.

Platform Dynatrace AI Observability

Dynatrace AI Observability menggunakan Davis AI dan teknologi inti lainnya. Ini memberikan pandangan akurat pada aplikasi AI. Organisasi dapat memberikan pengalaman pengguna yang luar biasa. Platform mendukung Azure OpenAI, Amazon SageMaker, dan Google AI Platform.

Pentingnya Observabilitas AI

AI masih dalam tahap awal di banyak organisasi. Alat, model, dan layanan AI terus berkembang. Observabilitas penting untuk kinerja dan keamanan aplikasi AI. Dynatrace AI Observability menawarkan solusi untuk implementasi aplikasi AI yang aman dan berkinerja baik.

Memahami Asal-Usul Output AI

Salah satu aspek kunci dari observabilitas AI adalah memahami asal-usul output AI. Dynatrace AI Observability dengan Davis AI membantu perusahaan mematuhi peraturan privasi dan keamanan dengan melacak asal-usul output yang dibuat oleh aplikasi branda. Selain itu, hal ini membantu meramalkan dan mengendalikan biaya dengan memantau konsumsi token, yang merupakan unit dasar yang digunakan oleh model Generative AI untuk memproses permintaan.

Kemitraan dengan Microsoft Azure OpenAI Service

Kemitraan antara Dynatrace dan Microsoft Azure OpenAI Service lebih meningkatkan kemampuan Dynatrace AI Observability. Dengan berkolaborasi dengan Azure OpenAI Service, Dynatrace memberikan wawasan kepada pelanggan bersama tentang keamanan, kehandalan, dan kinerja layanan yang didukung oleh AI. Kombinasi ini memastikan bahwa organisasi dapat mencapai standar tertinggi sambil mengendalikan biaya.

Tantangan Biaya dan Kepatuhan

Menurut Gartner, pada 2028, lebih dari 50% komputasi cloud akan digunakan untuk beban kerja AI. Dynatrace AI Observability mengatasi kekhawatiran biaya dengan visibilitas terhadap konsumsi token Generative AI.

Regulasi dan Observabilitas AI

Dengan pemerintah di seluruh dunia menetapkan regulasi untuk penggunaan teknologi AI yang bertanggung jawab dan etis, kebutuhan akan observabilitas dan pemantauan komponen AI semakin penting. Dengan memperhatikan dan mengamati aplikasi AI secara cermat, organisasi dapat memastikan kepatuhan terhadap hukum yang berlaku dan mengurangi risiko yang terkait dengan bias AI dan masalah etis lainnya.

Kesimpulan

Sebagai kesimpulan, perluasan platform observabilitas terpadu Dynatrace ke Generative AI dan Large Language Models (LLM) menjawab kebutuhan akan visibilitas dan pemantauan dalam bidang AI yang terus berkembang. Dengan memberikan pandangan holistik terhadap aplikasi AI dan memungkinkan organisasi untuk melacak asal-usul output AI, mengendalikan biaya, dan memastikan kepatuhan, Dynatrace AI Observability memberdayakan organisasi untuk mengadopsi AI dengan percaya diri dan aman.