Daftar Isi
Perkembangan Pesat Generative AI dan Pengenalan Llama Stack
Generative AI mengalami perkembangan yang pesat, membuka peluang besar untuk menciptakan aplikasi cerdas. Namun, untuk memanfaatkan potensi ini, diperlukan alat yang efektif. Memperkenalkan Llama Stack, sebuah kerangka kerja open-source yang dirancang untuk mengembangkan aplikasi generatif. Apakah Anda sedang merancang chatbot canggih, mesin pencari pintar, atau agen otonom yang kompleks, Llama Stack menyediakan komponen penting. Sebagai contoh, bayangkan perusahaan hipotetis, Parasol Insurance. Dalam skenario ini, tim operasional branda kesulitan mengelola kluster Red Hat OpenShift yang semakin banyak, sering menghadapi dokumentasi yang terfragmentasi, insiden berulang, dan pemecahan masalah yang berulang. Untuk mengurangi beban kognitif dan meningkatkan respons insiden, kita akan mengeksplorasi bagaimana branda dapat mengembangkan agen canggih menggunakan Llama Stack. Agen ini bertujuan untuk mengintegrasikan retrieval-augmented generation (RAG) untuk pengambilan pengetahuan, kontrol OpenShift melalui Model Context Protocol (MCP), dan komunikasi melalui Slack.
Langkah Awal Menggunakan Llama Stack
Memulai dengan kerangka kerja yang kuat bisa menakutkan. Oleh karena itu, kami telah membuat serangkaian notebook Python praktis untuk memandu Anda langkah demi langkah, dari dasar hingga membangun sistem agen multi-komponen yang canggih. Seri ini menceritakan perjalanan penambahan kemampuan secara progresif ke agen operasi OpenShift contoh Parasol Insurance kami. Kami memulai dengan sederhana dan menambahkan konsep, yang berpuncak pada notebook yang mengintegrasikan banyak teknik yang dipelajari sepanjang jalan. Mari kita mulai!
Membangun Agen Cerdas dengan Llama Stack
Setiap perjalanan dimulai dengan langkah pertama. Notebook ini membimbing Anda melalui instalasi dan konfigurasi Llama Stack dengan benar. Kami akan membahas konsep dan komponen dasar, menginstal dependensi, menerapkan server Llama Stack, dan mengonfigurasi beberapa parameter inferensi yang umum digunakan. Pengaturan dasar ini digunakan untuk mulai membangun agen cerdas kami untuk Parasol Insurance fiktif.
RAG adalah salah satu aplikasi paling kuat dari generative AI. Alih-alih hanya mengandalkan pengetahuan yang telah dilatih model, RAG memungkinkan Anda memberikan data khusus ke aplikasi Anda sesuai kebutuhan untuk menjawab permintaan pengguna. Untuk agen contoh Parasol Insurance kami, ini berarti mengakses dan mensintesis informasi dari dokumentasi internal OpenShift branda untuk pemecahan masalah yang efisien. Notebook ini memperkenalkan prinsip dasar RAG menggunakan Llama Stack. Anda akan belajar cara mengindeks dokumen Anda, mengambil informasi yang relevan berdasarkan kueri, dan menghasilkan jawaban yang didasarkan pada data Anda.
Sekarang kita memahami cara menghubungkan model bahasa besar (LLM) dengan data statis (RAG) dari dokumentasi internal, mari beri agen kita kemampuan untuk berinteraksi dengan dunia dinamis. Notebook ini memperkenalkan konsep agen. Kami akan membangun agen sederhana yang dapat menggunakan alat – dalam hal ini, alat pencarian web – untuk menjawab pertanyaan yang memerlukan informasi terkini di luar data pelatihannya, seperti menemukan pembaruan terbaru tentang OpenShift.
“`
