Membangun Aplikasi Cerdas dengan Amazon Bedrock

Amazon Bedrock Agents dan Lompatan Baru Aplikasi AI Generatif

Pada bulan Juni, saya memulai rangkaian tulisan yang mengulas alasan utama mengapa pelanggan memilih Amazon Bedrock. Bagian pertama membahas cara membangun aplikasi AI generatif yang aman, sementara bagian kedua menyoroti bagaimana merancang solusi AI generatif kustom di platform yang sama. Dalam tulisan ini, fokus bergeser ke Amazon Bedrock Agents, kapabilitas yang memungkinkan organisasi membangun aplikasi AI generatif yang lebih cerdas, kontekstual, dan mampu mengorkestrasi alur kerja kompleks. Agen-agen ini dirancang untuk menyederhanakan proses bisnis yang rumit sekaligus menghadirkan pengalaman pengguna yang lebih alami dan percakapan yang terasa intuitif.

Large language models atau LLM memungkinkan manusia berinteraksi dengan komputer menggunakan bahasa sehari-hari. Namun, kebutuhan di dunia nyata sering kali menuntut lebih dari sekadar pemahaman bahasa. Banyak skenario bisnis memerlukan eksekusi alur kerja multi-langkah, integrasi dengan sumber data eksternal, serta orkestrasi berbagai kapabilitas AI dan pipeline data. Di titik inilah konsep agen menjadi transformatif: agen memungkinkan aplikasi AI generatif yang lebih terarah, dapat bertindak, dan mengubah cara kita berinteraksi dengan serta memanfaatkan LLM.

Amazon Bedrock Agents membantu pengembang mengambil pendekatan menyeluruh untuk meningkatkan skalabilitas, latensi, dan kinerja ketika membangun aplikasi AI generatif. Solusi yang dibangun di atas Amazon Bedrock Agents dapat menangani tugas-tugas kompleks dengan mengombinasikan LLM dan beragam alat maupun layanan tambahan. Pendekatan ini membuat aplikasi lebih tangguh, adaptif, dan siap menjawab tuntutan bisnis modern yang bergerak cepat.

Dari Asisten Sederhana ke Orkestrator Perjalanan yang Cerdas

Bayangkan sebuah asisten perjalanan berbasis AI generatif. Pada level paling dasar, Anda mungkin hanya menginginkannya menjawab pertanyaan seperti, “Bagaimana cuaca di Paris minggu depan?” atau “Berapa biaya penerbangan ke Tokyo pada bulan Juli?” Asisten virtual konvensional dapat memberikan jawaban melalui respons yang telah ditentukan atau sekadar melakukan pencarian web. Fungsi ini berguna, tetapi belum cukup untuk menjawab kebutuhan perjalanan yang lebih kompleks dan bernilai tinggi.

Permintaan yang lebih canggih—misalnya, “Saya ingin mengunjungi tiga negara musim panas depan. Bisakah Anda menyarankan rencana perjalanan yang mencakup situs bersejarah, kuliner lokal, dan tetap dalam anggaran $3.000?”—menuntut kemampuan yang jauh lebih dalam. Permintaan seperti ini memerlukan perencanaan, penganggaran, dan pengumpulan informasi lintas berbagai destinasi. Agen harus memahami preferensi, batasan biaya, serta menyusun urutan perjalanan yang masuk akal dan efisien.

Dengan Amazon Bedrock Agents, pengembang dapat dengan cepat membangun asisten yang mampu menangani permintaan kompleks semacam ini. Agen menggabungkan kemampuan penalaran LLM dengan alat dan sumber daya tambahan, termasuk knowledge base yang terintegrasi secara native. Agen dapat menyusun rencana perjalanan yang dipersonalisasi berdasarkan preferensi pengguna, melakukan kueri ke API perjalanan untuk penerbangan, hotel, dan atraksi, menggabungkan sumber data privat dan publik, mempertimbangkan kondisi cuaca, serta melacak preferensi dan anggaran pelancong sepanjang proses.

Untuk membangun agen seperti itu, Anda memerlukan LLM untuk menafsirkan dan merespons kueri pengguna, sekaligus komponen khusus untuk perencanaan, penganggaran, dan akses informasi terkait perjalanan. Kombinasi ini memungkinkan agen tidak hanya menjawab pertanyaan, tetapi juga mengeksekusi rangkaian tindakan yang saling terkait dan berorientasi hasil.

Studi Kasus: Rocket dan Transformasi Interaksi Pelanggan

Banyak pelanggan telah menggunakan Amazon Bedrock Agents untuk dengan cepat membangun agen dan aplikasi yang digerakkan oleh agen. Salah satu contohnya adalah Rocket, perusahaan fintech yang berfokus membantu masyarakat mencapai kepemilikan rumah dan kebebasan finansial. Perusahaan ini memanfaatkan Amazon Bedrock Agents untuk meningkatkan kualitas interaksi dengan pelanggan di berbagai titik perjalanan finansial branda.

“Rocket siap merevolusi perjalanan kepemilikan rumah dengan teknologi AI, dan kerangka kerja AI agentic adalah kunci misi kami. Dengan berkolaborasi dengan AWS dan memanfaatkan Amazon Bedrock Agents, kami meningkatkan kecepatan, akurasi, dan personalisasi komunikasi berbasis teknologi dengan klien. Integrasi ini, yang didukung oleh 10 petabyte data dan keahlian industri Rocket, memastikan klien kami dapat menavigasi momen finansial yang kompleks dengan percaya diri,” ujar Shawn Malhotra, CTO Rocket Companies.

Contoh ini menggambarkan bagaimana agen tidak lagi sekadar menjadi antarmuka tanya jawab, melainkan menjadi lapisan kecerdasan yang mampu menghubungkan data, proses, dan interaksi pelanggan dalam satu orkestrasi yang konsisten dan dapat diskalakan.

Arsitektur Inti: Dari Orchestration Prompt hingga Perencanaan Multi-Langkah

Berbeda dengan LLM yang hanya mengambil informasi atau menghasilkan konten, agen menggabungkan berbagai komponen dengan LLM untuk menciptakan orkestrator cerdas. Orkestrator ini mampu menangani kasus penggunaan kompleks dengan konteks yang kaya dan pengetahuan domain yang spesifik. Arsitektur Amazon Bedrock Agents dibangun di atas beberapa komponen kunci yang saling melengkapi dan dirancang untuk bekerja secara terpadu.

Proses dimulai dengan dua elemen inti: LLM dan orchestration prompt. LLM—sering kali dari keluarga model seperti Anthropic Claude atau Meta Llama—menyediakan kemampuan penalaran dasar. Sementara itu, orchestration prompt adalah seperangkat instruksi terstruktur yang memandu pengambilan keputusan LLM, mengontrol bagaimana LLM mengoordinasikan tugas dan alat yang tersedia, serta menentukan kapan agen harus memanggil layanan eksternal atau mengakses data tertentu.

Kemampuan sentral Amazon Bedrock Agents adalah perencanaan. Perencanaan adalah kemampuan agen untuk memahami sebuah tugas dan menyusun strategi multi-langkah untuk menyelesaikan masalah dan memenuhi kebutuhan pengguna. Dalam Amazon Bedrock Agents, digunakan teknik chain-of-thought prompting yang dikombinasikan dengan pola ReAct (Reason + Act) di dalam orchestration prompt. Pendekatan ini secara signifikan meningkatkan kinerja agen pada tugas multi-langkah yang kompleks, karena agen didorong untuk “berpikir keras” sebelum bertindak.

Dekomposisi Tugas dan Perencanaan yang Adaptif

Dekomposisi tugas merupakan bagian kritis dari perencanaan. Agen harus mampu menafsirkan permintaan abstrak dan memecahnya menjadi langkah-langkah konkret yang dapat dieksekusi. Kembali ke contoh perjalanan, ketika pengguna meminta agen “merencanakan perjalanan musim panas ke tiga negara”, agen harus mengenali bahwa tugas ini mencakup pemilihan destinasi, pengaturan transportasi, pemesanan akomodasi, penjadwalan kunjungan ke atraksi, hingga rekomendasi kuliner lokal. Kemampuan mengurai permintaan tingkat tinggi menjadi tindakan rinci adalah inti dari perencanaan yang efektif.

Perencanaan juga tidak bersifat statis. Saat agen mengeksekusi rencana, ia mungkin perlu beradaptasi dengan informasi baru. Misalnya, setelah memesan transportasi, agen dapat menemukan bahwa tidak ada hotel yang sesuai untuk tanggal kedatangan awal. Pada titik itu, agen harus memutuskan apakah akan memperluas pencarian ke area sekitar, menyesuaikan tanggal perjalanan, atau mengusulkan opsi alternatif. Agen secara dinamis memperbarui rencana seiring perubahan kondisi, sehingga hasil akhir tetap relevan dan optimal bagi pengguna.

Pendekatan perencanaan yang adaptif ini menjadikan agen lebih dari sekadar sistem otomatisasi; agen berperan sebagai pengambil keputusan yang mampu menimbang kompromi, mengelola kendala, dan mengoptimalkan hasil berdasarkan tujuan pengguna.

Memori Jangka Pendek dan Panjang: Fondasi Personalisasi

Agen juga bergantung pada memori, yang hadir dalam dua bentuk: jangka pendek dan jangka panjang. Memori jangka pendek bersifat presisi dan berfokus pada percakapan yang sedang berlangsung. Memori ini menyimpan konteks lokal—misalnya preferensi yang baru saja disebutkan pengguna—dan dihapus setelah sesi berakhir. Sebaliknya, memori jangka panjang bersifat episodik dan menyimpan fakta serta detail penting sebagai catatan yang diringkas. Ringkasan ini menangkap elemen kunci dari interaksi sebelumnya, sehingga agen dapat menggunakan konteks masa lalu untuk menangani tugas saat ini dengan lebih baik.

Memori ini dipertahankan di luar LLM dalam sebuah memory store khusus dengan komponen penyimpanan dan pengambilan. Pengembang dapat mengonfigurasi informasi apa yang disimpan atau dikecualikan, memberikan kontrol yang sangat rinci atas memori. Manajemen identitas mengaitkan memori dengan pengguna akhir tertentu, memungkinkan pengembang mengelola identitas pengguna dan membangun kapabilitas tambahan di atas fitur memori Amazon Bedrock Agents, seperti rekomendasi yang semakin presisi dari waktu ke waktu.

Pada AWS New York Summit baru-baru ini, AWS memperkenalkan kapabilitas retensi memori terdepan di industri dalam Amazon Bedrock. Fitur-fitur ini memungkinkan agen belajar dan beradaptasi dengan preferensi setiap pengguna dari waktu ke waktu. Hasilnya adalah pengalaman yang lebih personal dan efisien lintas banyak sesi untuk pengguna yang sama. Fungsionalitas ini dirancang agar mudah diadopsi, sehingga organisasi dapat memulai hanya dengan beberapa klik tanpa perlu membangun infrastruktur memori dari nol.

Dari Penjawab Kueri ke Orkestrator Canggih

Dengan menggabungkan kapabilitas perencanaan, orkestrasi, dan memori, Amazon Bedrock Agents memudahkan pembangunan agen yang melampaui fungsi penjawab kueri sederhana. Agen-agen ini berevolusi menjadi orkestrator canggih yang mampu menangani kasus penggunaan kompleks dan multi-dimensi dengan efisiensi tinggi. Pendekatan ini membantu organisasi memaksimalkan nilai dari investasi AI generatif, karena agen dapat menghubungkan berbagai sistem, data, dan proses dalam satu alur kerja terpadu.

Dalam banyak skenario, beberapa agen yang bekerja bersama dapat semakin meningkatkan kinerja. Agen berbasis LLM dapat berkolaborasi untuk menyelesaikan masalah kompleks dengan lebih efisien, misalnya dengan membagi tugas berdasarkan keahlian domain masing-masing. Amazon Bedrock mendukung pola ini melalui integrasi dengan LangGraph, bagian dari ekosistem open source LangChain yang populer. Integrasi ini memudahkan pengembang menghubungkan banyak agen, sehingga branda dapat memanfaatkan kekuatan masing-masing dan menciptakan lingkungan kolaboratif yang meningkatkan efektivitas keseluruhan sistem berbasis LLM.

Hasilnya adalah arsitektur multi-agen yang lebih modular, mudah dikembangkan, dan dapat disesuaikan dengan kebutuhan bisnis yang terus berubah, tanpa harus merombak sistem dari awal.

Memanfaatkan Generasi Model Terbaru dan Interpretasi Kode

Generasi model terbaru—seperti Anthropic Claude Sonnet 3.5, Meta Llama 3.1, dan Amazon Titan Text Premier—semakin mampu menggunakan alat dan sumber daya eksternal. Namun, untuk memanfaatkan kapabilitas ini sepenuhnya, pengembang sering kali harus terus memperbarui prompt dan menyesuaikan diri dengan perubahan perilaku model. Amazon Bedrock mengurangi beban operasional ini dengan menyederhanakan cara aplikasi berinteraksi dengan berbagai model, sehingga akses ke fitur-fitur terbaru menjadi lebih konsisten dan terkelola.

Sebagai contoh, pada AWS New York Summit diumumkan kapabilitas interpretasi kode atau code interpretation baru untuk Amazon Bedrock Agents. Fitur ini memungkinkan agen secara dinamis menghasilkan dan mengeksekusi potongan kode dalam lingkungan sandbox yang aman. Agen dapat menyelesaikan tugas kompleks seperti analisis data, visualisasi, pemrosesan teks, dan penyelesaian persamaan. Agen juga dapat memproses file masukan dalam format seperti CSV, Excel, dan JSON, serta menghasilkan grafik dari data yang mendasarinya.

Kemampuan interpretasi kode ini membuka peluang baru bagi organisasi yang ingin menggabungkan kecerdasan bahasa dengan analitik data yang lebih dalam, tanpa harus membangun pipeline analitik terpisah.

Guardrails dan Praktik AI yang Bertanggung Jawab

Akurasi menjadi krusial ketika agen menangani kueri kompleks dan keputusan bernilai tinggi. Pengembang dapat menggunakan Amazon Bedrock Guardrails untuk membantu mengurangi ketidakakuratan dan meningkatkan perilaku aplikasi. Guardrails meningkatkan keandalan, mendukung praktik AI yang bertanggung jawab, dan membantu melindungi dari masukan pengguna yang berbahaya maupun keluaran model yang berpotensi merugikan.

Guardrails menyediakan lapisan tambahan perlindungan keamanan dan privasi untuk aplikasi AI generatif. Dengan konfigurasi yang tepat, organisasi dapat memastikan bahwa agen mematuhi kebijakan internal, regulasi industri, dan standar etika yang berlaku, tanpa mengorbankan kelincahan inovasi.

Dalam konteks regulasi yang semakin ketat dan ekspektasi publik yang tinggi terhadap transparansi AI, lapisan pengaman seperti ini bukan lagi pilihan, melainkan prasyarat untuk adopsi skala besar.

Dari Perusahaan Besar hingga Startup: Siapa yang Diuntungkan?

Berbagai jenis organisasi—mulai dari perusahaan besar, startup, independent software vendor, hingga system integrator—dapat memanfaatkan Amazon Bedrock Agents hari ini. Layanan ini menawarkan platform komprehensif bagi tim pengembang untuk membangun dan menerapkan aplikasi AI yang dapat menangani kueri kompleks, mengintegrasikan sumber data privat, dan mematuhi standar AI yang bertanggung jawab.

Pengembang dapat memulai dengan “golden utterances” sebagai prompt masukan referensi dan “golden responses” sebagai keluaran yang diharapkan. Pendekatan ini memungkinkan penyempurnaan agen secara iteratif untuk menangani kasus penggunaan bernilai tertinggi dan mempercepat pengembangan AI generatif. Dengan siklus iterasi yang terstruktur, organisasi dapat menguji, mengukur, dan mengoptimalkan kinerja agen sebelum memperluas cakupan penerapan.

Agen membuka peluang besar untuk membangun aplikasi AI generatif yang benar-benar dapat mentransformasi bisnis—dari otomatisasi proses internal hingga customer experience yang sepenuhnya baru. Inovasi yang dihasilkan pelanggan dengan Amazon Bedrock Agents akan menjadi bukti bagaimana agen dapat mengubah cara organisasi bekerja, berinteraksi dengan data, dan melayani pengguna akhir. Vasi Philomin, Wakil Presiden Generative AI di AWS yang memimpin inisiatif AI generatif termasuk Amazon Bedrock dan Amazon Titan, menempatkan agen sebagai salah satu pilar utama dalam evolusi berikutnya komputasi berbasis AI.