Arsitektur AI Berbasis Agen: Panduan Praktis untuk Membangun Sistem AI yang Lebih Cerdas

Arsitektur AI Berbasis Agen adalah desain sistem yang mengorganisir sejumlah agen AI khusus, di mana masing-masing menangani bagian tertentu dari tugas yang lebih besar. Dengan menggabungkan hasil kerja mereka, sistem ini dapat menghasilkan kinerja yang lebih baik daripada satu model yang bekerja sendiri.

"Pada dasarnya, bayangkan LLM ini sebagai agen-agen, dan setiap agen mengerjakan satu bagian dari tugas ini," jelas Don Woodlock, Presiden InterSystems, dalam seri Code to Care -nya.

Berbeda dengan AI tradisional yang merespons satu prompt dengan satu output, sistem AI berbasis agen dapat membuat rencana, menggunakan berbagai alat, menyimpan informasi untuk digunakan kembali, serta mengambil keputusan secara mandiri melalui beberapa tahapan.

Alih-alih meminta satu model mengerjakan semuanya, Anda dapat memberikan peran khusus kepada agen-agen cerdas. Satu agen membuat draf. Agen lain mengkritisinya. Agen ketiga merevisinya. Bahkan, tidak semua agen berupa model bahasa. Sebagian dapat berupa alat seperti mesin pencari, API, dan kalkulator. Sebuah orkestrator mengoordinasikan semuanya untuk mencapai tujuan bersama.

Apa yang membuat hal ini bisa dterapkan? Model bahasa berskala besar telah melampaui ambang batas keandalan. Model-model sebelumnya belum cukup dapat diandalkan untuk menjalankan subtugas secara mandiri. Model tersebut dapat menyimpang dari topik atau bahkan membuat-buat batasan yang sebenarnya tidak ada. Agen AI modern mampu mengikuti instruksi yang rumit dengan cukup baik sehingga masing-masing dapat diberi peran khusus dalam suatu sistem yang lebih besar, memahami lingkungannya, dan mengambil tindakan tanpa campur tangan manusia di setiap tahap.

Model bahasa berskala besar menghasilkan output satu token demi satu token, dan hanya bergerak ke depan. Dalam satu kali pemanggilan model, tidak ada mekanisme bawaan untuk melakukan revisi.

Coba pikirkan bagaimana sebenarnya Anda akan menyusun rencana pemasaran. Anda akan mulai dengan membuat kerangka. Kemudian menulis draf. Meninjaunya. Meminta masukan. Merevisinya. Mungkin melakukan uji coba terlebih dahulu, kemudian menghasilkan versi final. Ada beberapa tahapan, dan setiap tahapan menyempurnakan hasil dari tahapan sebelumnya.

Sementara itu, LLM melakukan semua proses tersebut dalam satu kali taa Tidak ada kerangka. Tidak ada proses mengkritisi. Tidak ada revisi. Hasilnya adalah apa pun yang diprediksi model kata demi kata, tanpa ada kesempatan untuk mundur sejenak dan mempertimbangkan kembali hasilnya.

Arsitektur berbasis agen mengisi celah tersebut. Dengan menghubungkan beberapa agen, yang masing-masing bertanggung jawab atas tahapan yang berbeda, Anda memberikan kemampuan kepada sistem AI untuk menyusun draf, mengevaluasi, dan menyempurnakan alur kerja yang kompleks, yang tidak dapat ditangani oleh satu model saja.

Penelitian mengenai prompt “chain-of-thought” ( Wei dkk., 2022; Kojima dkk., 2022“) menunjukkan bahwa dengan meminta model bahasa besar (LLM) untuk menjalani langkah-langkah penalaran perantara, akurasi dalam menyelesaikan tugas-tugas kompleks dapat ditingkatkan secara signifikan. Arsitektur berbasis agen memperluas prinsip tersebut, dari sekadar teknik prompt menjadi desain sistem secara menyeluruh. Alih-alih meminta satu model untuk berhenti sejenak dan berpikir, Anda membangun tim agen yang secara inheren bekerja secara bertahap.

Mulailah dengan apa yang disebut Don sebagai "AI gabungan", yaitu menggabungkan beberapa LLM alih-alih hanya mengandalkan satu model saja. Versi paling sederhana menggunakan tiga model secara berurutan:

1. Agen Penyusun Draf: menghasilkan keluaran awal
2. Agen Pengkritik: mengevaluasi draf berdasarkan persyaratan awal
3. Agen Finalisasi: melakukan revisi berdasarkan masukan yang diberikan

"Ini benar-benar berhasil." Hasilnya akan jauh lebih baik. "Sebenarnya, kamu bisa mencobanya sendiri dengan ChatGPT." - Don Woodlock

Perubahan mendasar: berhentilah menganggap setiap pemanggilan LLM sebagai "AI." Mulailah menganggap setiap LLM sebagai agen yang memiliki peran, seperti penyusun draf, pengkritik, atau penyempurna. Anda bisa menggunakan model yang sama untuk ketiganya atau memadukan berbagai model untuk menambah variasi dan sudut pandang. Hasil gabungan tersebut lebih unggul daripada hasil dari satu panggilan mana pun.

Begitu Anda mulai memikirkan hal ini dalam konteks agen, muncul pemahaman berikutnya: tidak setiap agen harus berupa model bahasa.

"Beberapa agen ini bisa berupa alat, seperti melakukan pencarian di Google, memanggil API untuk menjadwalkan janji temu, atau API kalkulator untuk melakukan perhitungan matematika." - Don Woodlock

Dalam contoh yang diberikan Don, seorang "agen permintaan data" mengidentifikasi statistik apa saja yang dapat memperkuat rencana pemasaran. Agen lain melakukan pencarian di web untuk menemukannya. Agen pencarian tersebut merupakan API call. Namun, dalam sistem, agen tersebut menjalankan peran yang sama: menerima tugas, menjalankannya, lalu mengembalikan hasil.

Inilah yang membedakan sistem berbasis agen dari rangkaian prompt. Arsitektur ini mendukung segala jenis pemrosesan (misalnya, model bahasa, mesin pencari, basis data, kalkulator, atau API eksternal) yang semuanya dikoordinasikan untuk mencapai satu tujuan.

Langkah terakhir: alur kerja tidak harus ditentukan secara permanen.

Alih-alih menetapkan alur kerja tetap yang terdiri dari enam tahapan, Anda memberikan sebuah tujuan kepada agen orkestrator, beserta daftar agen yang tersedia dan instruksi umum. Agen orkestrator menentukan urutan langkah yang perlu dilakukan. Agen ini dapat kembali ke tahap sebelumnya untuk melakukan riset tambahan. Agen ini juga dapat melewatkan tahapan yang tidak diperlukan. Sistem ini dapat beradaptasi.

Bayangkan orkestrator sebagai seorang detektif. Seorang detektif tidak mengikuti daftar periksa; sebaliknya, ia mengejar suatu tujuan (menyelesaikan kasus) dan membiarkan setiap bukti menentukan langkah penyelidikan selanjutnya. Jika suatu petunjuk tidak lagi mengarah ke mana-mana, ia kembali mencari petunjuk lain. Jika seorang saksi mengungkap sudut pandang baru, ia akan menelusurinya. Orkestrator bekerja dengan cara yang sam: tujuan dulu, urutan kemudian.

Inilah yang membedakan arsitektur AI berbasis agen dari otomatisasi tradisional.. Sistem ini tidak sekadar mengikuti skrip yang telah ditentukan Sistem ini berupaya mencapai suatu tujuan.

Setiap sistem AI berbasis agen, terlepas dari tingkat kompleksitasnya, memiliki empat modul inti dan satu lapisan orkestrasi yang menghubungkan keempat modul tersebut.

Modul persepsi berfungsi sebagai lapisan sensor sistem, yang mengumpulkan data secara real-time dari API, database, umpan data sensor, atau antarmuka pengguna, kemudian mengolahnya menjadi representasi yang dapat digunakan. Di sinilah pemrosesan bahasa alami mengurai masukan teks, penglihatan komputer menafsirkan gambar, dan konektor data mengambil catatan terstruktur dari sistem perusahaan. Lapisan persepsi menentukan batas atas bagi segala hal yang terjadi di tahap-tahap selanjutnya. Kualitas output agen bergantung sepenuhnya pada kualitas data yang dapat diaksesnya.

Di bidang layanan kesehatan, organisasi yang menggunakan platform data terpadu seperti InterSystems HealthShare, yang menggabungkan rekam medis dari berbagai penyedia EHR melalui standar seperti FHIR^® dan HL7®, memberikan fondasi data yang jauh lebih lengkap kepada petugas mereka dibandingkan dengan mereka yang mengandalkan data dari sekat-sekat yang terpisah-pisah.

Modul kognitif menafsirkan input dari lapisan persepsi dengan mempertimbangkan tujuan yang sedang ingin dicapai agen. Di sinilah model pembelajaran mesin, logika rantai pemikiran, dan algoritma perencanaan bekerja.

Kemampuan penalaran model bahasa besar telah memungkinkan penerapan agen yang mampu mempertimbangkan berbagai pilihan sebelum bertindak. Agen-agen ini dapat menimbang berbagai opsi, menetapkan subtujuan, dan menyesuaikan rencana di tengah pelaksanaan tugas.

Namun, justru di sinilah letak masalahnya. Jika model salah menafsirkan data atau menetapkan subtujuan yang keliru, kesalahan tersebut dapat merambat ke tahapan berikutnya dan memicu kesalahan lanjutan.

Sistem memori memberikan konteks kepada agen di luar prompt saat ini. Memori jangka pendek melacak konteks sesi yang sedang aktif dan hasil sementara. Apa saja yang telah dihasilkan oleh agen penyusun draf tersebut sejauh ini? Data apa saja yang sudah berhasil diambil?

Memori jangka panjang menyimpan hasil-hasil sebelumnya, preferensi pengguna, dan pengetahuan yang telah terkumpul, sehingga memungkinkan sistem untuk terus berkembang seiring berjalannya waktu. Agen yang menyimpan catatan interaksi masa lalu dan kondisi lingkungan dapat melakukan penalaran jangka panjang, yang menghubungkan tugas hari ini dengan pelajaran yang dipetik dari tugas-tugas sebelumnya.

Pengelolaan konteks antar-agen merupakan salah satu masalah teknik yang cukup rumit dalam konfigurasi multi-agen; cakupan pengetahuan setiap agen harus ditentukan dengan tepat agar agen tersebut memiliki informasi yang dibutuhkannya tanpa terbebani oleh informasi yang tidak relevan.

Modul tindakan melaksanakan keputusan: membuat teks, memanggil API, memperbarui catatan database, atau meneruskan ke agen berikutnya. Dalam kerangka kerja Don, agen Penyusun Draf, agen Pengkritik, agen Finalisasi masing-masing melakukan tindakan yang berbeda untuk mencapai tujuan yang sama.

Tindakan tersebut juga dapat memicu proses lanjutan di sistem perangkat lunak eksternal, seperti menjadwalkan janji temu, membuat tiket, memperbarui catatan CRM, atau mengirimkan data ke pipeline analitik. Lapisan tindakan adalah tempat di mana AI berbasis agen terhubung dengan dunia nyata.

Lapisan orkestrasi mengoordinasikan aliran data dan kendali di antara semua modul lainnya, serta menentukan agen mana yang akan dijalankan selanjutnya dan informasi apa yang akan diterimanya.

Di balik semua ini terdapat siklus umpan balik, yaitu mekanisme yang memungkinkan sistem mengevaluasi kemajuannya sendiri, mengidentifikasi kesalahan logika, dan menyesuaikan strategi secara real-time berdasarkan umpan balik dari lingkungan. Sistem berbasis agen terus berkembang seiring waktu melalui siklus pembelajaran penguatan, seiring dengan penambahan data yang diproses dan penyempurnaan perilaku agen pada setiap iterasi.

Sistem agen dapat dianalisis pada dua tingkatan: bagaimana masing-masing agen dirancang, dan bagaimana sejumlah agen diorganisasikan menjadi sebuah sistem.

Cara sebuah agen memproses informasi dan mengambil keputusan menentukan hal-hal apa saja yang dapat ditanganinya:

Pola	Cara Kerjanya	Paling Cocok Untuk
Reaktif	Menanggapi rangsangan langsung tanpa melibatkan memori atau prediksi Agen refleks berbasis model memetakan persepsi secara langsung ke tindakan	Tugas-tugas sederhana dan cepat: mengarahkan peringatan, pemicu berbasis ambang batas
Deliberatif	Melakukan penalaran, menyusun rencana, dan menggunakan model internal tentang dunia untuk mengambil keputusan. Lebih lambat, tetapi jauh lebih mumpuni	Masalah kompleks yang memerlukan perencanaan bertahap: penelitian, analisis
Kognitif	Meniru cara berpikir layaknya manusia; termasuk penalaran, pembelajaran, dan pengambilan keputusan secara mandiri dengan memori jangka pendek maupun jangka panjang.	Tugas yang memerlukan penyesuaian: rekomendasi yang dipersonalisasi, pembuatan konten secara iteratif

Sebagian besar agen AI modern bersifat deliberatif atau kognitif. Kemampuan penalaran yang dimiliki oleh model bahasa besar membuat pola-pola ini dapat diterapkan secara praktis dengan cara-cara yang tidak mungkin dilakukan lima tahun yang lalu.

Cara pengelompokan agen menentukan bagaimana mereka bekerja sama dan siapa yang mengambil keputusan:

Pola	Struktur	Paling Cocok Untuk	Kompromi
Agen tunggal	Satu agen mengambil keputusan secara terpusat dengan bantuan berbagai alat dan prompt sistem Satu agen sistem menangani seluruh tugas sendiri.	Tugas dengan definisi dengan jelas: mencari informasi pendukung, meringkas dokumen, meninjau kode	Mudah dibuat dan di-debug Kemampuannya terbatas pada kapasitas satu agen
Pipeline (Vertikal)	Satu agen pemimpin mengawasi subtugas dan mengarahkan beberapa agen khusus secara berurutan Agen AI dalam struktur hierarkis melaporkan hasilnya kembali ke tingkat yang lebih tinggi	Alur kerja berurutan: pembuatan konten, pemrosesan data, pembuatan laporan	Dapat diprediksi dan dapat diuji Tidak fleksibel jika persyaratan berubah di tengah pengerjaan tugas
Sesama (Horizontal)	Agen bekerja setara dalam sistem terdesentralisasi tanpa satu pemimpin Agen-agen tersebut beroperasi secara mandiri dan menegosiasikan hasilnya	Tugas-tugas kreatif: brainstorming, evaluasi tim merah/tim biru, analisis interdisipliner	Menghasilkan beragam sudut pandang Lebihsulit menyatukan hasilnya menjadi satu jawaban
Hybrid	Menggabungkan kepemimpinan terstruktur dengan fleksibilitas kolaboratif. Pembagian peran kepemimpinan disesuaikan dengan kebutuhan tugas yang terstruktur maupun kreatif Kepemimpinan dapat berganti sesuai tahapan tugas	Proyek-proyek kompleks yang memadukan pelaksanaan terstruktur dengan eksplorasi terbuka	Yang paling mumpuni Yang paling rumit untuk dikembangkan dan di-debug

Contoh "Susun Draf-Kritik-Revisi" dari Don merupakan alur kerja di mana prosesnya mengikuti urutan yang telah ditentukan sebelumnya. Contoh orkestrator yang ia berikan merupakan model hibrida, di mana sistem menyesuaikan alur kerjanya berdasarkan hasil dari setiap tahapan.

Arsitektur agen yang ideal bergantung pada kebutuhan aplikasi. Mulailah dengan arsitektur satu agen untuk tugas-tugas yang telah didefinisikan dengan jelas. Beralihlah ke arsitektur multi-agen hanya ketika kompleksitas tugas memang membutuhkannya, misalnya untuk memanfaatkan spesialisasi, menjalankan proses secara paralel, atau mengoordinasikan pekerjaan lintas bidang.

Dalam arsitektur multi-agen, tantangannya adalah membuat masing-masing agen dapat bekerja sama.

Kolaborasi multi-agen perlu mengatasi tiga tantangan: komunikasi, koordinasi, dan berbagi sumber daya.

Agen-agen berkomunikasi melalui pertukaran pesan terstruktur. Hasil kerja satu agen menjadi masukan bagi agen lainnya. Protokol komunikasi menentukan format, rute, dan prioritas pesan-pesan tersebut.

Dalam sistem vertikal, agen-agen yang berada di bawah kendali sebuah agen pemimpin mengikuti pola hub-and-spoke. Dalam sistem horizontal, agen-agen melakukan negosiasi satu sama lain.

Standar seperti Model Context Protocol (MCP) dikembangkan untuk menstandarkan cara agen terhubung ke alat dan sumber data, sehingga mengurangi beban integrasi bagi tim pengembang agen.

Salah satu keunggulan utama sistem multi-agen dibandingkan arsitektur agen tunggal adalah kemampuan memproses berbagai tugas secara paralel. Berbagai agen dapat menangani subtugas yang berbeda secara bersamaan (misalnya, satu agen melakukan penelitian, agen lain menyusun draf, sementara agen ketiga melakukan pencarian di database).

Hal ini memungkinkan agen AI untuk memecahkan masalah kompleks lebih cepat daripada satu model yang bekerja secara berurutan. Namun, eksekusi paralel menimbulkan tantangan sinkronisasi: para agen perlu menggabungkan hasil mereka secara koheren tanpa adanya kontradiksi atau duplikasi.

Tantangan utama dalam arsitektur multi-agen adalah koordinasi. Tanpa mekanisme sinkronisasi yang kokoh, agen-agen akan berbagi sumber daya secara tidak efisien, melakukan pekerjaan yang tumpang tindih, atau menghasilkan output yang saling bertentangan.

Hal ini terutama menjadi masalah serius dalam lingkungan dinamis di mana persyaratan tugas berubah di tengah alur kerja. Pemantauan kinerja di tingkat sistem (yaitu, melacak agen mana yang mengalami kemacetan, mana yang tidak aktif, dan di mana kesalahan menumpuk) sangat penting untuk menjaga performa AI seiring dengan perluasan skala sistem.

Sistem multi-agen sangat cocok untuk bidang-bidang yang memerlukan kolaborasi lintas keahlian yang beragam, seperti tinjauan kepatuhan, riset pasar, optimasi alur kerja, atau proyek lintas fungsi di mana keahlian analitis, kreatif, dan operasional perlu bersinergi untuk menghasilkan satu hasil akhir.

AI berbasis agen tidak selalu menjadi pilihan yang tepat. Merangkum dokumen, mengklasifikasikan tiket dukungan, atau menerjemahkan teks dapat dilakukan dengan lancar hanya dengan satu panggilan LLM. Menambahkan agen ke tugas-tugas tersebut justru menimbulkan beban tambahan tanpa memberikan peningkatan yang berarti.

Kompleksitas arsitektur berbasis agen sepadan dengan manfaatnya ketika:

• Tugas-tugas tersebut memerlukan beberapa langkah: penelitian, analisis, dan sintesis secara berurutan
• Data eksternal sangat diperlukan: sistem perlu mengambil data dari database, API, atau sumber informasi terkini di tengah alur kerja
• Koreksi mandiri meningkatkan hasil: siklus kritik terbukti meningkatkan kualitas output secara terukur
• Diperlukan koordinasi antar sistem: agen harus mengambil data dari dan mengirimkan data ke berbagai platform

Jika suatu tugas hanya melibatkan satu input, satu output, dan tidak memerlukan pengambilan keputusan di antara keduanya, prompt yang dirancang dengan baik akan memberikan hasil lebih baik dengan biaya dan waktu pemrosesan yang jauh lebih rendah dibandingkan sistem AI berbasis agen.

Sistem AI berbasis agen sangat unggul dalam memecahkan masalah terbuka yang memerlukan pengambilan keputusan secara otonom serta pengelolaan alur kerja kompleks yang terdiri atas beberapa tahapan. Dalam lingkungan perusahaan, kemampuan ini dapat memberikan dampak yang terukur.

Berbagai organisasi melaporkan percepatan proses bisnis sebesar 30% hingga 50% ketika sistem berbasis agen menangani otomatisasi tugas untuk alur kerja operasional seperti pemeriksaan kepatuhan, rekonsiliasi data, dan proses onboarding pelanggan.

Dalam praktiknya, hal ini berarti membangun agen yang dirancang khusus untuk fungsi bisnis tertentu. Seperti yang dijelaskan Don, Anda dapat membangun "model yang memeriksa kesesuaian dengan kebijakan organisasi atau brand Anda", sehingga mengubah proses peninjauan kepatuhan atau tata kelola brand dari hambatan yang dilakukan secara manual menjadi langkah otomatis dalam alur kerja yang digerakkan oleh agen.

AI berbasis agen dapat mengotomatisasi tugas-tugas yang membutuhkan pengetahuan mendalam yang tidak dapat ditangani oleh model AI tradisional, seperti menganalisis data tidak terstruktur dari berbagai sumber, membuat keputusan berdasarkan penilaian, dan menyesuaikan tindakan ketika menghadapi situasi di luar perkiraan.

Sistem-sistem ini beroperasi sepanjang waktu dan dapat diskalakan untuk menangani lonjakan mendadak dalam data atau permintaan tanpa perlu menambah jumlah karyawan. Dengan mengalihkan tugas-tugas kognitif yang berulang, karyawan menjadi lebih leluasa untuk fokus pada strategi bernilai tinggi dan inovasi kreatif.

Di bidang layanan kesehatan, AI berbasis agen meningkatkan efisiensi operasional sekaligus mendukung pengambilan keputusan klinis. Agen yang menganalisis citra medis, mencocokkan riwayat pasien, dan belajar dari kasus-kasus baru dapat meningkatkan akurasi diagnosis seiring berjalannya waktu.

Integrasi AI berbasis agen ke dalam sistem perusahaan yang sudah ada memperkuat keunggulan kompetitif di berbagai sektor.

Platform seperti InterSystems IRIS Data Platform menyediakan fondasi interoperabilitas yang dibutuhkan oleh agen-agen ini di bidang kesehatan dan sektor lainnya, dengan menghubungkan sistem melalui standar seperti FHIR dan HL7 tanpa memandang vendornya.

Operasi rantai pasok juga merasakan manfaat serupa. Agen yang mendeteksi perubahan permintaan dan menyesuaikan proses pemenuhan pesanan secara real-time perlu melakukan analisis terhadap data transaksi yang sedang berlangsung, bukan berdasarkan data yang diekstraksi dari gudang kemarin. InterSystems IRIS mendukung hal ini secara bawaan melalui pemrosesan translytical, yang menjalankan beban kerja transaksional dan analitis pada data yang sama tanpa penundaan akibat proses ETL.

Penerapan sistem AI berbasis agen memerlukan pemilihan yang cermat terhadap jenis agen, alat, dan kerangka kerja AI berbasis agen yang selaras dengan kemampuan AI tertentu serta tujuan bisnis. Ekosistem ini telah berkembang pesat.

Kerangka kerja agen menangani logika agen, koordinasi, dan penggunaan alat:

Kerangka Kerja	Dikelola oleh	Pendekatan
LangGraph	LangChain	Alur kerja berbasis graf. Agen sebagai node, transisi sebagai edge. Fleksibilitas maksimal, kurva pembelajaran yang lebih curam.
CrewAI	Sumber terbuka (AI Fund)	"Kru" berdasarkan peran. Setiap agen diberi peran, tujuan, dan latar belakang. Cara tercepat untuk membuat prototipe sistem multi-agen.
Microsoft Agent Framework	Microsoft	Kerangka kerja terpadu (menggabungkan AutoGen dan Semantic Kernel). Terintegrasi erat dengan Azure. Berfokus pada perusahaan.
Google ADK	Google	Perangkat pengembangan berbasis kode dengan alat bawaan, dukungan Model Context Protocol (MCP), dan antarmuka visual untuk men-debug alur kerja. Terintegrasi dengan Vertex AI.

Kerangka kerja ini menangani logika dan koordinasi agen. Namun, agen juga memerlukan akses ke data perusahaan yang tersebar di berbagai database, mesin interoperabilitas, dan sistem analitik real-time. Platform seperti InterSystems IRIS menyediakan lapisan infrastruktur data yang diakses dan dimanfaatkan oleh agen, sehingga memungkinkan pengembang untuk mengintegrasikan kemampuan AI berbasis agen ke dalam sistem perangkat lunak yang sudah ada.

Memilih kerangka kerja yang praktis sangat penting untuk membangun sistem yang mudah dipelihara dan dapat diskalakan. Pilihan yang tepat bergantung pada keahlian tim Anda, lingkungan cloud Anda, serta apakah Anda membutuhkan pola agen yang sudah jadi atau keleluasaan untuk melakukan kustomisasi secara maksimal.

Mulailah dari sini: Pilih satu kerangka kerja, lalu bangun pola “susun draf-kritik-revisi” dari Langkah 1. Gunakan satu LLM untuk ketiga agen tersebut. Pastikan sistemnya berfungsi dengan baik terlebih dahulu. Kemudian perluas.

Membangun sistem AI berbasis agen menghadirkan sejumlah kompromi yang tidak ditemui pada pendekatan yang hanya menggunakan satu model. Organisasi harus mengatasi kompleksitas teknis yang signifikan agar sistem dapat berjalan dengan baik.

• Latensi terakumulasi. Setiap agen menambah waktu yang dibutuhkan untuk mengirim permintaan dan menerima respons. Pipeline yang terdiri atas tiga agen membutuhkan waktu pemrosesan sekitar tiga kali lebih lama dibandingkan satu kali pemanggilan model. Rancang sistem agar waktu responsnya tetap dapat diterima sebelum menambah agen.
• Kesalahan dapat merambat kemana-mana. Output yang keliru dari Agen Penyusun Draf akan diteruskan ke Agen Pengkritik, yang belum tentu dapat mendeteksi kesalahan tersebut. Lakukan pemeriksaan validasi pada setiap tahap serah terima agar tidak hanya dilakukan di akhir saja.
• Biaya meningkat seiring bertambahnya agen. Semakin banyak agen berarti semakin banyak panggilan API, yang berarti biaya yang lebih tinggi. Ukur biaya per tugas dan bandingkan dengan peningkatan kualitas yang dihasilkan. Terkadang, satu prompt yang dirancang dengan baik justru lebih hemat dan sudah cukup memadai.
• Proses debugging lebih sulit. Ketika sistem yang terdiri dari lima agen menghasilkan output yang buruk, Anda perlu melacak agen mana yang mengalami masalah. Pencatatan terstruktur pada setiap batas agen sangatlah penting.
• Manfaat tambahan semakin cepat berkurang. Menambahkan agen keempat, kelima, atau keenam jarang memberikan manfaat sebesar yang diperoleh dari peningkatan pada tiga agen pertama.

Skalabilitas merupakan salah satu tantangan terbesar dalam arsitektur AI berbasis agen, terutama saat beralih dari sistem agen tunggal ke sistem multi-agen. Sistem AI berbasis agen memerlukan infrastruktur yang andal untuk menangani beban kerja yang lebih tinggi dan memastikan komunikasi yang lancar di antara para agen. Apa yang berfungsi dengan baik pada prototipe tiga agen bisa saja gagal ketika jumlahnya meningkat menjadi dua puluh agen. Antrian pesan meluap, jendela konteks penuh, dan beban koordinasi menjadi sumber kemacetan.

Pengujian AI berbasis agen memerlukan dataset sintetis dan data dari dunia nyata untuk memastikan ketangguhan dan keandalan sistem. Data sintetis memungkinkan Anda melakukan uji ketahanan terhadap kasus-kasus ekstrem dan mode kegagalan dalam kondisi yang terkendali. Data dunia nyata memperlihatkan masukan-masukan yang rumit dan tak terduga yang sebenarnya akan dihadapi oleh sistem. Uji setiap agen secara terpisah terlebih dahulu, kemudian uji sistem secara menyeluruh dari ujung ke ujung. Interaksi antaragen mengungkap masalah-masalah yang terlewatkan dalam pengujian tingkat unit.

Perancangan arsitektur AI berbasis agen merupakan proses iteratif. Arsitektur harus dievaluasi ulang secara berkala seiring dengan perubahan karakteristik beban kerja. Alur kerja yang awalnya sederhana dan berurutan mungkin perlu dikembangkan menjadi sistem dengan orkestrasi dinamis ketika kompleksitas tugas meningkat.

Seperti yang dijelaskan Don, tujuannya adalah "membangun alur kerja di mana satu atau beberapa agen dapat menentukan langkah selanjutnya, alih-alih Anda harus merencanakan seluruh alur tersebut terlebih dahulu dalam kode atau di dalam aplikasi Anda." Mulailah dengan arsitektur paling sederhana yang dapat berfungsi dengan baik. Biarkan pengalaman memandu Anda dalam mengembangkannya secara bertahap.

Arsitektur AI berbasis agen mengubah AI dari alat yang hanya merespons satu prompt menjadi tim terkoordinasi yang terdiri atas agen-agen dengan keahlian khusus.

Inti pemikirannya, sebagaimana dijelaskan Don, cukup sederhana: mulailah dengan memandang LLM sebagai agen, pahami bahwa tidak semua agen harus berupa LLM, dan biarkan sistem menentukan alur kerjanya sendiri alih-alih menetapkan setiap langkah secara hardcoded. Buatlah terlebih dahulu siklus “susun draf—kritik—revisi”. Tambahkan alat. Tambahkan orkestrasi. Biarkan kompleksitas sistem berkembang sejalan dengan kebutuhan Anda, bukan melampaui kebutuhannya.