Industri agen AI saat ini mengalami narasi yang familiar. Agen AI memanfaatkan kemampuan umum model besar untuk mengotomatiskan penyelesaian tugas pengguna yang kompleks menggunakan teknologi dan alat yang ada. Ini memposisikan mereka sebagai jalan paling menjanjikan untuk menerapkan teknologi model saat ini.
Selama beberapa bulan terakhir, ada ledakan produk agen AI. Penawaran terkenal seperti Manus telah menarik perhatian arus utama, dan model baru dari OpenAI dan Google semakin ‘di-agen-kan AI’. Yang terpenting, protokol standar dengan cepat mendapatkan daya tarik.
Anthropic merilis MCP (Model Communication Protocol) sebagai sumber terbuka pada akhir tahun lalu. MCP bertujuan untuk menetapkan spesifikasi terbuka dan terstandarisasi yang memungkinkan model bahasa besar berinteraksi dengan mulus dengan berbagai sumber data dan alat eksternal, seperti perangkat lunak bisnis, database, dan repositori kode. Dalam beberapa bulan setelah rilisnya, OpenAI, Google, Alibaba, dan Tencent semuanya telah menyatakan dukungan dan mengintegrasikannya. Setelah ini, Google meluncurkan A2A (Agent-to-Agent), dengan tujuan mengotomatiskan kolaborasi dan alur kerja antara agen AI. Ini semakin memicu lanskap agen AI yang berkembang pesat.
Intinya, protokol ini mengatasi dua tantangan utama: MCP memfasilitasi koneksi antara agen dan penyedia alat/layanan, sementara A2A memungkinkan koneksi kolaboratif antara agen untuk menyelesaikan tugas yang sangat kompleks.
Oleh karena itu, MCP dapat diibaratkan sebagai antarmuka terpadu awal, sementara A2A menyerupai protokol HTTP.
Namun, dalam sejarah internet, munculnya HTTP diikuti oleh elemen penting yang diperlukan untuk kemakmuran internet yang sesungguhnya: standar keamanan yang dilapisi di atas protokol.
Saat ini, MCP dan A2A menghadapi kesulitan yang serupa.
‘Ketika HTTP muncul, ia kemudian menghadapi tantangan keamanan yang signifikan. Internet mengalami evolusi ini,’ jelas Zixi, Ketua Teknis dari IIFAA (Internet Industry Financial Authentication Alliance) Trusted Authentication Alliance dan seorang ahli dalam keamanan agen AI.
Tantangan-tantangan ini dapat bermanifestasi dalam berbagai bentuk. Saat ini, pelaku jahat dapat membuat alat ‘pertanyaan cuaca’ palsu dan mendaftarkannya dengan server MCP, secara diam-diam mencuri informasi penerbangan pengguna di latar belakang. Ketika seorang pengguna membeli obat melalui agen, agen A mungkin bertanggung jawab untuk membeli cefpodoxime, sementara agen B membeli alkohol. Karena kurangnya kemampuan identifikasi risiko lintas platform, sistem tidak dapat memberikan peringatan ‘kombinasi berbahaya’, seperti yang dilakukan platform e-niaga yang ada. Lebih kritis lagi, otentikasi agen-ke-agen dan kepemilikan data tetap tidak jelas. Apakah pengguna mengotorisasi aplikasi lokal di perangkat mereka, atau apakah mereka menyinkronkan data pribadi ke cloud?
‘A2A, dalam dokumentasi resminya, menyatakan bahwa ia hanya menjamin keamanan transmisi tingkat atas. Ia menyerahkan tanggung jawab untuk memastikan asal identitas dan kredensial, privasi data, dan pengenalan niat kepada masing-masing perusahaan.’
Keberhasilan sejati agen cerdas mengharuskan masalah-masalah ini diatasi. IIFAA, tempat Zixi bekerja, adalah organisasi pertama yang mulai mengatasi masalah ini.
‘Dalam konteks ini, IIFAA didedikasikan untuk memecahkan serangkaian masalah yang akan dihadapi olehagen cerdas di masa depan,’ kata Zixi. ‘Di era A2A, kami juga telah mendefinisikan produk serupa yang disebut ASL (Agent Security Layer), yang dapat dibangun di atas protokol MCP untuk memastikan keamanan agen dalam hal izin, data, privasi, dan aspek lainnya. Produk middleware ini juga mengatasi tantangan transisi A2A ke standar keamanan masa depan.’
Grup Kerja Interkoneksi Tepercaya Agen Cerdas IIFAA adalah organisasi kolaborasi ekosistem keamanan agen AI domestik pertama. Ini diprakarsai bersama oleh Akademi Teknologi dan Komunikasi Informasi Tiongkok (CAICT), Ant Group, dan lebih dari dua puluh perusahaan dan lembaga teknologi lainnya.
Dari ASL ke Skalabilitas
‘Pengembangan Agen AI terjadi lebih cepat dari yang kami perkirakan, baik secara teknologi maupun dalam hal penerimaan standar oleh ekosistem,’ kata Zixi.
Konsep IIFAA tentang protokol keamanan untuk komunikasi agen-ke-agen muncul sejak November tahun lalu, mendahului rilis MCP. Grup Kerja Interkoneksi Tepercaya Agen Cerdas IIFAA secara resmi didirikan pada bulan Desember, bertepatan dengan rilis resmi MCP.
‘Pelaku jahat terkadang menguasai teknologi baru lebih cepat daripada pembela. Kita tidak bisa menunggu masalah muncul sebelum membahas ketertiban. Itulah perlunya keberadaan kelompok kerja ini,’ kata seorang anggota IIFAA dalam presentasi sebelumnya. Membangun norma industri untuk keamanan dan saling percaya bersama sangat penting untuk pengembangan kesehatan jangka panjang.
Menurut Zixi, fokus mereka saat ini adalah pada mengatasi masalah-masalah utama berikut pada fase pertama:
Identitas Tepercaya Agen: ‘Kami bertujuan untuk membangun sistem sertifikasi Agen berdasarkan lembaga otoritatif dan mekanisme pengakuan bersama. Sama seperti membutuhkan paspor dan visa untuk perjalanan internasional, ini akan memungkinkan Agen yang bersertifikat untuk dengan cepat bergabung dengan jaringan kolaborasi dan mencegah Agen yang tidak bersertifikat mengganggu tatanan kolaborasi.’
Berbagi Tepercaya Niat: ‘Kolaborasi antara agen cerdas bergantung pada keaslian dan keakuratan niat. Oleh karena itu, berbagi tepercaya niat sangat penting untuk memastikan kolaborasi multi-agen yang efisien dan andal.’
Mekanisme Perlindungan Konteks: ‘Ketika Agen AI terhubung ke beberapa server MCP (protokol multi-saluran), semua informasi deskripsi alat dimuat ke dalam konteks sesi yang sama. Server MCP yang jahat dapat memanfaatkan ini untuk menyuntikkan instruksi jahat. Perlindungan konteks dapat mencegah gangguan jahat, menjaga keamanan sistem, memastikan integritas niat pengguna, dan mencegah serangan peracunan.’
Perlindungan Privasi Data: ‘Dalam kolaborasi multi-agen, berbagi data dapat menyebabkan pelanggaran privasi. Perlindungan privasi sangat penting untuk mencegah penyalahgunaan informasi sensitif.’
Berbagi Tepercaya Memori Agen: ‘Berbagi memori meningkatkan efisiensi kolaborasi multi-agen. Berbagi tepercaya memori memastikan konsistensi, keaslian, dan keamanan data, mencegah gangguan dan kebocoran, meningkatkan efektivitas kolaborasi dan kepercayaan pengguna.’
Sirkulasi Tepercaya Identitas: ‘Pengguna mengharapkan pengalaman layanan yang mulus dan lancar dalam aplikasi asli AI. Oleh karena itu, mencapai pengenalan identitas lintas platform yang tidak mengganggu adalah kunci untuk meningkatkan pengalaman pengguna.’
‘Ini adalah tujuan jangka pendek kami. Selanjutnya, kami akan merilis ASL ke seluruh industri. Ini adalah implementasi perangkat lunak, bukan spesifikasi protokol. Ini dapat diterapkan ke MCP dan A2A untuk meningkatkan keamanan tingkat perusahaan dari kedua protokol ini. Ini adalah tujuan jangka pendek,’ jelas Zixi.
‘Sejak awal, kami tidak akan menentukan hal-hal di lapisan keamanan. Kami tidak akan menentukan A2AS. Sebaliknya, kami berharap bahwa jika seseorang menentukan A2AS di masa depan, ASL kami dapat menjadi komponen implementasi perangkat lunak, seperti SSL adalah komponen implementasi perangkat lunak dari HTTPS.’
Analogi HTTPS: Mengamankan Masa Depan Agen AI
Menarik kesejajaran dengan sejarah HTTPS, jaminan keamanan memungkinkan adopsi luas fungsionalitas seperti pembayaran, sehingga membuka jalan bagi peluang komersial yang lebih besar. Ritme yang serupa sedang dimainkan saat ini. Pada tanggal 15 April, Alipay berkolaborasi dengan komunitas ModelScope untuk meluncurkan layanan ‘Server MCP Pembayaran’. Ini memungkinkan pengembang AI untuk mengintegrasikan layanan pembayaran Alipay dengan mulus menggunakan bahasa alami, memfasilitasi penerapan cepat fungsionalitas pembayaran dalam agen AI.
Mengatasi tujuan jangka pendek ini satu per satu pada akhirnya akan menghasilkan pembentukan standar dan lingkungan kolaborasi Agen yang aman. Kunci dari proses ini adalah mencapai efek penskalaan. ‘Toko’ MCP domestik yang bergerak cepat telah mulai bertindak. ‘Zona MCP’ platform agen cerdas Baibaoxiang Ant Group akan mengintegrasikan solusi keamanan IIFAA. ‘Toko MCP’ ini saat ini mendukung penerapan dan pemanggilan berbagai layanan MCP, termasuk Alipay, Amap, dan Wuying, memungkinkan pembuatan tercepat agen cerdas yang terhubung ke layanan MCP hanya dalam 3 menit.
Zixi percaya bahwa kemampuan umum model besar memiliki potensi untuk benar-benar merevolusi pengalaman pengguna dan paradigma interaksi. Di masa depan, pendekatan saat ini untuk memanggil Aplikasi untuk menyelesaikan tugas dapat diganti dengan gerbang super yang bergantung pada kumpulan alat yang tersembunyi di balik layar, mirip dengan Toko MCP. Ini akan menjadi lebih sederhana dan lebih memahami kebutuhan pengguna. Komersialisasi menjadi mungkin.
‘Pengembangan AGI sekarang telah memasuki fase agen cerdas. Dibandingkan dengan robot obrolan dan AI dengan kemampuan penalaran terbatas, agen cerdas akhirnya telah membebaskan diri dari tahap tertutup titik-ke-titik, benar-benar membuka babak baru dalam aplikasi komersial.’
IIFAA baru-baru ini meluncurkan ASL dan mengumumkan rilis sumber terbukanya. Dengan secara terbuka berbagi kode, standar, dan pengalaman, ia bertujuan untuk mempercepat inovasi dan iterasi teknologi, mendesak perusahaan dan pengembang industri untuk berpartisipasi secara ekstensif, dan mempromosikan standardisasi teknologi di dalam industri. Rencana sumber terbuka akan mengadopsi lisensi Apache 2.0 yang paling permisif dan membuat praktik keamanan dokumen desain pustaka kode tersedia secara eksternal. Pengembang global dapat berpartisipasi dalam pembangunan bersama di dalam komunitas Github.
Imperatif Keamanan dalam Pengembangan Agen AI
Munculnya agen AI mewakili perubahan paradigma dalam cara kita berinteraksi dengan teknologi. Kita tidak lagi terbatas pada aplikasi diskrit, tetapi lebih bergerak menuju dunia di mana agen cerdas dapat mengatur banyak alat dan layanan secara mulus untuk mencapai tujuan kita. Visi ini, bagaimanapun, bergantung pada mengatasi risiko keamanan inheren yang menyertai teknologi yang begitu kuat. Sama seperti internet yang membutuhkan HTTPS untuk memfasilitasi e-niaga yang aman dan transaksi sensitif lainnya, agen AI membutuhkan standar keamanan yang kuat untuk menumbuhkan kepercayaan dan memungkinkan adopsi luas.
Lanskap pengembangan agen AI saat ini ditandai dengan inovasi dan eksperimen yang cepat. Model, protokol, dan aplikasi baru muncul dengan kecepatan yang belum pernah terjadi sebelumnya. Sementara dinamisme ini tidak diragukan lagi menarik, itu juga menimbulkan tantangan: masalah keamanan sering kali menjadi yang utama di bawah kecepatan dan fungsionalitas. Ini dapat menyebabkan kerentanan yang dapat dieksploitasi oleh pelaku jahat, yang berpotensi membahayakan data pengguna, mengganggu layanan, dan merusak kepercayaan pada seluruh ekosistem.
Analogi dengan hari-hari awal internet sangat tepat. Dengan tidak adanya tindakan keamanan yang meluas, internet dilanda penipuan, penipuan, dan aktivitas jahat lainnya. Ini menghambat pertumbuhannya dan mencegahnya mencapai potensi penuhnya. Hanya dengan munculnya HTTPS dan protokol keamanan lainnya, internet menjadi platform yang aman dan andal untuk e-niaga, perbankan online, dan transaksi sensitif lainnya.
Demikian pula, agen AI membutuhkan fondasi keamanan yang kuat untuk mewujudkan potensi transformatif mereka. Tanpa fondasi seperti itu, mereka berisiko menjadi tempat berkembang biaknya bentuk-bentuk baru kejahatan dunia maya dan eksploitasi online. Ini dapat menghambat inovasi, mengikis kepercayaan pengguna, dan pada akhirnya mencegah agen AI menjadi teknologi yang ada di mana-mana dan bermanfaat yang dibayangkan banyak orang.
Mengatasi Tantangan Keamanan
Tantangan keamanan yang dihadapi agen AI bersifat multifaset dan membutuhkan pendekatan yang komprehensif. Beberapa tantangan utama meliputi:
- Otentikasi dan Otorisasi: Memastikan bahwa hanya agen yang berwenang yang dapat mengakses data dan sumber daya sensitif. Ini membutuhkan mekanisme otentikasi yang kuat dan kontrol akses granular.
- Privasi Data: Melindungi data pengguna dari akses, penggunaan, atau pengungkapan yang tidak sah. Ini membutuhkan penerapan teknik pelestarian privasi seperti anonimisasi, enkripsi, dan privasi diferensial.
- Verifikasi Niat: Memverifikasi bahwa niat agen selaras dengan tujuan pengguna dan bahwa itu tidak dimanipulasi oleh pelaku jahat. Ini membutuhkan pengembangan algoritma pengenalan dan verifikasi niat yang canggih.
- Keamanan Kontekstual: Melindungi agen dari serangan jahat yang mengeksploitasi kerentanan di lingkungan sekitarnya. Ini membutuhkan penerapan tindakan keamanan yang kuat di semua lapisan sistem, dari perangkat keras hingga perangkat lunak.
- Keamanan Agen-ke-Agen: Memastikan bahwa agen dapat berkomunikasi dan berkolaborasi secara aman satu sama lain. Ini membutuhkan pengembangan protokol komunikasi yang aman dan mekanisme kepercayaan.
ASL IIFAA adalah langkah menjanjikan ke arah yang benar. Dengan menyediakan implementasi perangkat lunak yang meningkatkan keamanan MCP dan A2A, ASL dapat membantu mengatasi beberapa tantangan ini. Namun, lebih banyak yang perlu dilakukan untuk menciptakan kerangka keamanan yang komprehensif untuk agen AI.
Jalan ke Depan: Kolaborasi dan Standardisasi
Pengembangan agen AI yang aman membutuhkan upaya kolaboratif yang melibatkan peneliti, pengembang, pemangku kepentingan industri, dan pembuat kebijakan. Beberapa langkah kunci yang perlu diambil meliputi:
- Mengembangkan standar terbuka: Menetapkan standar terbuka untuk keamanan agen AI sangat penting untuk memastikan interoperabilitas dan mempromosikan inovasi.
- Berbagi praktik terbaik: Berbagi praktik terbaik untuk pengembangan agen AI yang aman dapat membantu mencegah kerentanan umum dan mempromosikan budaya keamanan.
- Berinvestasi dalam penelitian: Berinvestasi dalam penelitian tentang keamanan agen AI sangat penting untuk mengembangkan teknik dan teknologi baru untuk mengatasi ancaman yang muncul.
- Mempromosikan pendidikan dan kesadaran: Mempromosikan pendidikan dan kesadaran tentang keamanan agen AI dapat membantu meningkatkan standar keamanan dan mendorong pengembangan yang bertanggung jawab.
- Menetapkan kerangka kerja peraturan: Menetapkan kerangka kerja peraturan untuk keamanan agen AI dapat membantu memastikan bahwa keamanan diprioritaskan dan bahwa pengguna dilindungi.
Dengan bekerja bersama, kita dapat menciptakan masa depan di mana agen AI tidak hanya kuat dan bermanfaat tetapi juga aman dan dapat dipercaya. Ini akan membutuhkan upaya bersama untuk mengatasi tantangan keamanan yang ada di depan dan untuk membangun fondasi keamanan yang kuat untuk ekosistem agen AI. Hanya dengan begitu kita dapat membuka potensi penuh agen AI dan menciptakan teknologi yang benar-benar transformatif. Upaya organisasi seperti IIFAA terpuji dalam mempelopori inisiatif ini, tetapi adopsi luas dan kepatuhan terhadap standar keamanan sangat penting untuk pengembangan agen AI yang aman dan makmur.