Industri ejen AI sedang mengalami naratif yang biasa. Ejen AI memanfaatkan keupayaan umum model besar untuk mengautomasikan penyelesaian tugas pengguna yang kompleks menggunakan teknologi dan alat yang ada. Ini meletakkan mereka sebagai jalan yang paling menjanjikan untuk menggunakan teknologi model hari ini.
Beberapa bulan kebelakangan ini, terdapat ledakan produk ejen AI. Tawaran berprofil tinggi seperti Manus telah mendapat perhatian umum, dan model baharu daripada OpenAI dan Google semakin ‘diejenkan AI’. Yang penting, protokol standard semakin mendapat perhatian.
Anthropic mengeluarkan MCP (Protokol Komunikasi Model) sebagai sumber terbuka pada akhir tahun lepas. MCP bertujuan untuk mewujudkan spesifikasi terbuka dan standard yang membolehkan model bahasa yang besar berinteraksi dengan lancar dengan pelbagai sumber data dan alat luaran, seperti perisian perniagaan, pangkalan data dan repositori kod. Dalam masa beberapa bulan selepas keluarannya, OpenAI, Google, Alibaba dan Tencent semuanya telah menyatakan sokongan dan menyepadukannya. Berikutan itu, Google melancarkan A2A (Ejen-ke-Ejen), dengan matlamat untuk mengautomasikan kerjasama dan aliran kerja antara ejen AI. Ini telah memacu lagi landskap ejen AI yang berkembang pesat.
Pada dasarnya, protokol ini menangani dua cabaran utama: MCP memudahkan sambungan antara ejen dan pembekal alat/perkhidmatan, manakala A2A membolehkan sambungan kerjasama antara ejen untuk mencapai tugas yang sangat kompleks.
Oleh itu, MCP boleh diibaratkan sebagai antara muka bersatu awal, manakala A2A menyerupai protokol HTTP.
Walau bagaimanapun, dalam sejarah internet, kemunculan HTTP diikuti oleh elemen kritikal yang diperlukan untuk kemakmuran internet yang sebenar: piawaian keselamatan berlapis di atas protokol.
Hari ini, MCP dan A2A menghadapi masalah yang sama.
‘Apabila HTTP muncul, ia kemudiannya menghadapi cabaran keselamatan yang ketara. Internet mengalami evolusi ini,’ jelas Zixi, Ketua Teknikal IIFAA (Perikatan Pengesahan Kewangan Industri Internet) Perikatan Pengesahan Dipercayai dan pakar dalam keselamatan ejen AI.
Cabaran ini boleh menjelma dalam pelbagai bentuk. Pada masa ini, pelaku jahat boleh mencipta alat ‘pertanyaan cuaca’ palsu dan mendaftarkannya dengan pelayan MCP, secara diam-diam mencuri maklumat penerbangan pengguna di latar belakang. Apabila pengguna membeli ubat melalui ejen, ejen A mungkin bertanggungjawab untuk membeli cefpodoxime, manakala ejen B membeli alkohol. Disebabkan kekurangan keupayaan pengenalan risiko merentas platform, sistem tidak boleh memberikan amaran ‘kombinasi berbahaya’, seperti platform e-dagang sedia ada. Lebih kritikal lagi, pengesahan ejen-ke-ejen dan pemilikan data kekal tidak jelas. Adakah pengguna membenarkan aplikasi tempatan pada peranti mereka, atau adakah mereka menyegerakkan data peribadi ke awan?
‘A2A, dalam dokumentasi rasminya, menyatakan bahawa ia hanya menjamin keselamatan penghantaran peringkat atasan. Ia menyerahkan tanggungjawab untuk memastikan asal usul identiti dan kelayakan, privasi data, dan pengiktirafan niat kepada syarikat individu.’
Perkembangan sebenar ejen pintar memerlukan isu-isu ini ditangani. IIFAA, tempat Zixi bekerja, ialah organisasi pertama yang mula menangani masalah ini.
‘Dalam konteks ini, IIFAA didedikasikan untuk menyelesaikan satu siri masalah yang akan dihadapi oleh ejen pintar pada masa hadapan,’ kata Zixi. ‘Dalam era A2A, kami juga telah mentakrifkan produk yang serupa yang dipanggil ASL (Lapisan Keselamatan Ejen), yang boleh dibina di atas protokol MCP untuk memastikan keselamatan ejen dari segi kebenaran, data, privasi dan aspek lain. Produk perisian tengah ini juga menangani cabaran peralihan A2A kepada piawaian keselamatan masa hadapan.’
Kumpulan Kerja Saling Sambungan Dipercayai Ejen Pintar IIFAA ialah organisasi kerjasama ekosistem keselamatan ejen AI domestik yang pertama. Ia dimulakan bersama oleh Akademi Teknologi dan Komunikasi Maklumat China (CAICT), Ant Group, dan lebih daripada dua puluh syarikat teknologi dan institusi lain.
Daripada ASL kepada Kebolehskalaan
‘Pembangunan Ejen AI berlaku lebih cepat daripada yang kami jangkakan, baik dari segi teknologi mahupun dari segi penerimaan piawaian oleh ekosistem,’ kata Zixi.
Konsep IIFAA tentang protokol keselamatan untuk komunikasi ejen-ke-ejen muncul seawal November tahun lepas, mendahului keluaran MCP. Kumpulan Kerja Saling Sambungan Dipercayai Ejen Pintar IIFAA telah ditubuhkan secara rasmi pada bulan Disember, bertepatan dengan keluaran rasmi MCP.
‘Pelaku jahat kadangkala menguasai teknologi baharu lebih cepat daripada pembela. Kita tidak boleh menunggu masalah timbul sebelum membincangkan perintah. Itulah keperluan kewujudan kumpulan kerja ini,’ kata seorang ahli IIFAA dalam pembentangan sebelumnya. Membina norma industri untuk keselamatan dan saling mempercayai bersama adalah kritikal untuk pembangunan sihat jangka panjang.
Menurut Zixi, tumpuan semasa mereka adalah untuk menangani isu-isu utama berikut dalam fasa pertama:
Identiti Dipercayai Ejen: ‘Kami berhasrat untuk membina sistem pensijilan Ejen berdasarkan institusi berwibawa dan mekanisme pengiktirafan bersama. Sama seperti memerlukan pasport dan visa untuk perjalanan antarabangsa, ini akan membolehkan Ejen yang diperakui untuk menyertai rangkaian kerjasama dengan cepat dan menghalang Ejen yang tidak diperakui daripada mengganggu perintah kerjasama.’
Perkongsian Dipercayai Niat: ‘Kerjasama antara ejen pintar bergantung pada kesahihan dan ketepatan niat. Oleh itu, perkongsian dipercayai niat adalah penting untuk memastikan kerjasama berbilang ejen yang cekap dan boleh dipercayai.’
Mekanisme Perlindungan Konteks: ‘Apabila Ejen AI menyambung ke berbilang pelayan MCP (protokol berbilang saluran), semua maklumat perihalan alat dimuatkan ke dalam konteks sesi yang sama. Pelayan MCP yang berniat jahat boleh mengeksploitasi ini untuk menyuntik arahan berniat jahat. Perlindungan konteks boleh menghalang gangguan berniat jahat, mengekalkan keselamatan sistem, memastikan integriti niat pengguna, dan mencegah serangan keracunan.’
Perlindungan Privasi Data: ‘Dalam kerjasama berbilang ejen, perkongsian data boleh menyebabkan pelanggaran privasi. Perlindungan privasi adalah penting untuk mencegah penyalahgunaan maklumat sensitif.’
Perkongsian Dipercayai Memori Ejen: ‘Perkongsian memori meningkatkan kecekapan kerjasama berbilang ejen. Perkongsian dipercayai memori memastikan ketekalan, kesahihan dan keselamatan data, mencegah pengubahan dan kebocoran, meningkatkan keberkesanan kerjasama dan kepercayaan pengguna.’
Peredaran Dipercayai Identiti: ‘Pengguna mengharapkan pengalaman perkhidmatan yang lancar dalam aplikasi asli AI. Oleh itu, mencapai pengiktirafan identiti merentas platform dan tidak mengganggu adalah kunci untuk meningkatkan pengalaman pengguna.’
‘Ini adalah matlamat jangka pendek kami. Seterusnya, kami akan mengeluarkan ASL kepada seluruh industri. Ini ialah pelaksanaan perisian, bukan spesifikasi protokol. Ia boleh digunakan pada MCP dan A2A untuk meningkatkan keselamatan peringkat perusahaan bagi kedua-dua protokol ini. Ini adalah objektif jangka pendek,’ jelas Zixi.
‘Pada peringkat awal, kami tidak akan menyatakan perkara pada lapisan keselamatan. Kami tidak akan menyatakan A2AS. Sebaliknya, kami berharap jika seseorang menyatakan A2AS pada masa hadapan, ASL kami boleh menjadi komponen pelaksanaan perisian, sama seperti SSL ialah komponen pelaksanaan perisian HTTPS.’
Analogi HTTPS: Menjamin Masa Depan Ejen AI
Dengan membuat persamaan dengan sejarah HTTPS, jaminan keselamatan membolehkan penggunaan meluas fungsi seperti pembayaran, dengan itu membuka jalan kepada peluang komersial yang lebih besar. Irama yang serupa sedang dimainkan pada masa ini. Pada 15 April, Alipay bekerjasama dengan komuniti ModelScope untuk melancarkan perkhidmatan ‘Pelayan MCP Pembayaran’. Ini membolehkan pembangun AI menyepadukan perkhidmatan pembayaran Alipay dengan lancar menggunakan bahasa semula jadi, memudahkan penggunaan pantas fungsi pembayaran dalam ejen AI.
Menangani objektif jangka pendek ini satu demi satu akhirnya akan menghasilkan standard dan persekitaran kerjasama Ejen yang selamat. Kunci kepada proses ini ialah mencapai kesan penskalaan. ‘Kedai’ MCP domestik yang bergerak pantas telah pun mula bertindak. ‘Zon MCP’ platform ejen pintar Ant Group Baibaoxiang akan menyepadukan penyelesaian keselamatan IIFAA. ‘Kedai MCP’ ini pada masa ini menyokong penggunaan dan invokasi pelbagai perkhidmatan MCP, termasuk Alipay, Amap dan Wuying, membolehkan penciptaan terpantas ejen pintar yang disambungkan ke perkhidmatan MCP dalam masa hanya 3 minit.
Zixi percaya bahawa keupayaan umum model besar berpotensi untuk benar-benar merevolusikan pengalaman pengguna dan paradigma interaksi. Pada masa hadapan, pendekatan semasa memanggil Apl untuk menyelesaikan tugas mungkin digantikan dengan gerbang super yang bergantung pada kumpulan alat yang tersembunyi di sebalik tabir, serupa dengan Kedai MCP. Ini akan menjadi lebih mudah dan lebih memahami keperluan pengguna. Pengkomersialan menjadi mungkin.
‘Pembangunan AGI kini telah memasuki fasa ejen pintar. Berbanding dengan robot sembang dan AI dengan keupayaan penaakulan terhad, ejen pintar akhirnya telah membebaskan diri daripada peringkat tertutup titik ke titik, benar-benar membuka lembaran baharu dalam aplikasi komersial.’
IIFAA baru-baru ini melancarkan ASL dan mengumumkan keluaran sumber terbukanya. Dengan berkongsi kod, piawaian dan pengalaman secara terbuka, ia bertujuan untuk mempercepatkan inovasi dan lelaran teknologi, menggesa perusahaan dan pembangun industri untuk mengambil bahagian secara meluas, dan mempromosikan penyeragaman teknologi dalam industri. Pelan sumber terbuka akan menerima pakai lesen Apache 2.0 yang paling permisif dan menyediakan amalan keselamatan dokumen reka bentuk perpustakaan kod secara luaran. Pembangun global boleh mengambil bahagian dalam pembinaan bersama dalam komuniti Github.
Keperluan Keselamatan dalam Pembangunan Ejen AI
Kebangkitan ejen AI mewakili anjakan paradigma dalam cara kita berinteraksi dengan teknologi. Kita tidak lagi terhad kepada aplikasi diskret, tetapi sebaliknya, kita bergerak ke arah dunia di mana ejen pintar boleh mengatur dengan lancar pelbagai alat dan perkhidmatan untuk mencapai matlamat kita. Walau bagaimanapun, visi ini bergantung kepada menangani risiko keselamatan yang wujud yang mengiringi teknologi yang begitu berkuasa. Sama seperti internet memerlukan HTTPS untuk memudahkan e-dagang yang selamat dan transaksi sensitif lain, ejen AI memerlukan piawaian keselamatan yang teguh untuk memupuk kepercayaan dan membolehkan penggunaan meluas.
Landskap semasa pembangunan ejen AI dicirikan oleh inovasi dan percubaan pesat. Model, protokol dan aplikasi baharu muncul pada kadar yang tidak pernah berlaku sebelum ini. Walaupun dinamisme ini sememangnya menarik, ia juga menimbulkan cabaran: kebimbangan keselamatan sering mengambil tempat duduk belakang kepada kelajuan dan fungsi. Ini boleh membawa kepada kelemahan yang boleh dieksploitasi oleh pelaku jahat, yang berpotensi menjejaskan data pengguna, mengganggu perkhidmatan dan menjejaskan kepercayaan dalam keseluruhan ekosistem.
Analogi dengan zaman awal internet sangat sesuai. Tanpa langkah keselamatan yang meluas, internet dibelenggu oleh penipuan, penipuan dan aktiviti jahat yang lain. Ini menghalang pertumbuhannya dan menghalangnya daripada mencapai potensi penuhnya. Hanya dengan kemunculan HTTPS dan protokol keselamatan lain barulah internet menjadi platform yang selamat dan boleh dipercayai untuk e-dagang, perbankan dalam talian dan transaksi sensitif lain.
Begitu juga, ejen AI memerlukan asas keselamatan yang kukuh untuk merealisasikan potensi transformatif mereka. Tanpa asas sedemikian, mereka berisiko menjadi tempat pembiakan bentuk baru jenayah siber dan eksploitasi dalam talian. Ini boleh menjejaskan inovasi, menghakis kepercayaan pengguna, dan akhirnya menghalang ejen AI daripada menjadi teknologi yang ada di mana-mana dan bermanfaat yang dibayangkan oleh ramai.
Menangani Cabaran Keselamatan
Cabaran keselamatan yang dihadapi oleh ejen AI adalah pelbagai rupa dan memerlukan pendekatan yang komprehensif. Beberapa cabaran utama termasuk:
- Pengesahan dan Kebenaran: Memastikan hanya ejen yang dibenarkan boleh mengakses data dan sumber yang sensitif. Ini memerlukan mekanisme pengesahan yang teguh dan kawalan akses terperinci.
- Privasi Data: Melindungi data pengguna daripada akses, penggunaan atau pendedahan yang tidak dibenarkan. Ini memerlukan pelaksanaan teknik pemeliharaan privasi seperti penamaan tanpa nama, penyulitan dan privasi pembezaan.
- Pengesahan Niat: Mengesahkan bahawa niat ejen selaras dengan matlamat pengguna dan ia tidak dimanipulasi oleh pelaku jahat. Ini memerlukan pembangunan algoritma pengecaman dan pengesahan niat yang canggih.
- Keselamatan Kontekstual: Melindungi ejen daripada serangan berniat jahat yang mengeksploitasi kelemahan dalam persekitaran sekeliling. Ini memerlukan pelaksanaan langkah keselamatan yang teguh di semua lapisan sistem, daripada perkakasan kepada perisian.
- Keselamatan Ejen-ke-Ejen: Memastikan ejen boleh berkomunikasi dan bekerjasama dengan selamat antara satu sama lain. Ini memerlukan pembangunan protokol komunikasi yang selamat dan mekanisme kepercayaan.
ASL IIFAA ialah langkah yang menjanjikan ke arah yang betul. Dengan menyediakan pelaksanaan perisian yang meningkatkan keselamatan MCP dan A2A, ASL boleh membantu menangani beberapa cabaran ini. Walau bagaimanapun, lebih banyak perlu dilakukan untuk mewujudkan rangka kerja keselamatan yang komprehensif untuk ejen AI.
Laluan ke Hadapan: Kerjasama dan Penyeragaman
Pembangunan ejen AI yang selamat memerlukan usaha sama yang melibatkan penyelidik, pembangun, pihak berkepentingan industri dan penggubal dasar. Beberapa langkah utama yang perlu diambil termasuk:
- Membangunkan piawaian terbuka: Mewujudkan piawaian terbuka untuk keselamatan ejen AI adalah penting untuk memastikan interoperabiliti dan mempromosikan inovasi.
- Berkongsi amalan terbaik: Berkongsi amalan terbaik untuk pembangunan ejen AI yang selamat boleh membantu mencegah kelemahan biasa dan mempromosikan budaya keselamatan.
- Melabur dalam penyelidikan: Melabur dalam penyelidikan tentang keselamatan ejen AI adalah penting untuk membangunkan teknik dan teknologi baharu untuk menangani ancaman yang muncul.
- Mempromosikan pendidikan dan kesedaran: Mempromosikan pendidikan dan kesedaran tentang keselamatan ejen AI boleh membantu meningkatkan piawaian untuk keselamatan dan menggalakkan pembangunan yang bertanggungjawab.
- Mewujudkan rangka kerja kawal selia: Mewujudkan rangka kerja kawal selia untuk keselamatan ejen AI boleh membantu memastikan keselamatan diutamakan dan pengguna dilindungi.
Dengan bekerjasama, kita boleh mewujudkan masa depan di mana ejen AI bukan sahaja berkuasa dan bermanfaat tetapi juga selamat dan boleh dipercayai. Ini memerlukan usaha bersepadu untuk menangani cabaran keselamatan yang ada di hadapan dan membina asas keselamatan yang kukuh untuk ekosistem ejen AI. Hanya dengan itu kita boleh membuka potensi penuh ejen AI dan mencipta teknologi yang benar-benar transformatif. Usaha organisasi seperti IIFAA wajar dipuji dalam menerajui inisiatif ini, tetapi penggunaan dan pematuhan piawaian keselamatan yang meluas adalah penting untuk pembangunan ejen AI yang selamat dan makmur.