Sebagai permintaan untuk agen cerdas yang beragam di seluruh kelompok pengguna, tata kelola harus mengatasi berbagai prioritas. Protokol Konteks Model (MCP), yang didukung oleh kolaborasi sumber terbuka dan pengawasan manusia, memberikan fondasi untuk ekosistem agen yang aman dan andal.
Agen cerdas (AI Agents) adalah sistem yang didukung oleh model bahasa besar, yang mampu berinteraksi dengan dunia eksternal melalui alat dan bertindak atas nama pengguna. Kemunculan Manus baru-baru ini menyoroti antisipasi pasar untuk aplikasi agen praktis.
Diumumkan pada November 2024, Protokol Konteks Model (MCP) sumber terbuka Anthropic menawarkan solusi teknis untuk meningkatkan efisiensi dan keamanan agen tujuan umum. MCP menyederhanakan integrasi melalui antarmuka standar, meningkatkan efisiensi data dan akses alat. MCP juga memperkuat keamanan dengan mengisolasi model dari sumber data tertentu dan meningkatkan transparansi kontrol perintah. Pendekatan yang seimbang ini memprioritaskan pengalaman pengguna sambil memastikan otorisasi yang terkontrol.
Sementara MCP membangun fondasi untuk tata kelola agen, MCP tidak menyelesaikan setiap tantangan. Misalnya, MCP tidak memvalidasi alasan di balik pemilihan alat atau keakuratan hasil eksekusi, juga tidak secara efektif mengatasi persaingan dan kolaborasi dalam ekosistem aplikasi agen.
Tantangan yang Dihadapi oleh Agen Tujuan Umum dalam Aplikasi
Agen adalah sistem yang dilengkapi dengan memori, perencanaan, persepsi, invokasi alat, dan kemampuan aksi, diberdayakan oleh model bahasa yang ekstensif, yang berinteraksi dengan lingkungan eksternal melalui alat, bertindak atas nama pengguna. Agen perlu memahami maksud pengguna, memperoleh dan menyimpan informasi melalui modul memori, merumuskan dan mengoptimalkan strategi dengan memanfaatkan modul perencanaan, memanggil modul alat untuk mengeksekusi tugas-tugas tertentu, dan menerapkan rencana melalui modul aksi, sehingga mencapai tujuan menyelesaikan tugas secara mandiri.
Manus lebih merupakan Agen tujuan umum, tidak seperti produk Agen yang berorientasi alur kerja.
Ekspektasi industri untuk Agen, terutama Agen tujuan umum, berasal dari kebutuhan kolektif yang mereka atasi. Di pasar modal, Agen mewakili jalur loop tertutup yang diantisipasi industri untuk nilai komersial model, mengalihkan harga AI dari komputasi berbasis token ke harga berbasis efek untuk layanan yang disesuaikan, sehingga menghasilkan profitabilitas yang lebih besar. Di sisi pengguna, bisnis mengharapkan Agen untuk mengeksekusi proses yang berulang, standar, dan didefinisikan dengan jelas dengan otomatisasi yang presisi, sementara publik mengantisipasi Agen untuk membawa ‘manfaat teknologi’, menjadi ‘pelayan digital’ yang dipersonalisasi dan ambang rendah untuk semua orang.
Namun, Agen tujuan umum menghadapi tantangan kompatibilitas, keamanan, dan persaingan dalam aplikasi. Dalam hal kompatibilitas, model perlu berkolaborasi secara efisien dengan alat dan sumber data yang berbeda dalam panggilan. Dalam hal keamanan, Agen perlu mengeksekusi tugas dengan jelas dan transparan sesuai dengan instruksi pengguna dan secara wajar mengalokasikan tanggung jawab keamanan di bawah konvergensi data banyak pihak. Dalam hal persaingan, Agen perlu menyelesaikan hubungan kompetitif dan kooperatif dalam ekosistem bisnis baru.
Oleh karena itu, protokol MCP, yang memungkinkan model untuk berkolaborasi secara efisien dengan alat dan sumber data yang berbeda dan secara wajar mengalokasikan tanggung jawab keamanan di bawah konvergensi data banyak pihak, patut dipelajari secara mendalam dibandingkan dengan produk Manus itu sendiri.
Kekhawatiran Kompatibilitas
Dunia AI berkembang pesat, dengan model dan alat baru yang terus bermunculan. Agar agen tujuan umum benar-benar berguna, agen tersebut perlu dapat berintegrasi secara mulus dengan berbagai sumber daya. Ini menghadirkan tantangan yang signifikan, karena setiap alat atau sumber data mungkin memiliki antarmuka dan format datanya sendiri yang unik. Tanpa pendekatan standar, pengembang perlu menulis kode khusus untuk setiap integrasi, yang memakan waktu dan tidak efisien. Kurangnya kompatibilitas ini dapat menghambat adopsi agen AI secara luas, karena pengguna mungkin enggan berinvestasi dalam teknologi yang tidak mudah bekerja dengan sistem mereka yang ada.
Risiko Keamanan
Agen AI dirancang untuk bertindak atas nama pengguna, yang berarti agen tersebut sering memiliki akses ke data dan sistem sensitif. Ini menimbulkan kekhawatiran keamanan yang signifikan, karena agen yang disusupi dapat digunakan untuk mencuri data, mengganggu operasi, atau bahkan menyebabkan bahaya fisik. Sangat penting untuk memastikan bahwa agen dirancang dengan mempertimbangkan keamanan, dan bahwa agen tersebut tunduk pada pengujian dan pemantauan yang ketat untuk mencegah kerentanan. Selain itu, penting untuk menetapkan garis tanggung jawab yang jelas untuk keamanan, terutama ketika banyak pihak terlibat dalam pengembangan dan penyebaran agen.
Lanskap Kompetitif
Ketika agen AI menjadi lebih lazim, agen tersebut cenderung mengganggu model bisnis yang ada dan menciptakan bentuk persaingan baru. Misalnya, agen yang dapat secara otomatis menegosiasikan harga dengan pemasok dapat memberi perusahaan keunggulan kompetitif yang signifikan. Namun, ini juga dapat menyebabkan perlombaan ke bawah, karena perusahaan bersaing untuk menawarkan harga terendah. Penting untuk mempertimbangkan potensi dampak agen AI pada lanskap kompetitif, dan untuk mengembangkan strategi untuk menavigasi lingkungan baru ini. Ini termasuk mengatasi masalah seperti kepemilikan data, kekayaan intelektual, dan potensi perilaku anti-persaingan.
MCP: Solusi Teknis untuk Kompatibilitas dan Keamanan dalam Aplikasi Agen
Pada November 2024, Anthropic membuka sumber protokol terbuka MCP (Model Context Protocol), yang memungkinkan sistem untuk memberikan konteks ke model AI dan dapat diuniversalisasi dalam skenario integrasi yang berbeda. MCP menggunakan arsitektur berlapis untuk menyelesaikan masalah standarisasi dan keamanan dalam aplikasi Agen. Aplikasi host (seperti Manus) terhubung ke beberapa program layanan (MCP Server) melalui klien MCP pada saat yang sama, dan setiap Server melakukan tugasnya sendiri, menyediakan akses standar ke sumber data atau aplikasi.
Pertama, MCP memecahkan masalah kompatibilitas dalam panggilan data/alat Agen melalui konsensus standar. MCP menggantikan integrasi yang terfragmentasi dengan antarmuka terpadu, dan AI hanya perlu memahami dan mematuhi perjanjian untuk berinteraksi dengan semua alat yang memenuhi spesifikasi, yang secara signifikan mengurangi duplikasi integrasi. Kedua, MCP memiliki tiga pertimbangan dalam hal keamanan. Pertama, model dan sumber data tertentu diisolasi pada tautan data, dan keduanya berinteraksi melalui protokol MCP Server. Model tidak secara langsung bergantung pada detail internal sumber data, mengklarifikasi sumber pencampuran data multi-pihak. Yang kedua adalah meningkatkan transparansi dan auditabilitas tautan perintah dan kontrol melalui protokol komunikasi, dan menyelesaikan asimetri informasi dan tantangan kotak hitam interaksi data model-pengguna. Yang ketiga adalah memastikan pengendalian tautan otorisasi dengan menanggapi sesuai dengan izin, dan memastikan kendali pengguna atas Agen dalam penggunaan alat/data.
MCP membangun antarmuka standar dan mekanisme perlindungan keamanan melalui arsitektur berlapis, mencapai keseimbangan antara interoperabilitas dan keamanan dalam panggilan data dan alat. Pada tingkat nilai pengguna, MCP menghadirkan kolaborasi dan interaksi yang lebih kuat antara badan-badan cerdas dan lebih banyak alat, dan bahkan lebih banyak badan cerdas. Pada tahap selanjutnya, MCP akan fokus pada pengembangan dukungan untuk koneksi jarak jauh.
Antarmuka Standar untuk Peningkatan Kompatibilitas
Salah satu fitur utama MCP adalah penggunaan antarmuka standar. Ini berarti bahwa agen AI dapat berinteraksi dengan alat dan sumber data yang berbeda tanpa memerlukan kode khusus untuk setiap integrasi. Sebaliknya, agen hanya perlu memahami protokol MCP, yang mendefinisikan seperangkat perintah dan format data yang umum. Ini sangat menyederhanakan proses integrasi dan mengurangi jumlah pekerjaan pengembangan yang diperlukan. Ini juga membuatnya lebih mudah untuk beralih di antara alat dan sumber data yang berbeda, karena agen tidak perlu dikonfigurasi ulang setiap saat.
Penggunaan antarmuka standar juga mempromosikan interoperabilitas antara agen AI yang berbeda. Jika beberapa agen semuanya mendukung protokol MCP, mereka dapat dengan mudah berkomunikasi dan berbagi data satu sama lain. Ini dapat mengarah pada pengembangan sistem AI yang lebih kompleks dan canggih, di mana beberapa agen bekerja bersama untuk menyelesaikan masalah.
Mekanisme Keamanan yang Kuat untuk Perlindungan Data
Keamanan adalah prioritas utama dalam desain MCP. Protokol ini mencakup beberapa mekanisme untuk melindungi data dan mencegah akses yang tidak sah. Salah satu fitur utama adalah isolasi model dari sumber data tertentu. Ini berarti bahwa agen tidak memiliki akses langsung ke data yang mendasarinya, tetapi sebaliknya berinteraksi dengannya melalui protokol MCP Server. Ini menambahkan lapisan indirection yang membuatnya lebih sulit bagi penyerang untuk mengkompromikan data.
MCP juga mencakup mekanisme untuk meningkatkan transparansi dan auditabilitas tautan perintah dan kontrol. Ini memungkinkan pengguna untuk melihat persis perintah apa yang dikirim ke agen, dan untuk memverifikasi bahwa agen bertindak sesuai dengan instruksi mereka. Ini penting untuk membangun kepercayaan pada sistem AI, karena memungkinkan pengguna untuk memahami bagaimana agen membuat keputusan.
Akhirnya, MCP menyediakan mekanisme untuk mengendalikan otorisasi agen. Ini memungkinkan pengguna untuk menentukan alat dan sumber data mana yang diizinkan untuk diakses oleh agen. Ini penting untuk mencegah agen mengakses data sensitif atau melakukan tindakan yang tidak diizinkan untuk dilakukan.
MCP: Meletakkan Dasar untuk Tata Kelola Agen
MCP memberikan jaminan kompatibilitas dan keamanan untuk panggilan data dan alat, meletakkan dasar untuk tata kelola Agen, tetapi MCP tidak dapat menyelesaikan semua tantangan yang dihadapi dalam tata kelola.
Pertama, dalam hal kredibilitas, MCP belum membentuk standar normatif untuk pemilihan panggilan sumber data dan alat, juga belum mengevaluasi dan memverifikasi hasil eksekusi. Kedua, MCP tidak dapat untuk sementara waktu menyesuaikan jenis baru hubungan kerja sama kompetitif komersial yang dibawa oleh Agen.
Secara keseluruhan, MCP memberikan respons teknis awal terhadap kekhawatiran keamanan inti yang dihadapi oleh pengguna yang menggunakan Agen, dan telah menjadi titik awal untuk tata kelola Agen. Dengan populernya Agen dan aplikasi AI lainnya, metode terdistribusi diperlukan untuk memenuhi kebutuhan yang berbeda dari pengguna yang berbeda. Fokus tata kelola tidak hanya keamanan model, tetapi juga persyaratan inti untuk memenuhi kebutuhan pengguna. Protokol MCP telah mengambil langkah pertama dalam menanggapi kebutuhan pengguna dan mempromosikan tata kelola bersama teknologi. Juga atas dasar MCP bahwa Agen mencapai pembagian kerja yang efisien dan kolaborasi berbagai alat dan sumber daya. Seminggu yang lalu, Google membuka sumber protokol Agent2Agent (A2A) untuk komunikasi antar Agen, sehingga Agen yang dibangun di atas platform yang berbeda dapat menegosiasikan tugas dan melakukan kolaborasi yang aman, dan mempromosikan pengembangan ekologi multi-badan cerdas.
Mengatasi Kekhawatiran Kepercayaan dan Keandalan
Sementara MCP memberikan fondasi yang kokoh untuk tata kelola agen, MCP tidak mengatasi semua tantangan. Salah satu bidang utama yang perlu diperhatikan lebih lanjut adalah masalah kepercayaan dan keandalan. MCP saat ini tidak menyertakan mekanisme apa pun untuk memverifikasi akurasi hasil eksekusi atau untuk memastikan bahwa agen memilih sumber data dan alat yang sesuai. Ini berarti bahwa pengguna mungkin tidak dapat sepenuhnya mempercayai keputusan yang dibuat oleh agen, terutama dalam situasi berisiko tinggi.
Untuk mengatasi kekhawatiran ini, perlu untuk mengembangkan standar dan praktik terbaik baru untuk pengembangan dan penyebaran agen. Ini dapat mencakup hal-hal seperti metode verifikasi formal, yang dapat digunakan untuk membuktikan bahwa agen akan selalu berperilaku dengan cara yang dapat diprediksi dan aman. Ini juga dapat mencakup penggunaan teknik AI yang dapat dijelaskan, yang dapat membantu pengguna memahami bagaimana agen membuat keputusan.
Menavigasi Lanskap Kompetitif Baru
Tantangan lain yang tidak sepenuhnya diatasi oleh MCP adalah dampak agen pada lanskap kompetitif. Ketika agen menjadi lebih lazim, agen tersebut cenderung mengganggu model bisnis yang ada dan menciptakan bentuk persaingan baru. Penting untuk mempertimbangkan potensi dampak agen pada lanskap kompetitif, dan untuk mengembangkan strategi untuk menavigasi lingkungan baru ini. Ini termasuk mengatasi masalah seperti kepemilikan data, kekayaan intelektual, dan potensi perilaku anti-persaingan.
Salah satu pendekatan potensial adalah mengembangkan kerangka kerja regulasi baru yang secara khusus disesuaikan dengan agen AI. Kerangka kerja ini dapat mengatasi masalah seperti privasi data, bias algoritmik, dan potensi manipulasi pasar. Kerangka kerja ini juga dapat mencakup mekanisme untuk mempromosikan persaingan dan mencegah monopoli.
Jalan ke Depan: Kolaborasi dan Inovasi
Pengembangan MCP adalah langkah maju yang signifikan di bidang tata kelola agen. Namun, penting untuk menyadari bahwa ini hanyalah permulaan. Masih banyak tantangan yang harus diatasi, dan diperlukan upaya kolaboratif dari para peneliti, pengembang, pembuat kebijakan, dan pengguna untuk memastikan bahwa agen AI digunakan dengan aman dan bertanggung jawab.
Salah satu perkembangan yang menjanjikan adalah rilis baru-baru ini dari protokol Agent2Agent (A2A) Google. Protokol ini memungkinkan agen yang dibangun di atas platform yang berbeda untuk berkomunikasi dan berkolaborasi satu sama lain. Ini dapat mengarah pada pengembangan sistem AI yang lebih kompleks dan canggih, di mana beberapa agen bekerja bersama untuk menyelesaikan masalah. Ini juga dapat membantu untuk menumbuhkan ekosistem AI yang lebih kompetitif dan inovatif, karena pengembang dapat membangun agen yang dapat berintegrasi secara mulus dengan agen lain.
Saat teknologi AI terus berkembang, sangat penting untuk tetap selangkah lebih maju dan untuk mengembangkan mekanisme tata kelola baru yang dapat mengatasi tantangan masa depan. Ini akan membutuhkan komitmen untuk kolaborasi, inovasi, dan kesediaan untuk beradaptasi dengan lanskap AI yang terus berubah.