AI ajan sektörü şu anda tanıdık bir anlatı yaşıyor. AI ajanları, mevcut teknolojileri ve araçları kullanarak karmaşık kullanıcı görevlerinin çözülmesini otomatikleştirmek için büyük modellerin genel yeteneklerinden yararlanır. Bu, onları bugün model teknolojisini dağıtmak için en umut verici yol olarak konumlandırıyor.
Son birkaç aydır, AI ajan ürünlerinde bir patlama yaşandı. Manus gibi yüksek profilli ürünler ana akımın dikkatini çekti ve OpenAI ve Google’ın yeni modelleri giderek ‘AI ajanlaştırılıyor’. En önemlisi, standart protokoller hızla ivme kazanıyor.
Anthropic, geçen yılın sonunda MCP’yi (Model İletişim Protokolü) açık kaynak olarak yayınladı. MCP, büyük dil modellerinin iş yazılımları, veri tabanları ve kod depoları gibi çeşitli harici veri kaynakları ve araçlarıyla sorunsuz bir şekilde etkileşime girmesini sağlayan açık, standartlaştırılmış bir spesifikasyon oluşturmayı amaçlamaktadır. Yayınlanmasından aylar sonra OpenAI, Google, Alibaba ve Tencent hepsi desteklerini ifade etti ve entegre etti. Bunu takiben Google, AI ajanları arasındaki işbirliğini ve iş akışlarını otomatikleştirmeyi amaçlayan A2A’yı (Agent-to-Agent) başlattı. Bu, gelişen AI ajan ortamını daha da körükledi.
Özünde, bu protokoller iki temel zorluğu ele alıyor: MCP, ajanlar ile araç/servis sağlayıcıları arasındaki bağlantıları kolaylaştırırken, A2A, son derece karmaşık görevleri gerçekleştirmek için ajanlar arasındaki işbirlikçi bağlantıları sağlar.
Bu nedenle, MCP erken birleşik arayüzlere, A2A ise HTTP protokolüne benzetilebilir.
Ancak, internet tarihinde, HTTP’nin ortaya çıkışını internetin gerçek refahı için gerekli olan kritik bir unsur izledi: protokolün üstüne katmanlanan güvenlik standartları.
Bugün, MCP ve A2A benzer bir açmazla karşı karşıya.
‘HTTP ortaya çıktığında, daha sonra önemli güvenlik zorluklarıyla karşılaştı. İnternet bu evrimi yaşadı,’ diye açıklıyor IIFAA (İnternet Endüstrisi Finansal Kimlik Doğrulama İttifakı) Güvenilir Kimlik Doğrulama İttifakı Teknik Lideri ve AI ajan güvenliği uzmanı Zixi.
Bu zorluklar çeşitli biçimlerde ortaya çıkabilir. Şu anda, kötü niyetli aktörler sahte ‘hava durumu sorgulama’ araçları oluşturabilir ve bunları MCP sunucularına kaydedebilir, arka planda kullanıcının uçuş bilgilerini gizlice çalabilir. Bir kullanıcı bir ajan aracılığıyla ilaç satın aldığında, A ajanı sefpodoksim satın almaktan, B ajanı ise alkol satın almaktan sorumlu olabilir. Platformlar arası risk tanımlama yeteneklerinin olmaması nedeniyle, sistem mevcut e-ticaret platformlarının yaptığı gibi bir ‘tehlikeli kombinasyon’ uyarısı sağlayamaz. Daha da önemlisi, ajandan ajana kimlik doğrulama ve veri sahipliği belirsizliğini koruyor. Kullanıcı cihazında yerel bir uygulamaya mı yetki veriyor yoksa özel verileri buluta mı senkronize ediyor?
‘A2A, resmi belgelerinde yalnızca en üst düzey iletimin güvenliğini garanti ettiğini belirtiyor. Kimlik ve kimlik bilgilerinin kökenlerini, veri gizliliğini ve niyet tanımayı sağlama sorumluluğunu bireysel şirketlere bırakıyor.’
Akıllı ajanların gerçek anlamda gelişmesi bu sorunların ele alınmasını gerektiriyor. Zixi’nin çalıştığı IIFAA, bu sorunu ele almaya başlayan ilk kuruluştur.
‘Bu bağlamda, IIFAA akıllı ajanların gelecekte karşılaşacağı bir dizi sorunu çözmeye kendini adamıştır,’ diyor Zixi. ‘A2A çağında, MCP protokolü üzerine inşa edilebilen ve ajanların izinler, veriler, gizlilik ve diğer açılardan güvenliğini sağlayan ASL (Ajan Güvenlik Katmanı) adlı benzer bir ürün tanımladık. Bu ara katman ürünü aynı zamanda A2A’nın gelecekteki güvenlik standartlarına geçiş zorluklarını da ele alıyor.’
IIFAA Akıllı Ajan Güvenilir Bağlantı Çalışma Grubu, ilk yerli AI ajan güvenlik ekosistemi işbirliği kuruluşudur. Çin Bilgi ve İletişim Teknolojileri Akademisi (CAICT), Ant Group ve diğer yirmiyi aşkın teknoloji şirketi ve kurumu tarafından ortaklaşa başlatılmıştır.
ASL’den Ölçeklenebilirliğe
‘AI Ajanlarının gelişimi hem teknolojik olarak hem de ekosistemin standartları kabul etmesi açısından beklediğimizden daha hızlı gerçekleşiyor,’ diyor Zixi.
IIFAA’nın ajandan ajana iletişim için bir güvenlik protokolü kavramı, MCP’nin yayınlanmasından önce, geçen yılın Kasım ayı başlarında ortaya çıktı. IIFAA Akıllı Ajan Güvenilir Bağlantı Çalışma Grubu, MCP’nin resmi lansmanıyla aynı zamana denk gelerek Aralık ayında resmen kuruldu.
‘Kötü niyetli aktörler bazen yeni teknolojilere savunmacılardan daha hızlı hakim olurlar. Sorunlar ortaya çıkmadan düzeni tartışmak için bekleyemeyiz. Bu, bu çalışma grubunun varlığının gerekliliğidir,’ dedi bir IIFAA üyesi önceki bir sunumda. Güvenlik ve karşılıklı güven için endüstri normları oluşturmak, uzun vadeli sağlıklı gelişim için kritik öneme sahiptir.
Zixi’ye göre, mevcut odak noktaları ilk aşamada aşağıdaki temel sorunları ele almaktır:
Ajan Güvenilir Kimliği: ‘Yetkili kurumlar ve karşılıklı tanıma mekanizmaları temelinde bir Ajan sertifikasyon sistemi oluşturmayı amaçlıyoruz. Tıpkı uluslararası seyahat için pasaport ve vizeye ihtiyaç duymak gibi, bu, sertifikalı Ajanların hızlı bir şekilde bir işbirliği ağına katılmasına ve sertifikasız Ajanların işbirliği düzenini bozmasını önleyecektir.’
Niyet Güvenilir Paylaşımı: ‘Akıllı ajanlar arasındaki işbirliği, niyetin gerçekliğine ve doğruluğuna dayanır. Bu nedenle, niyetin güvenilir paylaşımı, verimli ve güvenilir çoklu ajan işbirliğini sağlamak için çok önemlidir.’
Bağlam Koruma Mekanizması: ‘Bir AI Ajanı birden fazla MCP (çok kanallı protokol) sunucusuna bağlandığında, tüm araç açıklama bilgileri aynı oturum bağlamına yüklenir. Kötü niyetli bir MCP Sunucusu bunu kötü niyetli talimatlar enjekte etmek için kullanabilir. Bağlam koruması kötü niyetli müdahaleyi önleyebilir, sistem güvenliğini koruyabilir, kullanıcı niyetinin bütünlüğünü sağlayabilir ve zehirleme saldırılarını önleyebilir.’
Veri Gizliliğini Koruma: ‘Çoklu ajan işbirliğinde, veri paylaşımı gizlilik ihlallerine yol açabilir. Gizliliği koruma, hassas bilgilerin kötüye kullanılmasını önlemek için çok önemlidir.’
Ajan Belleği Güvenilir Paylaşımı: ‘Bellek paylaşımı, çoklu ajan işbirliğinin verimliliğini artırır. Belleğin güvenilir paylaşımı, veri tutarlılığını, gerçekliğini ve güvenliğini sağlayarak kurcalamayı ve sızıntıyı önler, işbirliği etkinliğini ve kullanıcı güvenini artırır.’
Kimlik Güvenilir Dolaşımı: ‘Kullanıcılar, AI tabanlı uygulamalarda kesintisiz ve sorunsuz bir hizmet deneyimi bekler. Bu nedenle, platformlar arası, müdahalesiz kimlik tanıma elde etmek, kullanıcı deneyimini geliştirmek için anahtardır.’
‘Bunlar kısa vadeli hedeflerimiz. Ardından, ASL’yi tüm sektöre sunacağız. Bu, bir protokol spesifikasyonu değil, bir yazılım uygulamasıdır. Bu iki protokolün kurumsal düzeydeki güvenliğini artırmak için MCP ve A2A’ya uygulanabilir. Bu kısa vadeli hedef,’ diye açıklıyor Zixi.
‘Başlangıçta, güvenlik katmanında hiçbir şey belirtmeyeceğiz. A2AS belirtmeyeceğiz. Bunun yerine, gelecekte birisi A2AS belirtirse, ASL’mizin, SSL’nin HTTPS’nin bir yazılım uygulama bileşeni olması gibi bir yazılım uygulama bileşeni haline gelebileceğini umuyoruz.’
HTTPS Analojisi: AI Ajanlarının Geleceğini Güvence Altına Alma
HTTPS’nin tarihiyle paralellikler kurarak, güvenlik güvencesi, ödeme gibi işlevlerin yaygın olarak benimsenmesini sağlar ve böylece daha büyük ölçekli ticari fırsatların önünü açar. Benzer bir ritim şu anda yaşanıyor. 15 Nisan’da Alipay, ‘Ödeme MCP Sunucusu’ hizmetini tanıtmak için ModelScope topluluğu ile işbirliği yaptı. Bu, AI geliştiricilerinin doğal dili kullanarak Alipay ödeme hizmetlerini sorunsuz bir şekilde entegre etmelerini sağlayarak, AI ajanları içinde ödeme işlevlerinin hızlı bir şekilde dağıtılmasını kolaylaştırır.
Bu kısa vadeli hedefleri tek tek ele almak, nihayetinde güvenli bir Ajan işbirliği standardı ve ortamının oluşmasına yol açacaktır. Bu sürecin anahtarı, bir ölçekleme efekti elde etmektir. Hızlı hareket eden yerli MCP ‘mağazaları’ şimdiden harekete geçti. Ant Group’un akıllı ajan platformu Baibaoxiang’ın ‘MCP Bölgesi’, IIFAA’nın güvenlik çözümlerini entegre edecek. Bu ‘MCP Mağazası’ şu anda Alipay, Amap ve Wuying dahil olmak üzere çeşitli MCP hizmetlerinin dağıtımını ve çağrılmasını destekleyerek, MCP hizmetlerine bağlı akıllı bir ajanın sadece 3 dakika içinde en hızlı şekilde oluşturulmasını sağlıyor.
Zixi, büyük modellerin genel yeteneklerinin kullanıcı deneyimlerini ve etkileşim paradigmalarını gerçekten devrim niteliğinde değiştirme potansiyeline sahip olduğuna inanıyor. Gelecekte, görevleri tamamlamak için Uygulamaları çağırma şeklindeki mevcut yaklaşımın yerini, MCP Mağazasına benzer şekilde sahne arkasında gizlenmiş bir araç havuzuna dayanan süper bir ağ geçidi alabilir. Bu, daha basit ve kullanıcı ihtiyaçlarını daha iyi anlayan hale gelecektir. Ticarileştirme mümkün hale gelir.
‘AGI’nin gelişimi artık akıllı ajan aşamasına girdi. Sınırlı muhakeme yeteneğine sahip sohbet robotları ve AI ile karşılaştırıldığında, akıllı ajanlar nihayet noktadan noktaya kapalı aşamadan kurtuldu ve ticari uygulamalarda gerçekten yeni bir sayfa açtı.’
IIFAA kısa süre önce ASL’yi başlattı ve açık kaynak sürümünü duyurdu. Kodu, standartları ve deneyimi açıkça paylaşarak, teknolojik yeniliği ve yinelemeyi hızlandırmayı, sektör işletmelerini ve geliştiricilerini kapsamlı bir şekilde katılmaya teşvik etmeyi ve sektör içinde teknolojinin standardizasyonunu teşvik etmeyi amaçlıyor. Açık kaynak planı, en izin verici Apache 2.0 lisansını benimseyecek ve kod kitaplığı tasarım belgesi güvenlik uygulamalarını harici olarak kullanıma sunacaktır. Küresel geliştiriciler Github topluluğu içinde ortak inşaata katılabilir.
AI Ajan Geliştirmede Güvenliğin Zorunluluğu
AI ajanlarının yükselişi, teknolojiyle nasıl etkileşim kurduğumuzda bir paradigma kaymasını temsil ediyor. Artık ayrı uygulamalarla sınırlı değiliz, bunun yerine akıllı ajanların hedeflerimize ulaşmak için çok sayıda araç ve hizmeti sorunsuz bir şekilde yönetebileceği bir dünyaya doğru ilerliyoruz. Ancak bu vizyon, bu kadar güçlü bir teknolojiye eşlik eden doğal güvenlik risklerini ele almaya bağlıdır. Tıpkı internetin güvenli e-ticareti ve diğer hassas işlemleri kolaylaştırmak için HTTPS’ye ihtiyaç duyması gibi, AI ajanlarının da güveni geliştirmek ve yaygın olarak benimsenmesini sağlamak için sağlam güvenlik standartlarına ihtiyacı vardır.
AI ajan geliştirmenin mevcut ortamı, hızlı yenilik ve deneylerle karakterizedir. Eşi görülmemiş bir hızda yeni modeller, protokoller ve uygulamalar ortaya çıkıyor. Bu dinamizm şüphesiz heyecan verici olsa da, aynı zamanda bir zorluk da oluşturuyor: güvenlik endişeleri genellikle hız ve işlevselliğe öncelik veriyor. Bu, kötü niyetli aktörlerin istismar edebileceği, potansiyel olarak kullanıcı verilerini tehlikeye atabileceği, hizmetleri aksatabileceği ve tüm ekosisteme olan güveni zayıflatabileceği güvenlik açıklarına yol açabilir.
İnternetin ilk günlerine ilişkin analoji özellikle yerinde. Yaygın güvenlik önlemlerinin yokluğunda, internet dolandırıcılık, sahtekarlık ve diğer kötü niyetli faaliyetlerden muzdaripti. Bu, büyümesini engelledi ve tam potansiyeline ulaşmasını engelledi. İnternet ancak HTTPS ve diğer güvenlik protokollerinin ortaya çıkmasıyla e-ticaret, çevrimiçi bankacılık ve diğer hassas işlemler için güvenli ve güvenilir bir platform haline geldi.
Benzer şekilde, AI ajanlarının da dönüştürücü potansiyellerini gerçekleştirmek için güçlü bir güvenlik temeline ihtiyacı vardır. Böyle bir temel olmadan, siber suç ve çevrimiçi sömürünün yeni biçimleri için bir zemin haline gelme riskiyle karşı karşıyadırlar. Bu, yeniliği engelleyebilir, kullanıcı güvenini zayıflatabilir ve sonuçta AI ajanlarının birçok kişinin hayal ettiği yaygın ve faydalı bir teknoloji haline gelmesini engelleyebilir.
Güvenlik Zorluklarının Ele Alınması
AI ajanlarının karşı karşıya olduğu güvenlik zorlukları çok yönlüdür ve kapsamlı bir yaklaşım gerektirir. Başlıca zorluklardan bazıları şunlardır:
- Kimlik Doğrulama ve Yetkilendirme: Yalnızca yetkili ajanların hassas verilere ve kaynaklara erişebilmesini sağlama. Bu, sağlam kimlik doğrulama mekanizmaları ve ayrıntılı erişim kontrolleri gerektirir.
- Veri Gizliliği: Kullanıcı verilerinin yetkisiz erişim, kullanım veya ifşadan korunması. Bu, anonimleştirme, şifreleme ve diferansiyel gizlilik gibi gizliliği koruyucu tekniklerin uygulanmasını gerektirir.
- Niyet Doğrulama: Bir ajanın niyetinin kullanıcının hedefleriyle uyumlu olduğunu ve kötü niyetli aktörler tarafından manipüle edilmediğini doğrulama. Bu, karmaşık niyet tanıma ve doğrulama algoritmalarının geliştirilmesini gerektirir.
- Bağlamsal Güvenlik: Ajanların çevredeki ortamlardaki güvenlik açıklarını istismar eden kötü niyetli saldırılardan korunması. Bu, donanımdan yazılıma kadar sistemin tüm katmanlarında sağlam güvenlik önlemlerinin uygulanmasını gerektirir.
- Ajandan Ajan Güvenliği: Ajanların birbirleriyle güvenli bir şekilde iletişim kurabilmelerini ve işbirliği yapabilmelerini sağlama. Bu, güvenli iletişim protokollerinin ve güven mekanizmalarının geliştirilmesini gerektirir.
IIFAA’nın ASL’si doğru yönde umut verici bir adımdır. ASL, MCP ve A2A’nın güvenliğini artıran bir yazılım uygulaması sağlayarak bu zorlukların bazılarının ele alınmasına yardımcı olabilir. Bununla birlikte, AI ajanları için kapsamlı bir güvenlik çerçevesi oluşturmak için daha fazlasının yapılması gerekiyor.
İleriye Giden Yol: İşbirliği ve Standardizasyon
Güvenli AI ajanlarının geliştirilmesi, araştırmacıların, geliştiricilerin, sektör paydaşlarının ve politika yapıcıların işbirliğini gerektirir. Atılması gereken başlıca adımlardan bazıları şunlardır:
- Açık standartlar geliştirme: AI ajan güvenliği için açık standartlar oluşturmak, birlikte çalışabilirliği sağlamak ve yeniliği teşvik etmek için çok önemlidir.
- En iyi uygulamaları paylaşma: Güvenli AI ajan geliştirme için en iyi uygulamaları paylaşmak, yaygın güvenlik açıklarını önlemeye ve bir güvenlik kültürü oluşturmaya yardımcı olabilir.
- Araştırmaya yatırım yapma: Ortaya çıkan tehditleri ele almak için yeni teknikler ve teknolojiler geliştirmek için AI ajan güvenliği araştırmasına yatırım yapmak çok önemlidir.
- Eğitimi ve farkındalığı teşvik etme: AI ajan güvenliği hakkında eğitimi ve farkındalığı teşvik etmek, güvenlik çıtasını yükseltmeye ve sorumlu geliştirmeyi teşvik etmeye yardımcı olabilir.
- Yasal çerçeveler oluşturma: AI ajan güvenliği için yasal çerçeveler oluşturmak, güvenliğin önceliklendirilmesini ve kullanıcıların korunmasını sağlamaya yardımcı olabilir.
Birlikte çalışarak, AI ajanlarının yalnızca güçlü ve faydalı değil, aynı zamanda güvenli ve güvenilir olduğu bir gelecek yaratabiliriz. Bu, önümüzdeki güvenlik zorluklarını ele almak ve AI ajan ekosistemi için güçlü bir güvenlik temeli oluşturmak için uyumlu bir çaba gerektirecektir. Ancak o zaman AI ajanlarının tüm potansiyelini ortaya çıkarabilir ve gerçekten dönüştürücü bir teknoloji yaratabiliriz. IIFAA gibi kuruluşların bu girişime öncülük etme çabaları övgüye değerdir, ancak AI ajanlarının güvenli ve müreffeh gelişimi için güvenlik standartlarının yaygın olarak benimsenmesi ve bunlara uyulması çok önemlidir.