Yapay Zeka Ajanları İçin Gelişen Mimari

Dijital ortam, insan merkezli webde gezinmenin ötesine geçerek, çeşitli sistemler arasında sorunsuz bir şekilde işbirliği yapan otonom ajanlar alanına doğru evriliyor. Bu değişim, yeni bir altyapı gerektiriyor ve dört temel açık kaynaklı bileşenden oluşan zorlayıcı bir çözüm şekilleniyor.

• Google tarafından Agent2Agent (A2A): Ajan keşfi ve etkileşimini kolaylaştırmak için tasarlanmış bir protokol.
• Anthropic tarafından Model Context Protocol (MCP): Ajanların araçları ve harici bağlamsal verileri nasıl kullandığını tanımlayan bir standart.
• Apache Kafka: Güvenilir ve ayrıştırılmış koordinasyonu sağlayan sağlam, olay odaklı bir iletişim omurgası.
• Apache Flink: Ajan aktivitesi akışlarını zenginleştirmek, izlemek ve bunlar üzerinde işlem yapmak için hayati öneme sahip gerçek zamanlı bir işleme motoru.

Bu makale, bu teknolojiler arasındaki sinerjik ilişkileri keşfederek, yalnızca protokollere güvenmenin sınırlamalarını vurguluyor ve bu mimarinin, izole botlardan dinamik, akıllı ajan ekosistemlerine geçiş için nasıl zemin hazırladığını gösteriyor.

Kuruluşlar içindeki yapay zeka ajanlarının beklenen çoğalması, çoğu şirketin tek bir her şeyi kapsayan ajan yerine çok sayıda uzmanlaşmış ajan konuşlandıracağını gösteriyor. Bu ajanlar, kod oluşturma, destek bileti yönetimi, müşteri verileri analizi, çalışan işe alımı ve altyapı izleme gibi görevleri otomatik hale getirecek.

Ancak, mevcut araçlar böyle bir geleceği desteklemek için yetersiz.

Zorluk, ajanların silolar halinde çalıştığı ve iletişim yeteneklerinden yoksun olduğu ‘ajan adası’ sorununu aşıyor. Daha geniş bir ekosistem parçalanmasını kapsıyor:

• Ajanlar Arası İletişim Eksikliği: Ajanlar genellikle izole ortamlarda çalışır. Bir müşteri ilişkileri yönetimi (CRM) ajanı, bir veri ambarı ajanı tarafından elde edilen içgörülerden habersizdir. Bir destek ajanı, bir izleme ajanı tarafından tespit edilen anormalliklere yanıt veremez.
• Kırılgan ve Özelleştirilmiş Araç Kullanımı: Araçlara veya harici uygulama programlama arayüzlerine (API’ler) erişmek için standartlaştırılmış yöntemler olmadan, ajanlar sabit kodlu entegrasyonlara ve yeniden kullanılamayan mantığa güvenir.
• Tutarsız Çerçeveler: Farklı ajan çalışma zamanları, ajanları sohbet robotları, yönlendirilmiş döngüsel olmayan grafikler (DAG’ler) veya yinelemeli planlayıcılar olarak ele alarak çeşitli modeller kullanır. Bu, taşınabilir bir yürütme katmanının veya paylaşılan durumun yokluğuyla sonuçlanır.
• Defter Ortamlarına Odaklı Tasarım: Birçok ajan, doğrusal, eşzamanlı ve geçici işlemlerle karakterize edilen tek seferlik prototipler olarak geliştirilmiştir. Ancak, gerçek dünya sistemleri, yeniden denemelerin, hataların, koordinasyonun, günlüğe kaydetmenin ve ölçeklendirmenin sağlam bir şekilde ele alınmasını gerektirir ve bu da destekleyici bir altyapı gerektirir.
• İşbirlikçi Bir Omurganın Yokluğu: Olay veriyolu, paylaşılan bellek veya ajan etkinliklerinin ve gerekçesinin izlenebilir geçmişi yoktur. Bilgiler, doğrudan HTTP çağrılarıyla sınırlıdır veya günlüklerin içine gömülüdür.

12-Factor Agents projesinin vurguladığı gibi, ajanlar bulut yerel ilkelerine uymalı, gözlemlenebilirlik, gevşek bağlantı, yeniden üretilebilirlik ve altyapı farkındalığı sergilemelidir. Ne yazık ki, çoğu kırılgan komut dosyaları olarak inşa edilir, manuel olarak birleştirilir ve bağımsız olarak çalıştığı varsayılır.

Bu, verimsizliklere, çaba tekrarına ve kırılganlığa neden olur.

Agent2Agent, ajanlara keşif ve iletişim için standartlaştırılmış bir protokol sağlayarak bu sorunu kısmen ele alır. Ancak, yüzeysel gösterilerin ötesine geçerek üretim sistemleri tarafından talep edilen ölçeklenebilirlik ve güvenilirliğe geçiş, protokolden daha fazlasını gerektirir. Kapsamlı bir altyapı gerektirir.

Mevcut ajan ekosistemi, güçlü ancak izole ve uyumsuz sistemlerle karakterize edilen web’in ilk aşamalarını yansıtıyor. Erken dönemlerde tarayıcıların sunucularla standart bir protokol olmadan iletişim kurarken karşılaştığı zorluklara benzer şekilde, yapay zeka ajanları bugün birbirlerini keşfetmek, iletişim kurmak ve işbirliği yapmak için mücadele ediyor.

Google’ın Agent2Agent’ı (A2A): Ajan İletişimi İçin Evrensel Bir Protokol

Google’ın A2A protokolü, bu sorunu ele almak için önemli bir girişimdir. Başka bir ajan çerçevesi olmak yerine, kökeni veya dağıtım ortamı ne olursa olsun, herhangi bir ajanı bağlamak için tasarlanmış evrensel bir protokol olmasıyla öne çıkıyor.

HTTP’nin web sitesi iletişimini nasıl standartlaştırdığına benzer şekilde, A2A ajanlar için ortak bir dil tanımlayarak şunları yapmalarını sağlar:

• Yetenekleri Duyurun: Bir ajanın yeteneklerini ve etkileşim yöntemlerini özetleyen bir JSON tanımlayıcısı olan bir AgentCard aracılığıyla.
• Görev Gönderin ve Alın: Bir ajanın yardım istediği ve diğerinin sonuçlar veya ‘artefaktlar’ ile yanıtladığı JSON-RPC kullanılarak yapılandırılmış etkileşimler yoluyla.
• Sunucu Tarafından Gönderilen Olaylarla (SSE’ler) Güncellemeleri Yayınlayın: Uzun veya işbirlikçi görevler sırasında gerçek zamanlı geri bildirimi kolaylaştırma.
• Zengin İçerik Değiştirin: Basit metnin ötesinde, dosyaların, yapılandırılmış verilerin ve formların değişimini destekleme.
• Varsayılan Olarak Güvenliği Koruyun: HTTPS, kimlik doğrulama ve izinler için yerleşik destek ekleme.

A2A’nın gücü, yerleşik çözümleri yeniden icat etmekten kaçınmasında yatmaktadır. HTTP ve SMTP’ye benzer şekilde, daha kolay benimsenmesini ve daha hızlı entegrasyonu kolaylaştıran iyi kurulmuş web standartlarından yararlanır.

Ancak, A2A genel çözümün yalnızca bir yönünü temsil ediyor.

Anthropic’in Model Context Protocol’ü (MCP): Araç Kullanımını ve Bağlam Erişimini Standartlaştırma

Anthropic’in MCP’si, ajanların araçları nasıl kullandığı ve bağlamsal bilgilere nasıl eriştiği konusundaki önemli hususu ele alıyor. MCP, ajanların API’leri çağırma, işlevleri çağırma ve harici sistemlerle entegre olma sürecini standartlaştırarak, esasen ortamlarında nasıl çalıştıklarını tanımlar. A2A ajanlar arası iletişimi yönetirken, MCP bir ajanın dış dünyayla etkileşimine odaklanır.

Özünde:

• MCP, bireysel ajan zekasını güçlendirir.
• A2A, kolektif zekayı sağlar.

HTTP ve SMTP’nin yaygın başarıya ulaşmak için kapsamlı benimseme, altyapı ve geliştirici araçları gerektirmesine benzer şekilde, A2A ve MCP, potansiyellerini tam olarak gerçekleştirmek için sağlam bir ekosistem gerektirecektir.

A2A ve MCP gibi standardizasyon çabalarıyla bile, kritik bir soru devam ediyor: Ajan iletişimleri, karmaşık ve dinamik kurumsal ortamlarda nasıl etkili bir şekilde ölçeklenebilir? Yalnızca bu protokoller tarafından tanımlanan doğrudan, noktadan noktaya bağlantılara güvenmek, ölçeklenebilirlik, esneklik ve gözlemlenebilirlik ile ilgili zorlukları beraberinde getirir. Bu, sağlam bir temel iletişim altyapısına duyulan ihtiyacı vurgular.

Çalışanların yalnızca doğrudan, bire bir mesajlar yoluyla iletişim kurabildiği bir şirketi düşünün. Bir güncelleme paylaşmak, her bireye ayrı ayrı mesaj göndermeyi gerektirecektir. Birden fazla ekip arasında bir projeyi koordine etmek, her grup arasında bilgileri manuel olarak aktarmayı içerecektir.

Böyle bir sistemi yüzlerce çalışana ölçeklendirmek kaosa neden olur.

Bu senaryo, doğrudan bağlantılar üzerine kurulu ajan ekosistemlerinde karşılaşılan zorlukları yansıtıyor. Her ajan, hangi ajanlarla iletişim kuracağını, onlara nasıl ulaşacağını ve kullanılabilirliğini bilmelidir. Ajan sayısı arttıkça, gerekli bağlantı sayısı katlanarak artar ve bu da kırılgan, yönetilmesi zor ve ölçeklenemeyen bir sistemle sonuçlanır.

A2A ve MCP, ajanlara iletişim ve eylem için dil ve yapı sağlar. Ancak, dil tek başına yeterli değildir. Bir kuruluşta çok sayıda ajanı koordine etmek için, mesaj akışını ve ajan yanıtlarını yönetmek için altyapıya ihtiyaç vardır.

Kafka ve Flink: Ölçeklenebilir Ajan İşbirliği İçin Omurga

Apache Kafka ve Apache Flink bu hayati altyapıyı sağlar.

Kafka ve Flink Açıklaması

İlk olarak LinkedIn’de geliştirilen ve şu anda bir Apache Software Foundation projesi olan Apache Kafka, dağıtılmış bir olay akışı platformudur. Üreticilerin tüketicilerden ayrılmasını ve veri dayanıklılığını, tekrar oynanabilirliğini ve ölçeklenebilirliğini sağlaması nedeniyle finansal sistemler, dolandırıcılık tespiti ve telemetri işlem hatları dahil olmak üzere çeşitli uygulamalarda yaygın olarak kullanılan dayanıklı, yüksek verimli bir mesaj veriyolu olarak işlev görür.

Başka bir Apache projesi olan Flink, durum bilgisi olan, yüksek verimli, düşük gecikmeli olay işleme için tasarlanmış gerçek zamanlı bir akış işleme motorudur. Kafka veri hareketini yönetirken, Flink bir sistemden akarken verilerin dönüştürülmesini, zenginleştirilmesini, izlenmesini ve orkestrasyonunu yönetir.

Kafka ve Flink birlikte güçlü bir kombinasyon oluşturur. Kafka kan dolaşımı görevi görürken, Flink refleks sistemi görevi görür.

A2A’nın ajan dünyasının HTTP’si rolüne benzer şekilde, Kafka ve Flink, doğrudan, noktadan noktaya iletişimin çözemediği zorlukları ele alarak, ölçeklenebilir ajan iletişimi ve hesaplama için olay odaklı bir temel sağlar:

• Ayrıştırma: Kafka ile ajanların çıktılarının tüketicilerini bilmeleri gerekmez. Herhangi bir ilgili ajanın veya sistemin abone olmasına izin vererek bir konuya olaylar (örneğin, "TaskCompleted", "InsightGenerated") yayınlarlar.
• Gözlemlenebilirlik ve Tekrar Oynanabilirlik: Kafka, ajan davranışının tamamen izlenebilir, denetlenebilir ve tekrar oynanabilir olmasını sağlayarak tüm olayların dayanıklı, zaman sıralı bir kaydını tutar.
• Gerçek Zamanlı Karar Verme: Flink, ajanların olay akışlarına gerçek zamanlı olarak tepki vermesini sağlayarak, dinamik koşullara göre filtreleme, zenginleştirme, birleştirme veya eylemleri tetikleme.
• Esneklik ve Ölçeklendirme: Flink işleri bağımsız olarak ölçeklenebilir, hatalardan kurtulabilir ve karmaşık, çok adımlı görevler gerçekleştiren ajanlar için gerekli olan uzun süreli iş akışlarında durumu koruyabilir.
• Akış Yerel Koordinasyonu: Eşzamanlı yanıtlar beklemek yerine, ajanlar olay akışları aracılığıyla koordine edebilir, güncellemeler yayınlayabilir, iş akışlarına abone olabilir ve durumu işbirlikçi bir şekilde ilerletebilir.

Özetle:

• A2A, ajanların nasıl iletişim kurduğunu tanımlar.
• MCP, harici araçlarla nasıl etkileşim kurduklarını tanımlar.
• Kafka, mesajlarının nasıl aktığını tanımlar.
• Flink, bu akışların nasıl işlendiğini, dönüştürüldüğünü ve karar vermek için nasıl kullanıldığını tanımlar.

A2A ve MCP gibi protokoller, ajan davranışını ve iletişimini standartlaştırmak için çok önemlidir. Ancak, Kafka gibi olay odaklı bir alt katman ve Flink gibi akış yerel bir çalışma zamanı olmadan, ajanlar izole kalır, etkili bir şekilde koordine edilemez, verimli bir şekilde ölçeklenemez veya zaman içinde akıl yürütemez.

Kurumsal Düzeyde Yapay Zeka Ajanları İçin Dört Katmanlı Mimari

Kurumsal düzeyde, birlikte çalışabilir yapay zeka ajanları vizyonunu tam olarak gerçekleştirmek için dört katmanlı bir mimari gereklidir:

• Protokoller: A2A, MCP – ne olduğunu tanımlar.
• Çerçeveler: LangGraph, CrewAI, ADK – nasıl olduğunu tanımlar.
• Mesajlaşma Altyapısı: Apache Kafka – akışı destekler.
• Gerçek Zamanlı Hesaplama: Apache Flink – düşünmeyi destekler.

Birlikte, bu katmanlar yapay zeka ajanları için yeni internet yığınını oluşturarak, yalnızca akıllı değil, aynı zamanda işbirlikçi, gözlemlenebilir ve üretime hazır sistemler oluşturmak için bir temel sağlar.

Şu anda yazılımın evriminde kritik bir noktadayız.

HTTP ve SMTP gibi protokollerden ve TCP/IP gibi altyapıdan oluşan orijinal internet yığınının küresel bağlantı çağını başlatmasına benzer şekilde, yapay zeka ajanları için yeni bir yığın ortaya çıkıyor. Ancak, insanların web sayfalarında gezinmesi veya e-posta göndermesi yerine, bu yığın otonom sistemlerin akıl yürütmek, karar vermek ve hareket etmek için işbirliği yapması için tasarlanmıştır.

A2A ve MCP, ajan iletişimi ve araç kullanımı için protokoller sağlarken, Kafka ve Flink gerçek zamanlı koordinasyon, gözlemlenebilirlik ve esneklik için altyapı sağlar. Birlikte, bağlantısız ajan gösterimlerinden ölçeklenebilir, akıllı, üretim düzeyinde ekosistemlere geçişi sağlarlar.

Bu evrim yalnızca mühendislik zorluklarını ele almakla ilgili değil. Ajanların sınırlar arasında işbirliği yaptığı, gerçek zamanlı olarak içgörüler sağladığı ve eylemleri yönlendirdiği ve böylece zekanın dağıtılmış bir sistem haline gelmesini sağladığı yeni bir yazılım paradigmasını etkinleştirmekle ilgilidir.

Ancak, bu vizyon aktif geliştirme, açıklık, birlikte çalışabilirlik ve önceki internet devriminden çıkarılan derslerden yararlanmayı gerektirir.

Bu nedenle, bir ajan geliştirirken, daha geniş sistem içindeki entegrasyonunu dikkate almak çok önemlidir. Etkili bir şekilde iletişim kurabiliyor mu? Diğer ajanlarla koordine edebiliyor mu? Değişen koşullara uyum sağlayabiliyor ve adapte olabiliyor mu?

Gelecek sadece ajanla güçlendirilmiş değil; ajana bağlı.