Yapay Zekanın Viroloji Laboratuvarlarındaki Artan Yeterliliği Biyo-Tehlike Endişelerini Artırıyor
Çığır açan bir çalışma, ChatGPT ve Claude gibi platformlara güç veren gelişmiş yapay zeka (YZ) modellerinin, viroloji ıslak laboratuvarlarında doktora derecesine sahip deneyimli virologlarınkini aşan problem çözme yetenekleri gösterdiğini ortaya koyuyor. Bu vahiy, hastalıkların önlenmesini ilerletmek için muazzam bir potansiyele sahipken, özellikle gerekli uzmanlığa ve etik düşüncelere sahip olmayan kişiler tarafından ölümcül biyo-silahlar oluşturmak için YZ’nin potansiyel kötüye kullanılmasıyla ilgili önemli endişeleri de artırıyor.
Yapay Zekanın Virolojideki İki Ucu Keskin Kılıcı
TIME ile özel olarak paylaşılan çalışma, Yapay Zeka Güvenliği Merkezi, MIT’nin Media Laboratuvarı, UFABC (bir Brezilya üniversitesi) ve pandemi önlemeye adanmış kar amacı gütmeyen bir kuruluş olan SecureBio’dan araştırmacıların ortak çabasıydı. Araştırma ekibi, YZ modellerinin viroloji araştırmalarında yaygın olarak kullanılan karmaşık laboratuvar prosedürlerini ve protokollerini etkili bir şekilde giderme yeteneğini değerlendiren son derece zorlu bir pratik test tasarlamak için önde gelen virologlara danıştı.
Testin sonuçları çarpıcıydı. Doktora düzeyindeki virologlar, kapsamlı eğitim ve deneyimlerine rağmen, beyan ettikleri uzmanlık alanlarında ortalama sadece %22,1 doğruluk puanı elde ettiler. Tam tersine, OpenAI’nin o3 modeli %43,8’lik etkileyici bir doğruluk elde ederken, Google’ın Gemini 2.5 Pro’su %37,6 puan aldı. Bu bulgular, YZ modellerinin viroloji laboratuvarlarında karmaşık görevleri gerçekleştirmek için gerekli bilgi ve becerileri hızla edindiğini ve potansiyel olarak belirli alanlarda insan uzmanların yeteneklerini aştığını gösteriyor.
Biyo-Silah Yaratma Endişeleri
SecureBio’da araştırma bilimcisi ve çalışmanın ortak yazarı olan Seth Donoughe, bu bulguların etkileriyle ilgili endişelerini dile getirdi. Tarihte ilk kez, bu YZ modellerine erişimi olan hemen herkesin elinde yargılayıcı olmayan bir YZ viroloji uzmanına sahip olabileceğini ve potansiyel olarak onları biyo-silahlar oluşturmak için gereken karmaşık laboratuvar süreçlerinde yönlendirebileceğini belirtti.
Donoughe, tarih boyunca biyo-silah geliştirmek için sayısız girişimde bulunulduğunu, ancak bu girişimlerin çoğunun gerekli uzmanlığa erişim eksikliği nedeniyle başarısız olduğunu vurguladı. Bu uzmanlığı sağlama yeteneğine sahip YZ modellerinin yaygın olarak kullanılabilirliğinin, potansiyel kötüye kullanım ve bu yeteneklerin nasıl dağıtılacağında dikkatli olunması gerektiği konusunda ciddi endişeler yarattığı konusunda uyardı.
- Uzman olmayanlar tarafından kötüye kullanım riski.
- Ölümcül biyo-silahlar yaratma potansiyeli.
- YZ viroloji uzmanlığının dağıtımında dikkatli olma ihtiyacı.
YZ Laboratuvarları Endişelere Yanıt Veriyor
Çalışmanın bulgularına yanıt olarak, yazarlar sonuçları büyük YZ laboratuvarlarıyla paylaştı ve bu da bazılarının harekete geçmesine yol açtı. Örneğin xAI, YZ modeli Grok’un gelecekteki sürümlerinde viroloji koruma önlemleri uygulama niyetini özetleyen bir risk yönetimi çerçevesi yayınladı. OpenAI, TIME’a geçen hafta piyasaya sürülen yeni modelleri için ‘biyolojik riskler için yeni sistem düzeyinde hafifletmeler uyguladığını’ bildirdi. Anthropic, model performans sonuçlarını son sistem kartlarındaki makaleye dahil etti, ancak belirli hafifletme önlemleri önermedi. Google’ın Gemini’si TIME’a yorum yapmaktan kaçındı.
Bu yanıtlar, YZ geliştiricileri arasında YZ’nin virolojideki artan yetenekleriyle ilişkili potansiyel risklerin ve kötüye kullanımı önlemek için koruma önlemleri uygulama ihtiyacının giderek arttığını gösteriyor.
Yapay Zekanın Hastalıkla Mücadeledeki Vaadi
Biyo-silah yaratma konusundaki endişelere rağmen, YZ aynı zamanda viroloji araştırmalarını ilerletmek ve bulaşıcı hastalıklarla mücadele etmek için muazzam bir potansiyele sahip. YZ liderleri uzun zamandır YZ’nin biyotıbbı devrimleştirme ve yeni tedavilerin ve kürlerin geliştirilmesini hızlandırma potansiyelini kabul ediyorlar.
Örneğin OpenAI CEO’su Sam Altman, Ocak ayında Beyaz Saray’da ‘bu teknoloji ilerledikçe, hastalıkların benzeri görülmemiş bir hızda iyileştiğini göreceğiz’ dedi. Bu iyimserlik, bu alandaki ilerleme konusunda cesaret verici işaretlerle destekleniyor. Bu yılın başlarında, Florida Üniversitesi’ndeki Gelişen Patojenler Enstitüsü’ndeki araştırmacılar, hangi koronavirüs varyantının en hızlı yayılabileceğini tahmin edebilen bir algoritma geliştirdiler.
Yapay Zekanın Viroloji Laboratuvarı Çalışması Yapma Yeteneğini Değerlendirme
YZ, viroloji ile ilgili akademik tarzda bilgi sağlama konusunda umut vaat ederken, gerçekte viroloji laboratuvarı çalışması yapma yeteneğini anlamada büyük bir boşluk kaldı. Bu boşluğu gidermek için Donoughe ve meslektaşları, özellikle pratik yardım ve akademik makalelerde tipik olarak bulunmayan görüntülerin ve bilgilerin yorumlanmasını gerektiren zor, Google’da bulunamayan sorular için bir test tasarladılar.
Sorular, virologların belirli hücre tiplerinde ve koşullarında virüsleri kültüre ederken karşılaşılan sorunları giderme gibi günlük çalışmalarında karşılaştıkları zorlukları taklit etmek üzere tasarlandı.
Format şu şekilde tasarlandı:
- Belirli bir senaryo sunmak.
- Deney kurulumu hakkında ayrıntılar sağlamak.
- YZ’den en olası sorunu belirlemesini istemek.
YZ Pratik Testlerde Virologları Geride Bırakıyor
Testin sonuçları, hemen hemen her YZ modelinin, kendi uzmanlık alanları içinde bile doktora düzeyindeki virologları geride bıraktığını ortaya koydu. Bu bulgu, YZ modellerinin yalnızca büyük miktarda virolojik bilgiye erişip işleyebilmekle kalmayıp, aynı zamanda bu bilgiyi laboratuvardaki pratik sorunları çözmek için de uygulayabildiğini gösteriyor.
Araştırmacılar ayrıca modellerin zamanla önemli ölçüde geliştiğini ve sürekli olarak öğrendiklerini ve virolojideki becerilerini geliştirdiklerini gözlemlediler. Örneğin, Anthropic’in Claude 3.5 Sonnet’i, Haziran 2024 modelinden Ekim 2024 modeline doğrulukta %26,9’dan %33,6’ya yükseldi. Ve OpenAI’nin GPT 4.5’inin Şubat ayındaki bir önizlemesi, GPT-4o’yu neredeyse 10 puan geride bıraktı.
YZ’nin Büyüyen Yeteneklerinin Etkileri
Yapay Zeka Güvenliği Merkezi’nin yöneticisi Dan Hendrycks, YZ modellerinin artık endişe verici miktarda pratik bilgi edindiğini vurguladı. YZ modelleri gerçekten de çalışmanın önerdiği gibi ıslak laboratuvar ortamlarında yetenekliyse, etkileri çok geniş kapsamlıdır.
Bir yandan YZ, virüslerle mücadelede kritik çalışmalarında deneyimli virologlara paha biçilmez yardım sağlayabilir, ilaç ve aşı geliştirme zaman çizelgelerini hızlandırabilir ve klinik çalışmaları ve hastalık tespitini iyileştirebilir. Johns Hopkins Sağlık Güvenliği Merkezi’nin yöneticisi Tom Inglesby, YZ’nin dünyanın farklı yerlerindeki bilim insanlarını, özellikle de uzmanlık becerilerine veya kaynaklarına sahip olmayanları, ülkelerinde meydana gelen hastalıklar üzerinde değerli günlük çalışmalar yapmaya teşvik edebileceğini belirtti.
- İlaç ve aşı geliştirmeyi hızlandırmak.
- Klinik çalışmaları ve hastalık tespitini iyileştirmek.
- Kaynakları kısıtlı ortamlardaki bilim insanlarını güçlendirmek.
Kötü Niyetli Aktörler Tarafından Kötüye Kullanım Riski
Öte yandan, çalışma, kötü niyetli aktörlerin bu modelleri, en tehlikeli ve egzotik bulaşıcı ajanları ele alan bir Biyogüvenlik Düzeyi 4 (BSL-4) laboratuvarına girmek için gereken tipik eğitim ve erişime ihtiyaç duymadan virüslerin nasıl oluşturulacağını öğrenmek için kullanabilecekleri konusunda ciddi endişeler uyandırıyor. Inglesby, YZ’nin daha az eğitimli daha fazla insanı virüsleri yönetme ve manipüle etme konusunda yetkilendirebileceği ve potansiyel olarak feci sonuçlara yol açabileceği konusunda uyardı.
Hendrycks, YZ şirketlerini bu tür kullanımları önlemek için korkuluklar uygulamaya çağırdı ve bunu altı ay içinde yapmamanın pervasızlık olacağını öne sürdü. Bir çözümün, bu modelleri kapılı hale getirmek olduğunu ve böylece ölümcül virüsleri manipüle etmek için meşru nedenleri olan MIT biyoloji bölümündeki araştırmacılar gibi yalnızca güvenilir üçüncü taraflarınfiltrelenmemiş sürümlerine erişebildiğini öne sürdü.
- Korkuluklar uygulayarak kötüye kullanımı önlemek.
- Modelleri, güvenilir tarafların erişimini kısıtlamak için kapılı hale getirmek.
- Yalnızca yetkili araştırmacıların hassas yeteneklere erişebilmesini sağlamak.
Endüstri Kendi Kendini Düzenlemesinin Fizibilitesi
Hendrycks, YZ şirketlerinin kendi kendilerini düzenlemesinin ve bu tür koruma önlemlerini uygulamasının teknolojik olarak mümkün olduğuna inanıyor. Ancak, bazı şirketlerin ayaklarını sürüyüp sürümeyeceği veya sadece gerekli adımları atmayacağı konusunda endişelerini dile getirdi.
Elon Musk’ın YZ laboratuvarı xAI, makaleyi kabul etti ve şirketin Grok’u zararlı istekleri reddetmesi ve girdi ve çıktı filtreleri uygulaması dahil olmak üzere viroloji sorularını yanıtlama konusunda belirli koruma önlemlerini ‘potansiyel olarak kullanacağını’ belirtti.
OpenAI, en yeni modellerinin, o3 ve o4-mini’nin, zararlı çıktıları engelleme dahil olmak üzere bir dizi biyolojik riskle ilgili koruma önlemiyle birlikte dağıtıldığını belirtti. Şirket ayrıca, güvenli olmayan biyo ile ilgili konuşmaların %98,7’sinin başarıyla işaretlenip engellendiği bin saatlik bir kırmızı takımlama kampanyası yürüttüğünü bildirdi.
- YZ modellerini zararlı istekleri reddetmeleri için eğitmek.
- Tehlikeli içeriği engellemek için girdi ve çıktı filtreleri uygulamak.
- Riskleri belirlemek ve azaltmak için kırmızı takımlama alıştırmaları yapmak.
Politika ve Düzenleme İhtiyacı
Bu çabalara rağmen Inglesby, endüstri kendi kendini düzenlemesinin yeterli olmadığını ve yasa koyucuların ve siyasi liderlerin YZ’nin biyo risklerini düzenlemeye yönelik bir politika yaklaşımı geliştirmesini istiyor. Bazı şirketlerin bu riskleri ele almak için zaman ve para yatırırken, diğerlerinin yatırmayabileceğini ve bunun sonucunda halkın neler olup bittiğine dair bir fikir sahibi olamayacağı bir durum yaratabileceğini vurguladı.
Inglesby, bir LLM’nin yeni bir sürümü piyasaya sürülmeden önce, pandemi düzeyinde sonuçlar üretmeyeceğinden emin olmak için değerlendirilmesi gerektiğini öne sürdü. Bu, hem endüstri hem de hükümet paydaşlarını içeren YZ’nin virolojideki yeteneklerini düzenlemeye yönelik daha kapsamlı ve koordineli bir yaklaşım gerektirecektir.
- Pandemi düzeyinde sonuçları önlemek için LLM’leri piyasaya sürülmeden önce değerlendirmek.
- YZ’nin biyo risklerini düzenlemeye yönelik kapsamlı bir politika yaklaşımı geliştirmek.
- Düzenleme sürecine hem endüstri hem de hükümet paydaşlarını dahil etmek.
İnovasyon ve Güvenlik Arasında Denge Kurmak
Zorluk, YZ’de inovasyonu teşvik etmek ve bu güçlü teknolojilerin ölümcül biyo-silahlar yaratmak için kötüye kullanılmamasını sağlamak arasında bir denge kurmakta yatmaktadır. Bu, aşağıdakileri içeren çok yönlü bir yaklaşım gerektirir:
- Kötüye kullanımı önlemek için sağlam koruma önlemleri geliştirmek.
- Hassas yeteneklere erişimi güvenilir taraflarla sınırlamak.
- YZ’nin virolojideki yeteneklerini düzenlemek.
- Sorumlu inovasyonu ve etik düşünceleri teşvik etmek.
Bu adımları atarak, YZ’nin viroloji araştırmalarını ilerletme ve bulaşıcı hastalıklarla mücadele etme konusundaki muazzam potansiyelinden yararlanabilirken, kötüye kullanımıyla ilişkili riskleri de azaltabiliriz. Viroloji alanındaki YZ’nin geleceği, bu karmaşık ortamda sorumlu bir şekilde gezinme ve bu güçlü teknolojilerin insanlığın yararına kullanılmasını sağlama yeteneğimize bağlıdır.