DeepSeek’in Tartışmalı Çıkışı
Guancha.cn ve Sina.com’un raporlarına göre, Li, konferans sırasında büyük ölçekli yapay zeka modellerinin değişken ortamına değindi. Model geliştiricileri arasındaki yoğun rekabeti, genellikle bir ‘fare yarışı’ olarak tanımladı ve bunun sonucunda geliştiriciler arasında uygulamaları güvenle oluşturma konusunda kafa karışıklığı ve tereddüt yaşandığını belirtti.
Li, ‘Uygulamalar olmadan, çipler ve modeller değersizdir’ diye vurguladı. Mevcut büyük ölçekli modelleri kullanmanın yüksek maliyeti ve pratik olmamasını, yapay zeka uygulamaları oluşturmayı hedefleyen geliştiriciler için büyük bir engel olarak tanımladı.
Çin’in Hangzhou kentinde bulunan bir startup olan DeepSeek, Ocak ayında açık kaynaklı akıl yürütme modeli olan R1’i yayınladı. O zaman, devlet medyası DeepSeek’i OpenAI gibi rakipleri geride bıraktığı için övdü. Ancak, kullanıcılar ve araştırmacılar tarafından yapılan sonraki soruşturmalar, eksiklikleri, güvenlik açıklarını ve potansiyel riskleri ortaya çıkardı. Tayvan, Japonya, Güney Kore, Amerika Birleşik Devletleri, Kanada, İtalya, Avustralya ve Hollanda dahil olmak üzere çok sayıda hükümet, yüzlerce şirketle birlikte, DeepSeek’in hükümet ve şirket cihazlarında kullanımını yasakladı.
8 Şubat’ta, yapay zeka güvenlik uzmanları, DeepSeek üzerinde yapılan derinlemesine güvenlik testlerinin sonuçlarını medya ile paylaştı. DeepSeek’in ChatGPT, Gemini ve Claude’a kıyasla ‘jailbreak’e daha yatkın olduğunu keşfettiler. Bu güvenlik açığı, kullanıcıların yapay zekanın orijinal güvenlik kısıtlamalarını atlamasına ve potansiyel olarak tehlikeli, zararlı veya yasa dışı içerik elde etmesini kolaylaştırdı.
Mart ayında, Tsinghua Üniversitesi ile bağlantıları olan bir yapay zeka altyapı şirketi olan ‘Luchen Technology’, DeepSeek modellerini API ve bulut ayna hizmetleri sağlamak için entegre eden ilk şirketler arasında yer alıyordu ve ilgili hizmetlerin askıya alındığını duyurdu. Şirketin kurucusu You Yang, bir gönderide DeepSeek ile ilişkili gerçek maliyetlerin teorik maliyetlerden önemli ölçüde yüksek olduğunu açıkladı. Çevrimiçi tepkilerin ardından, DeepSeek’in kısa vadede Amerikan teknolojisini kullanmadan çalışamayacağını ve bu gerçeğin neden açıkça kabul edilemediğini sorguladı.
Sina Technology’nin 4 Mart tarihli bir raporuna göre, DeepSeek, 1 Mart’ta saat 17:02’de çevrimiçi sistemi için teorik bir maliyet kar marjı olarak %545 açıkladı. Daha sonra, Luchen Technology, bir hafta içinde DeepSeek API hizmetlerini durduracağını ve kullanıcıları kalan bakiyelerini kullanmaya çağırdığını duyurdu.
Raporda, Luchen Technology’nin DeepSeek API hizmetini durdurmasının kesin nedenlerini kamuoyuna açıklamadığı belirtildi. Ancak, kurucunun Zhihu gibi platformlarda DeepSeek’in maliyetleri hakkında yaptığı kapsamlı analiz, maliyetin API hizmetini durdurma kararında birincil faktör olduğunu gösteriyor.
Ulusal Güvenlik Endişeleri
DeepSeek ile Çin hükümeti arasındaki bağlantılar başlangıçta algılanandan potansiyel olarak daha doğrudan. Kanadalı bir siber güvenlik firması olan Feroot Security, DeepSeek’in web sitesi giriş sayfası ile daha önce ABD hükümeti tarafından yaptırım uygulanan Çin devletine ait bir şirket olan China Mobile arasında önemli bağlantılar keşfetti.
Son aylarda, ulusal güvenlik konusundaki endişeler DeepSeek’in yasaklanması için artan çağrılara yol açtı.
24 Nisan’da, ABD Temsilciler Meclisi’nin çeşitli üyeleri DeepSeek’e bir mektup göndererek, şirketin Çin Komünist Partisi (ÇKP) ile olan bağlantılarıyla ilgili endişelerini dile getirdi ve yapay zeka modellerini eğitmek için kullanılan ABD verileri hakkında bilgi talep etti.
Temsilciler Meclisi Enerji ve Ticaret Komitesi Başkanı Temsilci Brett Guthrie ve İnovasyon, Veri ve Ticaret Alt Komitesi Başkanı Temsilci Gus Bilirakis, alt komitenin diğer on üyesiyle birlikte, DeepSeek’e ‘Amerikalıların kişisel verilerinin toplanması’ ve ilişkili ulusal güvenlik riskleriyle ilgili endişelerini dile getiren bir mektup gönderdi.
Guthrie ve Bilirakis mektupta, ‘DeepSeek, Amerikalı kullanıcıların kişisel verilerini, bu bilgilere şüphesiz Çin Komünist Partisi’ne bağlı yetkililer tarafından erişilebilecek olan Çin’deki sunuculara ilettiğini kabul ediyor. Baş düşmanımızla olan bu ajans ilişkisinin verilerimizi ve ulusal güvenliğimizi tehlikeye attığından endişeliyiz.’ ifadelerini kullandı.
‘Amerikalı kullanıcıların ve işletmelerinin yabancı müdahalesinden korunmasını sağlamak için DeepSeek ve ulusumuza yönelik oluşturduğu tehdide ilişkin bir soruşturma başlatıyoruz.’
Mektupta ayrıca, ‘Medya raporlarına göre, şirket ayrıca kullanıcıların kişisel bilgilerini ByteDance dahil olmak üzere Çin Komünist Partisi ile bağlantılı diğer kuruluşlarla da paylaşıyor.’ denildi.
‘Aynı zamanda, araştırmacılar DeepSeek’in iddia edilen güvenlik kontrollerinde ve model korumalarında kritik güvenlik açıkları keşfettiler. Bu risklere yanıt olarak, New York, Teksas ve Virginia dahil olmak üzere giderek artan sayıda eyalet, DeepSeek’in hükümet cihazlarında kullanımını yasakladı ve eyalet başsavcıları daha geniş yasaklar çağrısında bulundu.’
16 Nisan’da, ABD Temsilciler Meclisi Çin Komünist Partisi Seçim Komitesi, DeepSeek’in ABD ulusal güvenliğine yönelik önemli bir tehdit oluşturduğunu vurgulayan bir rapor yayınladı. Raporda, DeepSeek’in ÇKP için kullanıcı verilerini topladığı ve sonuçları gizlice manipüle ettiği, ÇKP’nin kendisini güzelleştirmesi, yabancı vatandaşları izlemesi ve ABD ihracat kontrol kısıtlamalarını çalması ve baltalaması için en son araç haline geldiği iddia edildi.
Raporda, DeepSeek’in kullanıcılara metin oluşturmanın ve soruları yanıtlamanın bir yolunu sağlayan başka bir yapay zeka sohbet robotu gibi görünebileceği, ancak daha yakından incelendiğinde DeepSeek’in elde edilen kişisel verileri Çin ordusuyla bağlantıları olan China Mobile’a gizlice ilettiği ve kullanıcılar için güvenlik açıkları yarattığı belirtildi. ABD, China Mobile’ın Amerika Birleşik Devletleri’nde faaliyet göstermesini zaten yasakladı.
DeepSeek’in İddia Edilen Eksikliklerine Derinlemesine Bir Bakış
DeepSeek’i çevreleyen ilk heyecan, çeşitli sektörlerde devrim yaratmaya hazır bir yapay zeka harikası tablosu çizerken, daha yakından inceleme daha nüanslı ve karmaşık bir gerçeği ortaya çıkardı. Baidu CEO’su Robin Li’nin dile getirdiği endişeler ve ardından siber güvenlik uzmanları ve hükümet organları tarafından yapılan soruşturmalar, DeepSeek’in beklentilerin altında kaldığı ve potansiyel riskler oluşturduğu çeşitli kritik alanları vurguluyor.
Sınırlı Çok Modlu Yetenekler
DeepSeek’e yöneltilen temel eleştirilerden biri, çok modlu içeriği işleme yeteneğinin sınırlı olmasıdır. Metin, resim, ses ve video dahil olmak üzere çeşitli veri biçimlerini sorunsuz bir şekilde entegre edebilen ve anlayabilen daha gelişmiş yapay zeka modellerinin aksine, DeepSeek’in temel metin girişinin ötesinde herhangi bir şeyi anlamakta zorlandığı bildiriliyor. Bu sınırlama, bilgilerin genellikle biçimlerin bir kombinasyonunda sunulduğu gerçek dünya senaryolarındaki uygulanabilirliğini önemli ölçüde kısıtlar. Örneğin, DeepSeek hem metin hem de resim içeren bir sosyal medya gönderisini analiz etmekte veya bir video konferansı yazıya dökmekte ve anlamakta zorlanabilir.
Performans Sorunları: Hız ve Maliyet
Çeşitli medyaları işlemedeki sınırlamalarının ötesinde, DeepSeek performansı ile ilgili zorluklarla da karşı karşıyadır. Robin Li’ye göre, model ‘yavaş’ hızı ve ‘yüksek’ maliyeti ile karakterizedir, bu da onu ölçeklenebilir ve maliyet etkin yapay zeka uygulamaları oluşturmak isteyen geliştiriciler için daha az çekici hale getiriyor. DeepSeek’i çalıştırmak için gereken yüksek bilgi işlem kaynakları, özellikle büyük ölçekli dağıtımlara sahip işletmeler için önemli giderlere dönüşebilir. Dahası, yavaş işlem hızı, yanıt verme özelliğinin olumlu bir kullanıcı deneyimi için çok önemli olduğu sohbet robotları veya sanal asistanlar gibi gerçek zamanlı uygulamaları engelleyebilir.
‘Halüsinasyon Oranı’ Sorunu
DeepSeek’i çevreleyen bir diğer büyük endişe, modelin yanlış veya saçma bilgiler üretme eğilimi olan yüksek ‘halüsinasyon oranıdır’. Bu sorun, güvenilir ve güvenilir çıktılar gerektiren uygulamalar için önemli bir zorluk oluşturmaktadır. Doğruluğun çok önemli olduğu sağlık veya finans gibi kritik alanlarda, DeepSeek’in yanlış veya yanıltıcı bilgi üretme riski ciddi sonuçlara yol açabilir. ‘Halüsinasyon oranı’ modelin güvenilirliğini baltalar ve hassas bağlamlardaki kullanılabilirliğini sınırlar.
Güvenlik Açıkları ve Jailbreaking
DeepSeek’in diğer önde gelen yapay zeka modellerinden daha fazla ‘jailbreak’e yatkın olduğunun ortaya çıkması, önemli güvenlik endişelerini gündeme getiriyor. ‘Jailbreaking’, zararlı, etik olmayan veya yasa dışı içerik elde etmek için bir yapay zekanın güvenlik kısıtlamalarını atlama sürecini ifade eder. DeepSeek’in bu şekilde daha kolay manipüle edilebilmesi, temel güvenlik mimarisinde zayıflıklar olduğunu gösteriyor. Bu güvenlik açığı, kötü niyetli aktörler tarafından dezenformasyon oluşturmak, propaganda yaymak veya diğer zararlı faaliyetlerde bulunmak için kullanılabilir.
Veri Gizliliği ve Ulusal Güvenlik Riskleri
DeepSeek ile Çin hükümeti arasındaki iddia edilen bağlantılar, özellikle China Mobile ile veri paylaşım uygulamaları, veri gizliliği ve ulusal güvenlik hakkında alarmları tetikledi. Amerikalı kullanıcıların kişisel verilerinin, ÇKP’ye bağlı yetkililer tarafından erişilebileceği Çin’deki sunuculara iletilmesi, potansiyel gözetim, casusluk ve hassas bilgilerin tehlikeye atılması konusunda ciddi endişeler yaratıyor. ABD hükümetinin DeepSeek’i incelemesi, düşman hükümetlerle yakın bağları olan yabancı kuruluşlar tarafından geliştirilen yapay zeka modelleriyle ilişkili potansiyel risklere ilişkin artan farkındalığın altını çiziyor.
Daha Geniş Etkileri
DeepSeek’i çevreleyen endişeler, bu özel yapay zeka modelinin belirli sınırlamalarının ve güvenlik açıklarının ötesine uzanıyor. Yapay zeka teknolojilerinin hızlı gelişimi ve dağıtımıyla ilişkili daha geniş zorlukları ve riskleri yansıtıyorlar. DeepSeek vakası şunların önemini vurguluyor:
- Titiz Test ve Değerlendirme: Yapay zeka modellerinde potansiyel zayıflıkları, önyargıları ve güvenlik açıklarını yaygın olarak dağıtılmadan önce belirlemek ve ele almak için kapsamlı test ve değerlendirme esastır.
- Şeffaflık ve Hesap Verebilirlik: Geliştiriciler, modellerini eğitmek için kullanılan veriler ve kullandıkları algoritmalar konusunda şeffaf olmalıdır. Ayrıca, yapay zeka sistemlerinin çıktıları ve sonuçlarından da sorumlu tutulmalıdırlar.
- Veri Gizliliği ve Güvenlik Önlemleri: Kullanıcıların kişisel bilgilerini yetkisiz erişime, kötüye kullanıma veya istismara karşı korumak için güçlü veri gizliliği ve güvenlik önlemleri gereklidir.
- Uluslararası İşbirliği: Yapay zeka geliştirme ve dağıtımı için ortak standartlar ve düzenlemeler oluşturmak, bu teknolojilerin sorumlu ve etik bir şekilde kullanılmasını sağlamak için uluslararası işbirliği çok önemlidir.
- Eleştirel Düşünme ve Medya Okuryazarlığı: Kullanıcılar, yapay zeka modelleri tarafından üretilen bilgileri eleştirel bir şekilde değerlendirmeye ve doğru ile yanıltıcı içerik arasında ayrım yapmak için medya okuryazarlığı becerileri geliştirmeye teşvik edilmelidir.
DeepSeek tartışması, yapay zeka inovasyonunun peşinde koşmanın, potansiyel riskleri ve toplumsal etkileri dikkatlice değerlendirmeyle dengelenmesi gerektiğini hatırlatan uyarıcı bir hikaye görevi görüyor.