Hindistan ile Pakistan arasındaki kısa süreli çatışma sırasında, yanlış bilgiler hızla arttı ve sosyal medya kullanıcıları doğrulamak için AI sohbet robotlarına güvenmeye başladı. Ancak bu sohbet robotları, aslında daha fazla yanlış bilgi sağlayarak, onların haber doğrulama aracı olarak ne kadar güvenilmez olduklarını vurguladı. Büyük teknoloji platformları, insan faktörlü haber doğrulayıcı sayısını azaltmaya devam ederken, kullanıcılar güvenilir bilgi arayışında xAI’nın Grok’u, OpenAI’nın ChatGPT’si ve Google’ın Gemini’si gibi AI destekli sohbet robotlarına giderek daha fazla bağımlı hale geliyor.
AI Sohbet Robotlarının Haber Doğrulamada Yükselişi
Elon Musk’ın X platformunda (eski adıyla Twitter), kullanıcıların sıkça sorduğu bir soru haline geldi: "@Grok, bu doğru mu?". Grok, X platformuna entegre edilmiş bir AI asistanı olup, sosyal medyada anında yalanlamalar arayan kullanıcıların eğilimini yansıtıyor. Ancak bu AI sohbet robotlarının yanıtları genellikle yanlış bilgilerle dolu oluyor.
Grok, son zamanlarda aşırı sağcı komplo teorisi olan "beyaz soykırımı"nı ilgisiz sorgulara dahil ettiği için yakın incelemeye alındı. Grok, Sudan’ın Hartum Havalimanı’ndan gelen eski bir video kaydını, Hindistan-Pakistan çatışması sırasında Pakistan’ın Nur Khan Hava Üssü’ne yapılan bir füze saldırısı olarak yanlış bir şekilde tanımladı. Ayrıca, Nepal’de yanan bir bina, "muhtemelen" Pakistan’ın Hindistan’a yönelik bir saldırısına askeri bir yanıtı gösterdiği şeklinde yanlış bir şekilde tanımlandı.
AI Haber Doğrulamanın Sınırları
Bilgi izleme kuruluşu NewsGuard’dan araştırmacı McKenzie Sadeghi, AFP’ye şunları söyledi: "X ve diğer büyük teknoloji şirketleri, insan faktörlü haber doğrulayıcılara yaptıkları yatırımları azalttıklarından, insanlar haber doğrulayıcı olarak Grok’a giderek daha fazla güveniyorlar." "Araştırmamız, AI sohbet robotlarının özellikle son dakika haberleri söz konusu olduğunda güvenilir bir haber ve bilgi kaynağı olmadığını defalarca göstermiştir" diye uyarıyor.
NewsGuard’ın araştırması, Grok da dahil olmak üzere önde gelen 10 sohbet robotunun, Rusya’nın yanlış propaganda anlatıları ve Avustralya’daki son seçimlerle ilgili yanlış veya yanıltıcı iddialar da dahil olmak üzere yanlış bilgileri kolayca tekrarladığını buldu. Columbia Üniversitesi Dijital Gazetecilik Merkezi Tow Center’ın yakın zamanda yaptığı sekiz AI arama aracını inceleyen bir araştırma, sohbet robotlarının "genellikle doğru bir şekilde yanıtlayamadıkları soruları reddetmekte iyi olmadığını, bunun yerine yanlış veya spekülatif yanıtlar verdiğini" ortaya koydu.
AFP’nin Uruguay’daki haber doğrulayıcıları, Gemini’ye AI tarafından oluşturulmuş bir kadın görüntüsü hakkında soru sorduğunda, Gemini yalnızca görüntünün gerçek olduğunu doğrulamakla kalmadı, aynı zamanda kadının kimliği ve görüntünün çekilmiş olabileceği yerler hakkında ayrıntılı bilgiler uydurdu.
Grok yakın zamanda, Amazon Nehri’nde yüzen dev bir anakondayı gösterdiği iddia edilen bir videoyu "gerçek" olarak etiketledi ve hatta sahte iddiasını desteklemek için kulağa güvenilir gelen bilimsel keşif gezilerini bile kaynak gösterdi. Aslında, bu video AI tarafından oluşturulmuştu ve AFP’nin Latin Amerika’daki haber doğrulayıcıları, birçok kullanıcının videonun gerçek olduğuna dair kanıt olarak Grok’un değerlendirmesine atıfta bulunduğunu bildirdi.
AI Haber Doğrulamaya İlişkin Endişeler
Bu bulgular, giderek artan sayıda çevrimiçi kullanıcının bilgi toplamak ve doğrulamak için geleneksel arama motorlarından AI sohbet robotlarına yöneldiği araştırmaların ortaya çıkmasıyla birlikte endişelere yol açtı. Aynı zamanda, Meta bu yılın başlarında ABD’deki üçüncü taraf haber doğrulama programını sona erdireceğini ve yalanlama görevini X platformu tarafından desteklenen "topluluk notları" adlı bir modeli benimseyerek sıradan kullanıcılara devredeceğini duyurdu. Ancak araştırmacılar, "topluluk notları"nın yanlış bilgilerle mücadeledeki etkinliğini defalarca sorguladılar.
İnsan faktörlü haber doğrulama, özellikle ABD’de, muhafazakarların ifade özgürlüğünü bastırdığını ve sağcı içeriği sansürlediğini iddia etmesiyle uzun süredir kutuplaşmış bir siyasi iklimde bir tartışma noktası olmuştur, ancak profesyonel haber doğrulayıcılar bu iddialara şiddetle karşı çıkmaktadır.
AFP şu anda Asya, Latin Amerika ve Avrupa Birliği de dahil olmak üzere 26 dilde Facebook’un haber doğrulama programıyla işbirliği yapmaktadır.
AI sohbet robotlarının kalitesi ve doğruluğu, nasıl eğitildiklerine ve programlandıklarına bağlı olarak değişebilir ve bu da çıktılarının siyasi olarak etkilenebileceği veya kontrol edilebileceği endişelerini artırmaktadır.
Musk’ın xAI’sı yakın zamanda Grok’un Güney Afrika’da bir "beyaz soykırımı"na atıfta bulunan istenmeyen gönderiler oluşturmasını "yetkisiz değişikliklere" bağladı. AI uzmanı David Caswell, Grok’a sistem istemlerini kimin değiştirmiş olabileceğini sorduğunda, sohbet robotu Musk’ı "en olası" suçlu olarak listeledi.
Elon Musk, Güney Afrika doğumlu bir milyarder ve ABD Başkanı Donald Trump’ın destekçisi. Daha önce, Güney Afrikalı liderlerin "beyazlara karşı soykırımı açıkça teşvik ettiğine" dair asılsız iddialar yaymıştı.
Uluslararası Haber Doğrulama Ağı Direktörü Angie Holan, AFP’ye şunları söyledi: "AI asistanlarının, insan kodlayıcılar talimatlarını özel olarak değiştirdikten sonra sonuçları uydurabileceğini veya önyargılı yanıtlar verebileceğini gördük." "Özellikle Grok’un, önceden yetkilendirilmiş yanıtlar sağlayan talimatlar aldıktan sonra çok hassas konularla ilgili istekleri nasıl ele aldığı konusunda endişeliyim."
AI Sohbet Robotlarının Bilgi Alanındaki Riskleri
AI sohbet robotlarının bilgi sağlamadaki artan kullanımı, potansiyel olarak yanıltıcı ve manipülatif etkilerine ilişkin ciddi endişeler yaratmaktadır. Bu teknolojiler, bilgilere hızlı erişim ve araştırmayı kolaylaştırma gibi avantajlara sahip olsa da, doğasında var olan sınırlamalar ve önyargılar, kasıtlı veya kasıtsız olarak yanlış bilgilerin veya propagandanın yayılmasına neden olabilir.
AI Sohbet Robotlarının Doğasında Var Olan Sınırlamalar
AI sohbet robotları, büyük miktarda metin verisini analiz ederek öğrenirler, ancak insanlardaki eleştirel düşünme becerilerinden yoksundurlar. Bu, verilerden kalıpları çıkarıp makul görünen yanıtlar üretebilecekleri, ancak altta yatan anlamı veya bağlamı gerçekten anlamadıkları anlamına gelir. Bu bilgi eksikliği, yanlış, eksik veya yanıltıcı bilgilerin üretilmesine yol açabilir.
Ek olarak, AI sohbet robotlarının eğitim verileri, üretilen yanıtlara yansıyan önyargılar içerebilir. Örneğin, eğitim verileri ağırlıklı olarak belirli bir kaynaktan veya bakış açısıyla geliyorsa, sohbet robotu bu kaynak veya bakış açısına karşı bir tercih sergileyebilir ve böylece önyargılı bilgiler yayabilir.
AI Sohbet Robotlarının Getirdiği Riskler
Bilgi edinmek için AI sohbet robotlarına güvenenlerin sayısı arttıkça, yanlış bilgilerin yayılma riski de artmaktadır. Bir sohbet robotu yanlış veya yanıltıcı bilgiler üretirse, kullanıcılar farkında olmadan bu bilgileri kabul edebilir ve yayabilir ve bu da yanlış inançların yaygınlaşmasına yol açabilir.
Ek olarak, AI sohbet robotları, propaganda yaymak veya kamuoyunu manipüle etmek gibi kötü niyetli amaçlar için kullanılabilir. Kötü niyetli aktörler, eğitim verilerini dikkatlice tasarlayarak veya algoritmaları ince ayar yaparak, sohbet robotlarını belirli türden yanıtlar üretmeye yönlendirebilir ve böylece kullanıcıların inançlarını ve davranışlarını etkileyebilir.
Riskleri Azaltmak İçin Nasıl Önlemler Alınır?
AI sohbet robotlarıyla ilişkili riskleri azaltmak için birkaç önlem almak gerekir. İlk olarak, geliştiriciler AI sohbet robotlarının eğitim verilerinin olabildiğince kapsamlı ve tarafsız olmasını sağlamaya çalışmalıdır. Bu, önyargıların etkisini azaltmak için farklı kaynaklardan ve bakış açılarından çeşitli veri örnekleri eklemeyi gerektirebilir.
İkincisi, AI sohbet robotları herhangi bir yanlış veya önyargılı eğilimi belirlemek ve düzeltmek için titizlikle test edilmeli ve değerlendirilmelidir. Bu, sohbet robotu tarafından üretilen yanıtların insan tarafından doğrulanmasını ve doğruluğunu ve tarafsızlığını değerlendirmek için çeşitli metriklerin kullanılmasını gerektirebilir.
Üçüncüsü, kullanıcılar eleştirel düşünmeye devam etmeli ve AI sohbet robotları tarafından sağlanan bilgilere körü körüne güvenmemelidir. Kullanıcılar her zaman farklı kaynaklardan gelen bilgileri karşılaştırmalı ve sohbet robotlarında olabilecek önyargıların farkında olmalıdır.
Teknoloji Platformlarının ve Toplulukların Rolü
Teknoloji platformları ve topluluklar, AI sohbet robotları tarafından üretilen içeriği düzenleme ve denetleme konusunda önemli bir rol oynamaktadır. Platformlar yanlış bilgileri veya propagandayı tanımlamak ve kaldırmak için politikalar uygulayabilir ve sohbet robotları tarafından üretilen yanıtların doğruluğunu doğrulamak için haber doğrulama kuruluşlarıyla işbirliği yapabilir. Ek olarak, topluluklar AI sohbet robotlarının sınırlamaları ve önyargıları hakkında tartışmaları teşvik ederek kullanıcı farkındalığını artırmaya yardımcı olabilir ve kullanıcıları eleştirel düşünmeye teşvik edebilir.
Sonuç
AI sohbet robotları faydalı bir araçtır, ancak aynı zamanda bazı doğasında var olan sınırlamalar ve riskler de taşırlar. Bu teknolojilerin sorumlu bir şekilde kullanılmasını sağlamak ve yanlış bilgilerin ve manipülasyonun yayılmasını azaltmak için geliştiricilerin, düzenleyicilerin ve kullanıcıların tetikte olması gerekir. Gerekli önlemleri alarak, AI sohbet robotlarının potansiyel zararlarını en aza indirirken, avantajlarını en üst düzeye çıkarabiliriz.