Yapay zekanın (YZ) karar verme süreçlerindeki insan kusurlarını yansıtma eğilimi üzerine yapılan son araştırmalar, bu teknolojinin karmaşık doğasını gözler önüne seriyor. YZ sistemlerinin, insanlarda gözlemlenen irrasyonel davranışlara benzer eğilimler sergileyebilmesi, geleneksel olarak YZ’nin tarafsız ve objektif bir araç olduğu algısına meydan okuyor. Bu durum, YZ’nin çeşitli uygulamalardaki pratik faydasının yeniden değerlendirilmesini zorunlu kılıyor.
ChatGPT gibi önde gelen bir YZ sisteminin davranışları, insan psikolojisinde yaygın olarak bilinen bilişsel yanılgılar açısından titizlikle incelendi. Manufacturing & Service Operations Management dergisinde yayımlanan bu çalışma, ChatGPT’nin değerlendirilen senaryoların neredeyse yarısında irrasyonel karar verme kalıpları sergilediğini ortaya koydu. Sıcak el yanılgısı (hot hand fallacy), temel oran ihmali (base-rate neglect) ve batık maliyet yanılgısı (sunk cost fallacy) gibi iyi bilinen bilişsel yanılgıları içeren bu kalıplar, YZ’nin kritik karar verme bağlamlarındaki güvenilirliği ve uygunluğu hakkında önemli endişeler yaratıyor.
YZ’deki İnsan Benzeri Kusurların Ortaya Çıkarılması
Kanada ve Avustralya’daki beş seçkin akademik kurumdan uzmanların işbirliğiyle yürütülen bu araştırma, OpenAI’nin ChatGPT’ye güç veren temel büyük dil modelleri (LLM’ler) olan GPT-3.5 ve GPT-4’ün performansını titizlikle değerlendirdi. Çalışmanın kapsamlı analizi, bu LLM’lerin akıl yürütme süreçlerinde sergiledikleri "etkileyici tutarlılığa" rağmen, insan benzeri kusurlardan ve önyargılardan uzak olmadığını ortaya çıkardı.
Yazarlar, YZ sistemlerindeki bu doğal tutarlılığın hem avantajlar hem de dezavantajlar sunduğunu vurguladı. Tutarlılık, açık ve formüle edilmiş çözümler gerektiren görevleri kolaylaştırabilirken, öznel veya tercihe dayalı kararlara uygulandığında potansiyel riskler oluşturabilir. Bu tür senaryolarda, YZ tarafından insan önyargılarının tekrarlanması, hatalı sonuçlara ve çarpık sonuçlara yol açabilir.
Çalışmanın baş yazarı ve Ivey Business School’da işletme yönetimi yardımcı doçenti olan Yang Chen, YZ araçlarının uygun uygulamalarını ayırt etmenin önemini vurguladı. YZ’nin hassas hesaplamalar ve mantıksal akıl yürütme gerektiren görevlerde mükemmel olduğunu, ancak öznel karar verme süreçlerinde uygulanmasının dikkatli değerlendirme ve tetikte izleme gerektirdiğini belirtti.
YZ’de İnsan Önyargılarının Simülasyonu
YZ sistemlerinde insan önyargılarının varlığını derinlemesine incelemek için araştırmacılar, riskten kaçınma, aşırı güven ve bağış etkisi (endowment effect) dahil olmak üzere yaygın olarak bilinen insan önyargılarını yansıtan bir dizi deney tasarladılar. ChatGPT’ye bu önyargıları tetiklemek için tasarlanmış istemler sundular ve YZ’nin insanlarla aynı bilişsel tuzaklara düşüp düşmeyeceğini belirlemek için yanıtlarını titizlikle analiz ettiler.
Bilim insanları, LLM’lere geleneksel psikoloji deneylerinden uyarlanmış varsayımsal sorular yöneltti. Bu sorular, envanter yönetimi ve tedarikçi müzakereleri gibi alanları kapsayan gerçek dünya ticari uygulamaları bağlamında çerçevelendi. Amaç, YZ’nin insan önyargılarını taklit edip etmeyeceğini ve bu önyargılara yatkınlığının farklı iş alanlarında devam edip etmeyeceğini belirlemekti.
Sonuçlar, GPT-4’ün açık matematiksel çözümleri olan sorunları çözmede öncülü GPT-3.5’ten daha iyi performans gösterdiğini ortaya koydu. GPT-4, olasılık hesaplamaları ve mantıksal akıl yürütme gerektiren senaryolarda daha az hata sergiledi. Ancak, kazanç elde etmek için riskli bir seçeneği takip edip etmemeye karar vermek gibi öznel simülasyonlarda, sohbet robotu sıklıkla insanlar tarafından sergilenen irrasyonel tercihleri yansıttı.
YZ’nin Kesinliğe Tercihi
Özellikle, çalışma, "GPT-4’ün kesinliğe insanlardan bile daha güçlü bir tercih gösterdiğini" ortaya koydu. Bu gözlem, YZ’nin belirsiz görevlerle karşı karşıya kaldığında daha güvenli ve daha öngörülebilir sonuçları tercih etme eğiliminin altını çiziyor. Kesinliğe eğilim, bazı durumlarda avantajlı olabilir, ancak aynı zamanda YZ’nin yenilikçi çözümleri keşfetme veya öngörülemeyen durumlara uyum sağlama yeteneğini de sınırlayabilir.
Önemli olarak, sohbet robotlarının davranışları, soruların soyut psikolojik problemler veya operasyonel iş süreçleri olarak sunulup sunulmadığına bakılmaksızın dikkate değer ölçüde tutarlı kaldı. Bu tutarlılık, gözlemlenen önyargıların yalnızca ezberlenmiş örneklerin bir sonucu olmadığını, aksine YZ sistemlerinin nasıl akıl yürüttüğü ve bilgi işlediğinin doğal bir yönü olduğunu gösteriyor. Çalışma, YZ tarafından sergilenen önyargıların akıl yürütme mekanizmalarına gömülü olduğu sonucuna vardı.
Çalışmanın en şaşırtıcı ifşalarından biri, GPT-4’ün zaman zaman insan benzeri hataları nasıl artırdığıydı. Doğrulama önyargısı (confirmation bias) görevlerinde, GPT-4 sürekli olarak önyargılı yanıtlar verdi. Ayrıca, GPT 3.5’e göre sıcak el yanılgısına daha belirgin bir eğilim sergiledi, bu da rastlantısallıkta desenleri algılama konusunda daha güçlü bir eğilime işaret ediyor.
Önyargıdan Kaçınma Örnekleri
İlginç bir şekilde, ChatGPT, temel oran ihmali ve batık maliyet yanılgısı da dahil olmak üzere bazı yaygın insan önyargılarından kaçınma yeteneği gösterdi. Temel oran ihmali, bireylerin anekdot veya duruma özgü bilgiler lehine istatistiksel gerçekleri göz ardı ettiğinde ortaya çıkar. Batık maliyet yanılgısı, karar verme sürecinin halihazırda yapılmış olan maliyetlerden orantısız bir şekilde etkilenmesi ve rasyonel yargıyı karartması durumunda ortaya çıkar.
Yazarlar, ChatGPT’nin insan benzeri önyargılarının, insanların sergilediği bilişsel önyargıları ve sezgisel yöntemleri kapsayan, maruz kaldığı eğitim verilerinden kaynaklandığını savunuyorlar. Bu eğilimler, özellikle insan geri bildiriminin rasyonel olanlardan ziyade makul yanıtları önceliklendirdiği ince ayar sürecinde daha da güçleniyor. Belirsiz görevlerle karşı karşıya kaldığında, YZ doğrudan mantığa güvenmek yerine insan akıl yürütme kalıplarına yönelme eğilimindedir.
YZ’nin Önyargılarında Gezinme
YZ’nin önyargılarıyla ilişkili riskleri azaltmak için araştırmacılar, uygulamasına ihtiyatlı bir yaklaşım öneriyorlar. YZ’nin güçlü yönlerinin yattığı alanlarda, örneğin bir hesap makinesi tarafından gerçekleştirilenlere benzer şekilde, doğruluk ve tarafsız hesaplamalar gerektiren görevlerde kullanılmasını tavsiye ediyorlar. Bununla birlikte, sonucun öznel veya stratejik girdilere bağlı olduğu durumlarda, insan gözetimi çok önemli hale geliyor.
Chen, "Doğru, tarafsız karar verme desteği istiyorsanız, GPT’yi zaten bir hesap makinesine güveneceğiniz alanlarda kullanın" diye vurguluyor. Ayrıca, YZ’nin nüanslı yargı ve stratejik düşünme gerektiren bağlamlarda kullanılması durumunda, bilinen önyargıları düzeltmek için kullanıcı istemlerini ayarlamak gibi insan müdahalesinin gerekli olduğunu öne sürüyor.
Çalışmanın ortak yazarı ve Kanada’daki McMaster Üniversitesi’nde insan kaynakları ve yönetim doçenti olan Meena Andiappan, YZ’ye önemli kararlar veren bir çalışan gibi davranılmasını savunuyor. YZ’nin sorumlu ve etkili bir şekilde kullanılmasını sağlamak için gözetim ve etik yönergelere ihtiyaç duyulduğunu vurguluyor. Bu tür rehberlik sağlanamaması, karar verme süreçlerinde istenen iyileşme yerine, hatalı düşüncenin otomasyonuna yol açabilir.
Etkileri ve Değerlendirmeler
Çalışmanın bulguları, çeşitli sektörlerdeki YZ sistemlerinin geliştirilmesi ve konuşlandırılması üzerinde derin etkilere sahip. YZ’nin insan benzeri önyargılara yatkın olduğu gerçeği, belirli görevler için uygunluğunu dikkatle değerlendirmenin ve potansiyel riskleri azaltmak için güvenlik önlemleri uygulamanın öneminin altını çiziyor.
Karar verme süreçlerinde YZ’ye güvenen kuruluşlar, önyargı potansiyelinin farkında olmalı ve bunu ele almak için adımlar atmalıdır. Bu, önyargıyı azaltmak için ek eğitim verileri sağlamayı, önyargıya daha az eğilimli algoritmalar kullanmayı veya YZ kararlarının adil ve doğru olmasını sağlamak için insan gözetimini uygulamayı içerebilir.
Çalışma ayrıca, YZ önyargısının nedenleri ve sonuçları hakkında daha fazla araştırma yapılması gerektiğini vurguluyor. YZ sistemlerinin önyargıları nasıl geliştirdiğini daha iyi anlayarak, bunların en başından itibaren oluşmasını önleyecek stratejiler geliştirebiliriz.
Sorumlu YZ Uygulaması İçin Öneriler
YZ sistemlerinin sorumlu ve etkili bir şekilde uygulanmasını sağlamak için aşağıdaki öneriler dikkate alınmalıdır:
- YZ sistemlerini konuşlandırmadan önce potansiyel önyargılar için iyice değerlendirin. Bu, YZ sistemini önyargıya eğilimli olabileceği alanları belirlemek için çeşitli veri kümeleri ve senaryolar üzerinde test etmeyi içerir.
- Önyargıyı azaltmak için ek eğitim verileri sağlayın. Eğitim verileri ne kadar çeşitli ve temsili olursa, YZ sisteminin önyargı geliştirme olasılığı o kadar azdır.
- Önyargıya daha az eğilimli algoritmalar kullanın. Bazı algoritmalar önyargıya diğerlerinden daha yatkındır. Belirli bir görev için bir algoritma seçerken, önyargı potansiyelini dikkate almak önemlidir.
- YZ kararlarının adil ve doğru olmasını sağlamak için insan gözetimini uygulayın. İnsan gözetimi, YZ kararlarındaki herhangi bir önyargıyı belirlemeye ve düzeltmeye yardımcı olabilir.
- YZ’nin kullanımı için açık etik yönergeler oluşturun. Bu yönergeler, adalet, hesap verebilirlik ve şeffaflık gibi konuları ele almalıdır.
Kuruluşlar bu önerileri izleyerek, YZ sistemlerinin hem faydalı hem de sorumlu bir şekilde kullanılmasını sağlayabilirler. Bu araştırmadan elde edilen içgörüler, YZ’nin muazzam bir vaat taşıdığını, ancak uygulamasına ihtiyatla ve etik ilkelere bağlılıkla yaklaşmanın çok önemli olduğunu değerli bir hatırlatma olarak hizmet ediyor. Ancak o zaman YZ’nin tüm potansiyelinden yararlanabilirken, potansiyel tuzaklarına karşı da korunabiliriz.
H2 Başlıkları Açıklaması
Bu metinde H2 başlıkları, metnin ana bölümlerini ve temalarını belirtmek için kullanılmıştır. H2 başlıkları, okuyucunun metnin yapısını anlamasına ve ilgi alanlarına göre belirli bölümlere odaklanmasına yardımcı olur. Her bir H2 başlığı, o başlık altında tartışılan konuyu özetler ve metnin genel akışını yönlendirir. Örneğin, "YZ’deki İnsan Benzeri Kusurların Ortaya Çıkarılması" başlığı, o bölümde YZ sistemlerinde insanlardaki gibi kusurların ve önyargıların nasıl tespit edildiği ve analiz edildiği ile ilgili bilgilerin sunulacağını belirtir. Bu başlıklar, metni daha okunabilir ve anlaşılır hale getirerek, okuyucunun bilgileri daha kolay işlemesine olanak tanır.