Tramvay Problemi ve Ahlaki Seçimlerin Karmaşıklığı
Akademisyenler, gerçek dünyadaki zorlukların etik ikilemlerini temsil etmek için genellikle ‘tramvay problemi’ni kullanırlar. Tramvay probleminin klasik versiyonunda, kontrolden çıkmış bir tramvay bir grup insana doğru hızla ilerlemektedir. Tramvayı yönlendirerek grup kurtarılabilir, ancak masum bir kişi ölümcül şekilde yaralanacaktır. Sürücü ne yapmalı? Eski bir deyiş, iki kötünün en küçüğünü seçmeyi önerir, ancak gerçekte böyle bir ikilemle karşılaşıldığında karar nadiren basittir. ‘Karar Zamanı’ adlı eserde yazar Laurence Alison, tramvay problemi karşısında en az zarar verici kararı vermeye çalışılması gerektiğini savunur. Birden fazla seçenek sunulduğunda, her biri olumsuz sonuçlar doğuruyorsa, amaç en az miktarda zarar veren seçeneği belirlemek olmalıdır.
Tramvay problemi, insanların günlük olarak karşılaştığı çok yönlü zorlukların basitleştirilmiş bir temsilidir. Bu zorlukların üstesinden gelmek, yalnızca ahlaki değerlendirmeleri değil, aynı zamanda kişinin değerlerinin derinlemesine incelenmesini de içerir. Yaptığımız seçimler, değer yargılarımızı yansıtır. Farklı bireyler kaçınılmaz olarak farklı seçimler yapacaklardır ve eylemsizliğin de bir seçim olduğunu kabul etmek önemlidir, çünkü nadiren kesin cevaplar vardır.
Yapay zeka yeteneklerinin katlanarak ilerlemesine hayran kalırken, ‘Karar Zamanı’, birçok insanın karmaşık ve önemli konularda kesin kararlar vermekte zorlandığını hatırlatıyor. Değişken ortamlarla karşı karşıya kalan birçok sıradan insan, artıları ve eksileri tartma, kararlı bir şekilde hareket etme ve zamanında rota düzeltmeleri yapma kapasitesine sahip değildir. Makinelerin daha iyi durumda olmasını nasıl bekleyebiliriz? Bu, makinelerin insan yeteneklerini aşamayacağını önermek değil, daha ziyade makinelerin yalnızca insan seçimlerini taklit etmesi durumunda, kaçınılmaz olarak bol miktarda kusurlu kararla karşılaşacaklarını vurgulamaktır. Bu ‘kusurlu’ veya ‘doğru’ kavramı, yaşamın önemli kararlarına evrensel olarak uygulanabilir cevaplar olduğu anlamına gelmez, daha ziyade yaygın psikolojik tuzaklardan kaçınmak için karar verme süreçlerimizde sağlam muhakeme kullanıp kullanmadığımızı ifade eder.
Etkili Karar Almanın Önündeki Engeller
Değişkenlik, eksik bilgi ve zaman kısıtlamaları ile karakterize edilen durumlarda, etkili karar almanın önündeki temel engeller nelerdir? ‘Karar Zamanı’ üç temel engeli tanımlar:
- Hesap Verebilirlik Korkusu: Sorumluluk almaktan kaçınma, eylemsizlikle sonuçlanır. Pasif kalarak, kişi belirli bir seçimden kaynaklanan herhangi bir olumsuz sonuçtan sorumlu olmaktan kaçınır. Hesap verebilirlik korkusuna ek olarak, bir diğer endişe de karar sonrası pişmanlıktır; ek bilgi edindikten sonra bir karardan pişmanlık duymak. Bu tür bireyler, farklı seçimlerin daha olumlu sonuçlar verebileceği alternatif gerçeklikler hayal etme eğilimindedir.
- Seçim Felci: Özellikle seçimler fedakarlık gerektirdiğinde, çok sayıda seçenek arasından seçim yapmakta zorluk. Bu gibi durumlarda, en önemli ilke, en az zarar verici kararı vermektir; iki kötünün en küçüğünü seçmek. Ancak, bunu söylemek yapmaktan daha kolaydır. İnsan karar verme süreci genellikle duygusal faktörlerle iç içedir, bu da gaziler arasında travma sonrası stres bozukluğu (TSSB) fenomenini açıklar. Psikolojik çatışma, klasik sadakat ve evlatlık görev arasında seçim yapma ikileminde olduğu gibi, çatışan değerler çatıştığında en şiddetlidir. İdeal senaryo, kişinin eylemlerini derinden bağlı olduğu değerlerle uyumlu hale getirmektir, ancak çoğu zaman bireyler dışsal değer yargılarına göre kararlar almaya zorlanır ve bu da ciddi psikolojik sıkıntıya neden olur.
- Gecikmiş Uygulama: Karar ve eylem arasında aşırı gecikme. Paraşütçüler, kararsızlığın en büyük anının, atlamaya hazır olunduğu ancak hala geri çekilme seçeneğinin olduğu an olduğunu doğrulayacaktır. Bu fenomen, hayatı değiştiren birçok kararda yaygındır. Mutsuz bir evliliğe hapsolmuş bir kadın, çocukları büyüyüp evden ayrıldıktan sonra boşanmayı düşünebilir. Kocasının erdemlerini ve kusurlarını sırdaşlarıyla durmaksızın tartışabilir, bozuk bir plak gibi davranarak tekrar tekrar harekete geçmeden müzakere edebilir. Bunun antitezi, geride kalma kaygısıyla (FOMO) yönlendirilen, genellikle başarısızlıkla sonuçlanan aceleci kararlara yol açan Kaçırma Korkusudur.
Stratejik Karar Alma İçin STAR Çerçevesi
Peki, bu engelleri aşmak için ne yapılabilir? ‘Karar Zamanı’, aşağıdakileri kapsayan bir kısaltma olan STAR çerçevesini önermektedir:
- Senaryo: Durumsal farkındalığı geliştirmek, önce ne olduğunu belirlemeyi, sonra neden olduğunu anlamayı ve son olarak, muhtemelen ne olacağını tahmin etmeyi içerir. Deneyimli itfaiyeciler neden yangın durumlarını sezgisel olarak anlıyor? Çünkü çok sayıda senaryoyla karşılaştılar ve sağlam kararlar almak ve derhal harekete geçmek için deneyimlerinden hızla yararlanabiliyorlar. Malcolm Gladwell, ‘Blink: Düşünmeden Düşünmenin Gücü’ adlı eserinde benzer örnekleri araştırıyor.
- Zamanlama: ‘Zamanlama’ unsuru, makul bir zaman dilimi içinde hareket etmenin önemini ele almaktadır. Müzakerenin eylemsizliğe yol açtığı sözü burada geçerlidir. Yararlı bir benzetme, ‘yavaş, yavaş, hızlı, hızlı’ ritmiyle foxtrottur. Karar almanın ilk aşamalarında, ihtiyatlı olmak, dürtüsellikten kaçınmak ve yalnızca sezgiye güvenmekten kaçınmak akıllıcadır. Bunun yerine, yeterli bilgi edinmeye çalışın. Ancak, yürütmenin sonraki aşamalarında, mükemmel bilgiye ulaşılamadığı ve uzun süreli bilgi toplamanın marjinal faydaları azaldığı için hızlı hareket etmek çok önemlidir.
- Varsayımlar: Varsayımların açık bir şekilde ifade edilmesi çok önemlidir. Çoğu zaman, bireyler çelişkili kanıtları ve alternatif olasılıkları göz ardı ederken, önceden tasarlanmış fikirleriyle uyumlu bilgileri seçici olarak algılama eğilimindedir. Hamas’ın 2023’te İsrail’e saldırısı, stratejik varsayımlardaki bir başarısızlığı ortaya çıkardı. Başbakan Netanyahu’dan askeri ve istihbarat yetkililerine kadar İsrailli liderler, saldırıyı öngöremedi. Bunun nedeni, erken uyarı sinyallerinin olmaması değil, böyle bir olayın olasılığını yeterince değerlendirmemekti. İnanmayı seçtiğimiz şey, çoğu zaman hayal etmeyi seçtiğimiz şeyden daha az önemlidir.
- Revizyon: Sürekli ayarlama ve uyum sağlama yeteneği çok önemlidir. Bazı durumlarda, dayanıklılık ve sarsılmaz azim gereklidir; başarısızlık korkusu kişiyi önemli çabalarda bulunmaktan caydırmamalıdır. Diğer durumlarda, zamanında ayarlamalar ve batık maliyetlerin sonraki seçimleri etkilemesini önlemek için kayıpları azaltma yeteneği gereklidir. Ancak zorluk, bu tür kararları belirsiz durumlarda nasıl vereceğimizi anlamakta yatmaktadır. Yaygın tuzaklar arasında, kaçırılan fırsatlara yol açan azim eksikliği veya kaynakların israfıyla sonuçlanan aşırı azim yer alır.
Yapay Zekayı Karar Alma Sürecine Entegre Etmek
STAR çerçevesini inceledikten sonra, bunun yapay zeka için ne anlama geldiğini ve makinelerin karar alma yeteneklerimizi nasıl geliştirebileceğini düşünmek artık çok önemlidir. Bu bizi orijinal soruya geri getiriyor: Tüm kararları AGI’ye emanet edebilir miyiz?
Önümüzdeki yıllarda, yapay zeka giderek işi modüler hale getirecektir. Birçok görev, insanların ve makinelerin işbirliğiyle yürütülecek ve her biri dört temel alanda kendi güçlü yönlerinden yararlanacaktır:
- Karmaşıklık: Karmaşıklık ne kadar yüksek olursa, insanın uyum sağlama kapasitesi o kadar artar. Karmaşıklık iki boyutta kendini gösterir: belirsizlik (eksik bilgi) ve açık veya optimal seçimlerin olmaması. Deneyimli bireyler, bilgi kıt olduğunda bile cesur kararlar verebilirler. İnsanlar, ödünleşimleri tartma ve değer yargıları yapma özerkliğine sahiptir.
- Sıklık: Benzer görevlerin ortaya çıkma sıklığı ne kadar yüksek olursa, makineler bunları ele almak için o kadar donanımlıdır. Acil durum sevk senaryolarında bile, makineler deneyimli müdahale ekiplerinden öğrenebilir ve özellikle araba kazaları gibi yüksek frekanslı olaylarla uğraşırken sağlam seçimler yapabilirler.
- Koordinasyon: Gerçek dünyadaki görevler nadiren izoledir. İşbirliğini içerirler ve kapsamlı iletişim gerektirirler. STAR çerçevesinin her unsuru iletişime dayanır. Soru şu: Makineler iletişim etkinliğini ve verimliliğini artırabilir mi? İnsan iletişiminin kusurları olsa da, gayri resmi ve plansız etkileşimler çok önemli olabilir. Makineler bu nüansları anlayabilir mi?
- Başarısızlık Maliyeti: Özellikle yapay zeka bir hata yaptığında, başarısızlığın maliyeti nedir? Kuruluşlarda hesap verebilirlik çok önemlidir. Yapay zeka uygulamalarını teşvik ederken bile, karar vericiler potansiyel başarısızlık maliyetini göz önünde bulundurmalıdır.
Yapay Zeka Karar Almayı Nasıl Geliştirebilir?
Yapay zeka üç temel şekilde yardımcı olabilir:
- Bilişsel Darboğazları Kırmak: Yapay zeka, büyük miktarda veriyi işlemekte mükemmeldir ve bilişsel aşırı yüklenme endişelerini azaltır. Yapay zeka, genel manzarayı anlamamızı sınırlayan sezgi ve önyargıları önleyerek ‘foxtrot’ dansına yardımcı olabilir.
- Kolektif Zekayı Kullanmak: Yapay zeka, çeşitli kaynaklardan gelen yargıları bir araya getirebilir ve acemiler için karar desteği sağlayabilir.
- Psikolojik Zayıflıkları Azaltmak: Yapay zeka, eylem rehberliği sağlayabilir ve bazı psikolojik yükleri hafifleterek açık kurallar ve süreçler tanımlamaya yardımcı olabilir. Kararlı eylem gerektiği durumlarda, yapay zeka dizginleri ele alabilir.
Makineler hala kesin cevapları ve özerklik ve değer yargılarına dayalı seçimleri olmayan karmaşık durumlarla mücadele ediyor. Ayrıca nüanslar ve ödünleşimlerle de mücadele ediyorlar. Sonuçta, nihai karar insanlara aittir. Makineler vazgeçilmez müttefikler olarak hizmet ederken, daha iyi seçimler yapmayı öğrenebiliriz.