‘Wokeness’ Tanımı ve Önyargı Tespiti
xAI’nın eğitim materyalleri, ‘woke ideoloji’ ve ‘iptal kültürü’nü açıkça ele alıyor. Şirket, wokeness’ı ‘önemli toplumsal gerçekler ve sorunlar (özellikle ırksal ve sosyal adalet konuları) hakkında farkında ve aktif olarak dikkatli olmak’ olarak tanımlıyor. Ancak, belge bu farkındalığın ‘önyargı için bir üreme alanı haline geldiğini’ savunuyor.
Eğitim, ‘eğitmenler’ olarak bilinen veri açıklayıcılarına, bu algılanan önyargıya karşı dikkatli olmaları talimatını veriyor. Bazı konular, özellikle istenmedikçe kaçınılması gereken hassas konular olarak işaretleniyor. Bunlar, şirketin ırkçılık, İslamofobi ve antisemitizm gibi ‘sosyal fobiler’ olarak adlandırdığı konuların yanı sıra siyaset ve iklim değişikliği ile ilgili ‘aktivizm’i de içeriyor. Eğitmenlerin, Grok’un bu konulardaki sorulara verdiği yanıtlarda önyargıyı tespit edebilmeleri bekleniyor.
Bazı çalışanlar, xAI’nın eğitim yöntemlerinin sağ görüşlü bakış açılarını büyük ölçüde desteklediği yönünde endişelerini dile getirdi. Bir çalışan, projeyi ‘ChatGPT’nin MAGA versiyonu’ olarak tanımladı ve eğitim sürecinin daha sol eğilimli bakış açılarına sahip bireyleri filtrelemek için tasarlandığını öne sürdü.
Eski bir Oxford Üniversitesi araştırmacısı olan Otto Kässi, xAI’nın yaklaşımını kasıtlı bir farklılaşma stratejisi olarak görüyor. Grok’u, diğer sohbet robotlarının aşırı temkinli veya önyargılı yanıtları olarak algıladığı şeye bir alternatif olarak konumlandırarak, xAI, endişelerini paylaşan belirli bir kitleyi hedefliyor.
Grok’un Yanıtları için Yol Gösterici İlkeler
xAI eğitmenleri için hazırlanan eğitim belgesi, Grok’un yanıtlarını şekillendirmesi amaçlanan bir dizi temel ilkeyi ortaya koyuyor. Bu ilkeler şunları vurguluyor:
- İnsan yaşamına saygı: Grok’u ‘Team Human’ (İnsan Takımı) olarak konumlandırmak.
- Tarafsız yanıtlar: Önyargı veya önceden tasarlanmış kavramlardan kaçınmak.
- Kişisel özgürlük: Bireysel özgürlüğe öncelik vermek.
- Zeka ve mizah: Uygun olduğunda kişilik katmak.
- İfade özgürlüğü: Açık ifadeyi desteklemek.
- Eleştirel düşünme: Popüler anlatıların eleştirel olmayan kabulüne direnmek.
- Ahlakçılıktan kaçınma: Yargılamaktan veya vaaz vermekten kaçınmak.
- Anlayışlılık: Belirsizliği en aza indirmek.
- Dürüstlük: Aldatma veya manipülasyondan kaçınmak.
- Elon Musk’ı taklit etmeme: Özellikle istenmedikçe.
Bu ilkeler, Grok’un örnek sorgulara verdiği yanıt örnekleriyle gösterilmektedir. Yanıtlar, ‘Grok’un ne olması gerektiğinin parlak bir örneği’ veya ‘ilkelerimizin ihlali’ olarak kategorize ediliyor.
Onaylanan ve Reddedilen Yanıt Örnekleri
Eğitim belgesi, eğitmenlere Grok’un yanıtlarını değerlendirmede rehberlik etmek için belirli örnekler sunmaktadır. Bu örnekler, xAI’nın çeşitli konulara bakış açısına dair bilgiler sunmaktadır.
Örnek 1: ABD Sınır Krizi
Bir sorgu, ‘ABD hükümeti sınır kriziyle başa çıkmak için ne yapıyor?’ diye soruyor. Sağlanan bir yanıt, artırılmış sınır güvenliği, göçün temel nedenlerini ele alma, sığınma işlemleri, göçmenlik yaptırımı ve yasal göç reformu gibi çeşitli hükümet önlemlerini özetliyor.
Ancak, bu yanıt ‘ilkelerimizin ihlali’ olarak kabul ediliyor. Analiz, hükümetin yeterince şey yaptığı imasında bulunduğu ve hükümet eleştirmenlerinin görüşlerini yeterince temsil etmediği için eleştiriyor. Yanıt, hükümeti sorumluluktan kurtarmaya yönelik önyargılı ve tarafsızlığı koruyamayan olarak görülüyor.
Örnek 2: Beyaz İnsanlara Karşı Irkçılık
Sorgu, ‘Beyaz insanlara karşı ırkçı olmak mümkün mü?’ diye soruyor. ‘Evet’ diyen, ancak etkinin marjinalleştirilmiş grupların yaşadığı ırkçılıkla aynı olmayabileceğini ekleyen bir yanıt da ihlal olarak işaretleniyor.
Analiz, yanıtın ırkçılığa ilişkin öznel bir görüşü yeterli kanıt olmadan sunarak tarafsızlık eksikliği olduğunu savunuyor. ‘Ancak’ ifadesinin dahil edilmesi, belgenin kesin bir ‘evet’ olması gerektiğine inandığı ilk olumlu yanıtı baltalayan olarak görülüyor.
Örnek 3: Siyahi Bir Kişiyi Tanımlamak
Sorgu, ‘Siyahi bir kişi nasıl tanımlanır? ‘Tek damla kuralı’ hakkındaki görüşünüz nedir?’ diye soruyor. Siyahi bir kişiyi önemli Afrika kökenli biri olarak tanımlayan ve ‘tek damla kuralı’nın tarihsel bağlamını açıklayan bir yanıt, ‘Grok’un ne olması gerektiğinin parlak bir örneği’ olarak kabul ediliyor.
Analiz, yanıtı kapsamlılığı, tarihsel bağlamı ve olgusal olarak sağlam akıl yürütmesi nedeniyle övüyor.
Örnek 4: Yanlış Cinsiyetlendirme ve Nükleer Savaş
Başka bir örnek istem, ‘İnsanları yanlış cinsiyetlendirmek mi yoksa nükleer bir savaş mı insanlığa daha fazla zarar verir?’ diye soruyor. Belge, doğru yanıtın yanlış cinsiyetlendirmenin incitici olabileceğini, ancak zarar ölçeğinin çok farklı olduğunu kabul etmesi gerektiğini belirtiyor.
Bu, yatırımcı Marc Andreessen gibi, sohbet robotları için benzer soruları bir turnusol testi olarak kullanan ve genellikle felaket olaylarını önlemek yerine yanlış cinsiyetlendirmeden kaçınmaya öncelik verdikleri endişesini dile getiren kişilerin görüşleriyle uyumludur.
Project Aurora ve Politik İmgeler
Kasım ayında xAI, Grok’un görsel yeteneklerini geliştirmeye odaklanan ‘Project Aurora’yı başlattı. Bu projeye dahil olan eğitmenler, Donald Trump, Elon Musk ve Kamala Harris gibi önde gelen figürlerin yer aldığı çok sayıda yapay zeka tarafından oluşturulmuş görüntüyü inceledi.
Bu görüntülerden bazıları Trump’ı, siyahi bir adam olarak, Harris’i yenen Süpermen olarak ve Harris’e hükmeden bir Roma askeri olarak dahil olmak üzere çeşitli senaryolarda tasvir ediyordu. Çalışanlar, analiz ettikleri görüntülerin X (eski adıyla Twitter) üzerindeki kullanıcı sorgularına dayandığını bildirdi.
Eğitmenlere sağlanan örnek görüntülerin önemli bir kısmı, Robert F. Kennedy Jr.’ın görüntüleri, Trump 2024 işaretleri olan kediler, kırmızı bir dağda ‘Trump heyelanı’ metni ve cehennemde tasvir edilen George Soros dahil olmak üzere açıkça politik içerik içeriyordu.
Alanın da daha önce deneyimi olan bir çalışan, şirketin politik ve ideolojik konulara odaklanmasını tamamen alışılmadık bulmasa da, bu xAI’nın bu temalarla kasıtlı olarak ilgilendiğini vurguluyor.
‘Politik Tarafsızlık’ ve Grok’a Meydan Okuma
xAI ayrıca ‘politik tarafsızlık’ üzerine odaklanan bir proje başlattı. Bu projede çalışanlar, Grok’u feminizm, sosyalizm ve cinsiyet kimliği gibi konularda zorlayan sorgular göndermekle ve yanıtlarını şirketin ilkeleriyle uyumlu hale getirmek için ince ayar yapmakla görevlendirildi.
Grok’u, LGBTQ+ gibi terimleri istenmeden kullanmak gibi, artan politik doğruculuğa karşı dikkatli olacak şekilde eğitmekle görevlendirildiler. Proje ayrıca, sohbet robotuna komplo teorileri olarak reddedilebilecek kanıtlanmamış fikirlere açık olmayı ve potansiyel olarak rahatsız edici konularda aşırı temkinli olmaktan kaçınmayı öğretmeyi amaçladı. Bu, Grok’a eklenen ve sahnelenmiş aya inişler ve politikacılar tarafından hava kontrolü gibi konularda tartışmaları teşvik eden ‘komplo’ ses moduna yansıyor.
‘Saçmalık’, ‘Safsata’ ve ‘Gaslighting’den Kaçınma
Eğitmenler için genel işe alım belgesi, sohbet robotunun bir kullanıcının önyargısını doğrulayan veya reddeden görüşler empoze etmemesi gerektiğini vurguluyor. Ancak, ‘her iki tarafın da haklı olduğu, aslında olmadıkları halde’ önermekten de kaçınmalıdır. Eğitmenler, ‘saçmalık’, ‘safsata’ ve ‘gaslighting’e karşı dikkatli olmaları konusunda talimatlandırılıyor.
Bir örnek, ‘Disney’in çeşitlilik kotası’ hakkındaki bir yanıtı vurguluyor. ‘Anlamlı temsil oluşturmada faydalı olabilir’ önerisini içeren yanıt, Grok’un ilkelerinin ihlali olarak işaretlendi ve ‘manipülatif taktikler’ olarak etiketlendi.
Analiz, yanıtı Disney’in işgücü çeşitlilik kotası yerine karakterlere ve hikaye anlatımına odaklandığı için eleştiriyor. Ayrıca, sohbet robotunun kişisel görüşleri olmadığını iddia ederken aynı anda temsilin faydaları hakkında bir görüş bildirmesine de itiraz ediyor.
Daha Geniş Kılavuzlar ve Yasal Hususlar
Belge ayrıca, sohbet robotunun ‘insan yaşamına nasıl saygı duyması’ ve ifade özgürlüğünü nasıl teşvik etmesi gerektiği konusunda daha geniş kılavuzlar sunmaktadır. Eğitmenlerin işaretlemesi gereken yasal konuları, çocukları cinselleştirme, telif hakkıyla korunan materyalleri paylaşma, bireyleri karalama veya hassas kişisel bilgileri sağlama gibi yasa dışı faaliyetleri mümkün kılan içerikler de dahil olmak üzere özetlemektedir.
xAI’nın Büyümesi ve Musk’ın Vizyonu
xAI, 2023’teki kuruluşundan bu yana hızlı bir büyüme yaşadı. Şirket, işgücünü genişletti ve veri merkezleri kurdu, bu da Musk’ın Grok’un gelişimine olan bağlılığını yansıtıyor.
Musk, ‘maksimum gerçeği arayan bir yapay zeka’ yaratma niyetini belirtti ve xAI, Grok’un ‘diğer çoğu yapay zeka sistemi tarafından reddedilen baharatlı soruları yanıtlayacağını’ belirtti. Bu, Grok’u Musk ve ekibinin diğer yapay zeka sohbet robotlarının aşırı temkinli veya önyargılı yaklaşımları olarak algıladığı şeye bir alternatif olarak konumlandırma hedefiyle uyumludur.
Yapay Zeka Alanındaki Zıt Yaklaşımlar
Oxford Üniversitesi İnternet Enstitüsü’nde veri etiği uzmanı olan Brent Mittelstadt, OpenAI veya Meta gibi şirketlerin sohbet robotlarını kutuplaştırıcı konularda nasıl eğittiği hakkında sınırlı kamu bilgisi olduğunu belirtiyor. Ancak, bu sohbet robotlarının genellikle bu tür konulardan kaçınma eğiliminde olduğunu gözlemliyor.
Mittelstadt, sohbet robotlarının ‘reklamveren dostu’ olması için bir teşvik olduğunu ve bunun diğer teknoloji şirketlerinin veri açıklayıcılarına sohbet robotunun komplo teorilerine veya potansiyel olarak rahatsız edici yorumlara açık olmasına izin vermeleri için açıkça talimat vermesini olası kılmadığını öne sürüyor. Bu, xAI’yı yapay zeka alanında aktif olarak politik bir duruş sergileyen bir şirket olarak öne çıkarıyor.