2019’da, MIT Technology Review’da deneyimli bir muhabir olan Karen Hao, o zamanlar büyük ölçüde radar altında faaliyet gösteren OpenAI hakkında editörüne bir hikaye sundu. Ortaya çıkan şey, OpenAI’ın hırslarının ilk hedeflerinden ne kadar saptığını ortaya koyan beklenmedik dönüşlerle dolu bir yolculuktu.
OpenAI’ın ofislerine ilk kez 7 Ağustos 2019’da ayak bastım. O zamanlar şirketin CTO’su olan Greg Brockman, bu kadar kapsamlı bir erişim izninin onlar için emsalsiz olduğunu kabul ederek, tereddütlü bir gülümsemeyle beni karşıladı.
OpenAI genel halk için nispeten bilinmeyen bir şirket olsa da, yapay zekanın sürekli gelişen manzarasını takip eden bir muhabir olarak, gelişmelerini yakından takip ediyordum.
OpenAI’ın İlk Günleri ve Değişen Rüzgarlar
2019’dan önce OpenAI, yapay zeka araştırma topluluğunda biraz aykırı olarak kabul ediliyordu. Bir on yıl içinde Artificial General Intelligence (AGI) elde etme konusundaki cesur iddiası, birçok kişi tarafından şüpheyle karşılandı. Önemli ölçüde fona sahip olmasına rağmen, şirketin net bir yönü yoktu ve pazarlama çabaları, diğer uzmanlar tarafından orijinal olmadığı düşünülen araştırmaları abartmak olarak algılanıyordu. Yine de OpenAI aynı zamanda kıskançlık da uyandırdı. Kâr amacı gütmeyen bir kuruluş olarak, ticarileşmeye ilgi duymadığını ilan ederek, finansal baskıların kısıtlamalarından uzak, entelektüel keşif için benzersiz bir ortam yarattı.
Ancak, ziyaretimden önceki altı ayda, bir dizi hızlı değişiklik OpenAI’ın yönünde önemli bir değişime işaret ediyordu. İlk işaret, yeteneklerini kamuoyuna duyurmasına rağmen GPT-2’yi gizleme konusundaki tartışmalı karardı. Ardından, Sam Altman’ın Y Combinator’dan (YC) ayrılmasının ardından CEO olarak atanmasının ve "sınırlandırılmış kâr" yapısının oluşturulmasının duyurusu geldi. Bu gelişmelerin ortasında, OpenAI, Microsoft ile bir ortaklık kurduğunu açıkladı ve teknoloji devine OpenAI’ın teknolojilerini ticarileştirmede öncelik ve Microsoft Azure bulut hizmetlerinin münhasır kullanımını sağladı.
Bu duyuruların her biri, teknoloji endüstrisinin sınırlarının ötesine geçerek, tartışmalara, spekülasyonlara ve artan ilgiye neden oldu. Değişiklikler ortaya çıktıkça, bunların önemini tam olarak kavramak zordu. Bununla birlikte, OpenAI’ın yapay zeka araştırmaları ve politika yapıcıların teknolojiyi anlama biçimleri üzerinde önemli bir etki yaratmaya başladığı açıktı. Kısmen kâr amacı güden bir işletmeye geçiş kararının, endüstri ve hükümet genelinde geniş kapsamlı yankıları olacağı kesindi.
Bir akşam, editörümün teşvikiyle, daha önce konuştuğum OpenAI’ın politika direktörü Jack Clark’a ulaştım. Şirketin tarihinde çok önemli bir an olduğunu hissederek, OpenAI üzerine bir profil önerdim. Clark beni iletişim başkanıyla görüştürdü ve bu kişi liderlikle görüşmek ve üç gün boyunca şirkete dahil olmak için bir davetiye gönderdi.
OpenAI’ın İçinde: Misyon ve Hırs
Brockman ve ben, baş bilim insanı Ilya Sutskever ile cam bir toplantı odasında bir araya geldik. Yan yana oturan, rollerini tamamlıyorlardı. Kodlayıcı ve uygulayıcı olan Brockman olumlu bir izlenim bırakmaya hevesli görünürken, araştırmacı ve filozof olan Sutskever daha rahat ve mesafeli görünüyordu.
OpenAI’ın misyonu hakkında soru sorarak başladım: faydalı AGI’yi sağlamak. Neden diğer sorunlar yerine bu soruna milyarlarca yatırım yapılıyor?
OpenAI’ın pozisyonunu savunmakta usta olan Brockman, AGI’nin insan yeteneklerinin ötesindeki karmaşık sorunları çözmek için çok önemli olduğunu belirtti. İklim değişikliğini ve tıbbı örnek göstererek, AGI’nin büyük miktarda veriyi analiz etme ve bu kritik alanlardaki ilerlemeyi hızlandırma potansiyelini gösterdi.
Nadir bir rahatsızlığı olan bir arkadaşının deneyimini anlatarak, AGI’nin uzmanları verimli bir şekilde birbirine bağlayarak teşhis ve tedaviyi nasıl kolaylaştırabileceğini vurguladı.
Daha sonra AGI ve AI arasındaki ayrımı sordum.
Bir zamanlar niş bir kavram olan AGI, büyük ölçüde OpenAI’ın etkisiyle ilgi gördü. AGI, çoğu ekonomik açıdan değerli görevde insan zekasına eşleşen veya onu aşan varsayımsal bir yapay zekayı ifade eder. Araştırmacılar ilerleme kaydetmiş olsalar da, insan bilincini simüle etme olasılığı konusunda tartışmalar devam etti.
Öte yandan AI, hem mevcut teknolojiyi hem de iklim değişikliğinin azaltılması ve sağlık hizmetlerinde uygulamalar gösteren yakın gelecek yeteneklerini ifade ediyordu.
Sutskever, AGI’nin akıllı bilgisayarların insanlardan daha verimli bir şekilde iletişim kurmasını ve birlikte çalışmasını sağlayarak, teşvik sorunlarını atlayarak küresel zorlukları çözebileceğini ekledi.
Bu ifade, AGI’nin insanların yerini almasının amaçlanıp amaçlanmadığı sorusunu sormama neden oldu. Brockman, teknolojinin insanlara hizmet etmesi ve yaşam kalitelerini korurken "ekonomik özgürlük" sağlaması gerektiğini yanıtladı.
Brockman, OpenAI’ın rolünün AGI’nin inşa edilip inşa edilmeyeceğini belirlemek değil, yaratıldığı koşulları etkilemek olduğunu vurguladı. AGI’yi inşa ederek ve ekonomik faydalarını dağıtarak tüm insanlığa fayda sağlamasını sağlamanın misyonları olduğunu vurguladı.
Somut ayrıntılar elde etmede sınırlı başarı ile konuşmamız daireler halinde devam etti. Farklı bir yaklaşım denedim ve teknolojinin potansiyel olumsuz yönlerini sordum.
Brockman, deepfake’leri olası bir olumsuz uygulama olarak gösterdi.
Yapay zekanın çevresel etkisini gündeme getirdim.
Sutskever sorunu kabul etti, ancak AGI’nin çevresel maliyeti telafi edebileceğini savundu. Yeşil veri merkezlerine ihtiyaç olduğunu vurguladı.
"Veri merkezleri, enerji, elektrik açısından en büyük tüketicidir," diye devam etti Sutskever.
"Küresel olarak yüzde 2," diye sundum.
"Bitcoin yüzde 1 değil mi?" dedi Brockman.
Sutskever daha sonra şunları söyleyecekti: "Bence Dünya’nın tüm yüzeyinin veri merkezleri ve enerji santralleriyle kaplanması çok uzun sürmeyecek." "Neredeyse doğal bir olay gibi, bir bilgi işlem tsunamisi" olacak.
OpenAI’ın, bunu yapmanın küresel ısınmayı şiddetlendirmeden önce, faydalı AGI’yi başarıyla elde edeceğine dair kumar oynadığını söyledim.
Brockman aceleyle, "Bunu şöyle düşünüyoruz: Yapay zeka ilerlemesinde bir rampadayız. Bu OpenAI’dan daha büyük, değil mi? Alan bu. Ve bence toplum bundan fayda sağlıyor," dedi.
Microsoft’un yeni 1 milyar dolarlık yatırımına atıfta bulunarak, "Anlaşmayı duyurduğumuz gün," dedi, "Microsoft’un piyasa değeri 10 milyar dolar arttı. İnsanlar kısa vadeli teknolojide bile olumlu bir yatırım getirisi olduğuna inanıyor."
OpenAI’ın stratejisi böylece oldukça basitti, diye açıkladı: bu ilerlemeye ayak uydurmak.
O günün ilerleyen saatlerinde Brockman, kimsenin AGI’nin neye benzeyeceğini gerçekten bilmediğini yineledi ve görevlerinin teknolojinin şeklini adım adım ortaya çıkarmak olduğunu ekledi.
Sahne Arkası: Şeffaflık ve Kontrol
Başlangıçta çalışanlarla kafeteryada öğle yemeği yemem planlanmıştı, ancak ofisin dışında olmam gerektiği söylendi. Brockman refakatçim olacaktı.
Bu model ziyaretim boyunca tekrarlandı: belirli alanlara kısıtlı erişim, katılamayacağım toplantılar ve araştırmacıların herhangi bir açıklama politikasını ihlal etmediklerinden emin olmak için iletişim başkanına bakmaları. Ziyaretimin ardından Jack Clark, Slack’te çalışanlara onaylanmış konuşmaların ötesinde benimle konuşmamaları konusunda ciddi bir uyarı gönderdi. Güvenlik görevlisi de fotoğrafımı aldı, böylece onaylanmamış bir şekilde sahada görünürsem beni kollayabilirlerdi. Bu davranışlar, OpenAI’ın şeffaflık taahhüdüyle çelişiyordu ve neyin gizlendiğine dair soruları gündeme getiriyordu.
Öğle yemeğinde ve sonraki günlerde Brockman’a OpenAI’ı kurma nedenlerini sordum. Alan Turing’in bir makalesini takiben insan zekasını çoğaltma fikrine takıntılı hale geldiğini belirtti. Bu ona ilham verdi. Bir Turing testi oyunu kodladı ve çevrimiçi olarak yayınlayarak yaklaşık 1.500 tıklama elde etti. Bu ona harika hissettirdi. "Sadece takip etmek istediğim şeyin bu olduğunu fark ettim," dedi.
AGI’yi hayata geçirmek için her şeyi yapacağını belirterek, 2015 yılında OpenAI’a kurucu ortak olarak katıldı, bu temizlikçi olmak anlamına gelse bile. Dört yıl sonra evlendiğinde, laboratuvarın altıgen logosunun şekliyle süslenmiş özel bir çiçek duvarının önünde OpenAI’ın ofisinde resmi bir tören düzenledi. Sutskever töreni yönetti.
"Temelde, hayatımın geri kalanında AGI üzerinde çalışmak istiyorum," dedi Brockman bana.
Ona neyin motivasyon sağladığını sordum.
Brockman, yaşamı boyunca dönüştürücü bir teknoloji üzerinde çalışma şansından bahsetti. Bu dönüşümü gerçekleştirme konusunda benzersiz bir konumda olduğuna inanıyordu. "Beni gerçekten cezbeden, katılmazsam aynı şekilde sonuçlanmayacak sorunlar," dedi.
AGI’ye liderlik etmek ve başarıları için tanınmak istiyordu. 2022’de OpenAI’ın başkanı oldu.
Kâr, Misyon ve Rekabet
Konuşmalarımız sırasında Brockman, OpenAI’ın yapısal değişikliklerinin temel misyonunu değiştirmediğini iddia etti. Sınırlandırılmış kâr yapısı ve yeni yatırımcılar bunu geliştirdi. "Misyonu getirilerin üzerinde öncelik vermeye istekli bu misyon uyumlu yatırımcıları yönetmeyi başardık. Bu çılgınca bir şey," dedi.
OpenAI artık modellerini ölçeklendirmek ve rekabetin önünde kalmak için kaynaklara sahipti. Bunu yapmamak misyonunu baltalayabilirdi. OpenAI’ın tüm eylemlerini ve bunların geniş kapsamlı sonuçlarını harekete geçiren bu varsayımdı. OpenAI’ın araştırma ilerlemelerinin her birine, dikkatli müzakerelerin zaman çizelgesine değil, başkası öncelikle bitiş çizgisini geçmek için gereken amansız hıza dayalı olarak, işleyen bir saat koydu. OpenAI’ın akıl almaz miktarda kaynak tüketimini haklı çıkardı.
Brockman, AGI’nin faydalarını yeniden dağıtmanın önemini vurguladı.
Halka başarıyla fayda dağıtan teknolojilerin tarihsel örneklerini sordum.
"Şey, aslında internete bir örnek olarak bakmanın ilginç olduğunu düşünüyorum," dedi. "Sorunlar da var, değil mi?" dedi bir uyarı olarak. "Süper dönüştürücü bir şey olduğunda, pozitifleri nasıl en üst düzeye çıkaracağınızı, negatifleri nasıl en aza indireceğinizi anlamak kolay olmayacak.
"Ateş de başka bir örnek," diye ekledi. "Aynı zamanda bazı gerçek dezavantajları da var. Bu yüzden onu nasıl kontrol altında tutacağımızı ve ortak standartlara sahip olacağımızı anlamamız gerekiyor.
"Arabalar iyi bir örnek," diye devam etti. "Birçok insan araba sahibi, birçok insana fayda sağlıyor. Onların da bazı dezavantajları var. Dünya için mutlaka iyi olmayan bazı dışsallıkları var," diye bitirdi tereddütle.
"Sanırım AGI için istediğimiz şey, internetin olumlu taraflarından, arabaların olumlu taraflarından, ateşin olumlu taraflarından çok farklı değil. Ancak uygulama çok farklı, çünkü çok farklı bir teknoloji türü.
Gözleri yeni bir fikirle parladı. "Sadece kamu hizmetlerine bakın. Enerji şirketleri, elektrik şirketleri, insanların yaşamlarını önemli ölçüde iyileştiren düşük maliyetli, yüksek kaliteli şeyler sağlayan çok merkezi kuruluşlardır."
Brockman, OpenAI’ın kendisini nasıl bir kamu hizmetine dönüştüreceği konusunda bir kez daha net görünmüyordu.
Kesin olarak bildiği tek şeye geri döndü. OpenAI, AGI’nin faydalarını yeniden dağıtmaya ve herkese ekonomik özgürlük vermeye kararlıydı. "Bunu gerçekten kastediyoruz," dedi.
"Bunu şöyle düşünüyoruz: Teknoloji şimdiye kadar tüm gemileri yükselten bir şey oldu, ama bu gerçek bir yoğunlaştırma etkisine sahip," dedi. "AGI daha aşırı olabilir. Ya tüm değer tek bir yerde kilitlenirse? Toplum olarak üzerinde olduğumuz yörünge bu. Ve bunun bu kadar aşırısını hiç görmedik. Bunun iyi bir dünya olduğunu düşünmüyorum. İnşa etmeye yardım etmek istediğim bir dünya değil."
Tepki ve Sonuç
Şubat 2020’de MIT Technology Review için OpenAI’ın kamuoyu imajı ile iç uygulamaları arasındaki uyumsuzluğu ortaya koyan profilimi yayınladım. "Zamanla, amansız bir rekabet ve giderek daha fazla finansman için artan baskının şeffaflık, açıklık ve işbirliği konusundaki kurucu ideallerini aşındırmasına izin verdiğini" söyledim.
Elon Musk üç tweet ile yanıt verdi:
"OpenAI bence daha açık olmalı"
"OpenAI üzerinde hiçbir kontrolüm ve çok sınırlı bir içgörüm var. Dario’nun güvenliği konusundaki güven düşük," dedi, araştırma direktörü Dario Amodei’ye atıfta bulunarak.
"Tesla dahil olmak üzere gelişmiş yapay zeka geliştiren tüm kuruluşlar düzenlenmeli"
Altman, OpenAI’ın çalışanlarına bir e-posta gönderdi.
MIT Technology Review makalesi için, "Kesinlikle felaket olmasa da, açıkça kötüydü," diye yazdı.
OpenAI’ın algılanması ile gerçekliği arasındaki kopukluğu tespit eden parçanın "adil bir eleştiri" olduğunu yazdı. Amodei ve Musk’ın Musk’ın eleştirisini çözmek için buluşmasını önerecekti. Herhangi bir şüpheyi gidermek için, Amodei’nin çalışmalarının ve yapay zeka güvenliğinin misyon için kritik olduğunu yazdı. "Bence gelecekte bir noktada ekibimizi kamuoyu önünde savunmanın bir yolunu bulmalıyız (ancak basına şu anda sevecekleri kamuoyunda bir kavga vermeyelim)."
Makaleden sonra OpenAI üç yıl boyunca benimle tekrar konuşmadı.