Sam Altman Bir Vizyoner Ancak Güven Sorunu Yaşıyor

OpenAI hakkında çıkan iki kitap da benzer bir hikâye anlatıyor. Bu endişe verici.

YUNAN MİTİNDE Prometheus, tanrılardan ateşi çalıp insanlığa getirir. Bunun bedelini sonsuza dek bir kayaya zincirlenerek, her gün karaciğerini gagalayan bir kartala maruz kalarak öder. Bu, insanlığın ilk büyük teknolojisinin bedelidir. 21. yüzyılda, OpenAI’nin kurucularından ve yöneticisi olan Sam Altman’ın hikâyesi de Prometheus’u anımsatıyor. 2022 sonunda ChatGPT’yi geliştirerek dünyayı şaşkına çeviren Altman, üretici yapay zekânın devrim niteliğindeki yeteneklerini ve risklerini bir anda gözler önüne serdi. Bir yıl sonra ise kaprisli tanrılar—yani OpenAI’nin kâr amacı gütmeyen yönetim kurulu—onu sürgün etmek istedi. Ancak Prometheus’un aksine, Altman bu savaştan yara almadan çıktı.

Bu hikâye, 20 Mayıs’ta yayımlanan iki etkileyici yeni kitaba konu oluyor. Kitaplar, ChatGPT’nin doğumuna giden süreçte OpenAI içinde yaşanan tutkulu misyona, rekabete ve güvensizliklere odaklanıyor. 2023 Kasım’ında yaşanan başarısız darbe girişimi ve Altman’ı görevden alma girişimi sırasındaki kaos, bu gerilimleri daha da gözler önüne seriyor.

Yazarları gazeteci olan bu kitaplar, derin araştırmalarla kaleme alınmış ve oldukça sürükleyici. Üstelik aynı hikâyeyi farklı biçimlerde anlatıyorlar.

Keach Hagey’nin yazdığı The Optimist, adeta “resmî” bir biyografi. Hagey, Altman’a ve hikâyedeki birçok önemli isme—ailesi ve arkadaşları dahil—ulaşabilmiş. Altman’ın karmaşık kişiliği, hikâyeye canlılık katıyor. Bu bir övgü metni değil.

Karen Hao’nun kaleme aldığı Empire of AI ise tamamen dışarıdan bir bakış sunuyor. OpenAI, Hao’yu uzak tutmuş ve bu da anlatımına sertlik katmış. Her iki kitap da, Altman, OpenAI ve Silikon Vadisi kültürü hakkında, üretici yapay zekâ konusundaki coşku ortasında hatırlanması gereken endişe verici yönler sunuyor.

Altman büyüleyici bir karakter. Hagey’nin deyimiyle, onun hakkında ilk fark edilenler kısa boyu ve “dünyadaki en önemli kişiyle konuşuyormuş” izlenimi veren keskin bakışları. Ortabatılı Amerika’da büyüyen Altman, çocukluktan itibaren teknolojiye meraklı ve şaşırtıcı derecede espritüeldi. 17 yaşında, eşcinsel olduğunu açıklayarak okul meclisini şok etti ve eşcinsel haklarını savunmaya başladı.

Kariyeri boyunca, dünyayı değiştirecek teknolojiler üretme tutkusu ile bu hayalleri için dev yatırımlar çekebilen hikâye anlatma yeteneğini birleştirdi. İlk olarak konum takibi yapan bir mobil uygulama olan Loopt’u geliştirdi. Daha sonra göz taramasıyla dijital kimlik doğrulaması yapan bir kripto para projesi, hücresel yenilenmeyle yaşam süresini uzatma, nükleer füzyon ve tabii ki süper zekâ arayışı gibi büyük projelere imza attı.

Bazıları onu, insanların imkânsızı mümkün sanmasına neden olan “gerçeklik çarpıtma alanı” ile tanınan Steve Jobs’a benzetiyor. Ancak Altman, Jobs gibi kaba değil; aksine, hassas bir dinleyici ve sunduğu şeyleri cazip gösterebilen biri.

İnsan ilişkilerindeki becerisi, erken yaşta güçlü mentorları cezbetti. Y Combinator’un kurucularından Paul Graham, Altman için şöyle demişti: “Onu yamyamlarla dolu bir adaya bıraksanız, beş yıl sonra geri döndüğünüzde kral olmuş olur.” Gerçekten de Graham ve ortağı Jessica Livingston, kısa sürede Y Combinator’un liderliğini ona devretti ve Altman, 28 yaşında Silikon Vadisi’nde rakipsiz bir güç elde etti.

Fakat o dönemde bile onun dürüstlüğü hakkında soru işaretleri vardı. Hao’ya konuşan eski bir YC kurucusu, “Sam gülümserse bu çok kasıtlıdır,” diyor. “Sam sadece bir kez kendiliğinden gülümsedi; o da [Graham] ona YC’yi devretmesini söylediğinde.” Loopt’un CEO’suyken, Altman’ın kendi fikirlerini yönetim kuruluna danışmadan hayata geçirmesi nedeniyle ekip üyeleri iki kez onu görevden aldırmaya çalıştı. Bu güven sorunları her iki kitapta da aktarılıyor—gerçi yatırımcılar hep yanında kalmış.

YC’de de benzer bir durum yaşandı. Graham ve Livingston, Altman’ın hâlâ YC başındayken Elon Musk ve başkalarıyla birlikte 2015’te kurduğu OpenAI’de zaman geçirmesinden rahatsız oldu. Livingston sonunda onu görevden aldı. Ancak Hagey’nin aktardığına göre Altman, ardında bir karmaşa bıraktı. Fonksiyonel olmayan bir yönetim kurulunun gözetimindeydi ve YC hisselerini OpenAI’ye yetenek çekmek için kullanmıştı. Bazı YC ortakları, bunu çıkar çatışması ya da en azından Altman’ın kişisel projesi için YC markasını uygunsuz şekilde kullanması olarak görüyordu.

Bu ayrıntılar önemli. Her iki kitap da Altman’ın hırsının, hızının ve insanlara yalnızca duymak istediklerini söyleme becerisinin, OpenAI’yi zaman zaman uçurumun eşiğine getirdiğini öne sürüyor. Paradoksal şekilde, aynı özellikler OpenAI’nin üretici yapay zekâ alanında liderliğini sağlayan para, bilgi işlem gücü ve internetten kazınan veri kaynaklarını da mümkün kıldı.

Bir seferinde, “boşanma” olarak bilinen olayda, Altman güvenlik konularına odaklanan bazı araştırmacılarla ilişkileri o kadar bozdu ki bu ekip şirketten ayrılıp 2021’de OpenAI’nin en büyük rakiplerinden biri olan Anthropic’i kurdu. Bir başka olayda, “sapma” olarak adlandırılan dönemde, Altman şirketten kovuldu çünkü üst düzey yöneticileri ve yönetim kurulu ona güvenini kaybetmişti; kitaplara göre, Altman yatırım faaliyetleri hakkında çelişkili ifadeler veriyor ve net bilgi paylaşmıyordu. Ancak birkaç gün içinde şirketsiz ayakta kalamayacaklarını fark eden ekip Altman’ı geri getirdi.

Bu olayların temelinde, kitapların tamamına yayılan ideolojik bir çatışma var: üretici yapay zekânın piyasaya sürülmesinde hız mı öncelikli olmalı, güvenlik mi? OpenAI, “felaketçiliğe” (doomers) karşı “ivmeciliğin” (boomers) damga vurduğu iç savaş benzeri bir ayrışmadan geçti. Felaketçiler arasında, yapay zekânın doğurabileceği büyük riskleri öncelik olarak gören etkili yardımseverlik (EA) hareketinden gelen isimler vardı. İvmeciler ise, Amerika yapay zekâ yarışını kazanmazsa Çin’in kazanacağını savunuyordu. Aslında, Hao’nun da belirttiği gibi, bu iki grup aynı madalyonun iki yüzüydü. Her ikisi de makineleri olabildiğince ileri götürme peşindeydi—biri “ateş ve kükürt” uyarılarıyla, diğeri “cennet vizyonları” sunarak.

Aynı derecede dikkat çekici olan, bu alandaki neredeyse dâhi sayılabilecek kişiler arasındaki rekabet ve teknolojik sıçramalar. Her iki kitap da Elon Musk ile Altman arasındaki çarpıcı kopuşu ve Musk’ın OpenAI, Altman ve yatırımcı Microsoft’a açtığı davayı detaylı biçimde anlatıyor.

Tüm bu gelişmelerin merkezinde, iki kitabın da ortak hikâyesinde yer alan temel bir soru var: Süper zekâya ulaşma hedefi, kullanılan yöntemleri haklı çıkarır mı? Hagey buna olumlu yaklaşıyor. Altman’ın bazı davranışlarını çatışmadan kaçınma ve Silikon Vadisi’nde sıkça rastlanan “hızlı hareket et, boz” anlayışıyla açıklıyor.

Ateşle oynamak

Hao ise daha eleştirel. Sadece Altman’ı değil, rakip şirket yöneticilerini de güç yarışında suçluyor. Üretici yapay zekâ modellerini “canavarlar” olarak nitelendiriyor; çok fazla veri, enerji ve doğal kaynak tükettiklerini söylüyor. Ancak OpenAI ve benzeri laboratuvarları sömürge imparatorluklarına benzetmesi, eleştiriyi fazla ileri götürüyor.

Yine de, her iki kitaptaki deliller birleştirildiğinde, Altman’a dair güven soruları haklı görünüyor. Herhangi bir organizasyonda güvenilir görünmeyen bir CEO ciddi bir sorundur. Ancak bu, Prometheusvari teknolojiler geliştiren bir firmanın başındaysa, risk çok daha büyüktür.

Kaynak: The Economist