Yapay zekâda başarısız darbe girişimi
Bu hafta yapay zekâ teknolojisinin önümüzdeki yıllarda ne hızla ne yöne gideceğine yön veren magazinsel gelişmelere tanıklık ettik. İçinde yönetim kurulu darbesi, sosyal medyadan kalplerle iletişim ve tarihin en büyük çalışan istifaları olan OpenAI/Sam Altman olayını inceleyelim.
Malumunuz, OpenAI, ChatGPT’yi üreten şirket. Aslında OpenAI’ın esas ürünü ChatGPT’nin de çalışmasını sağlayan GPT-4 isimli büyük dil modeli. Dünyadaki dijital tüm metinlere bakıp yeni metinler yazabilen, dünyadaki dijital tüm resimlere bakıp yeni resimler çizebilen, eski bilgisayar kodlarına bakıp yeni kodlar yazabilen, hatta yeni ilaçlar keşfedebilen bu büyük dil modelinin üzerinde ChatGPT gibi birçok uygulama çalışıyor. Son zamanlarda Antropic, Inflection, Mistral gibi rakipleri çıksa da en güçlü yapay zekâ modeli şu an OpenAI’a ait.
Open AI’ın kurucusu ve CEO’su Sam Altman daha iki hafta önce Londra’da katıldığı Yapay Zekâ Güvenliği zirvesinde, 10 ülkenin başkan ya da bakan düzeyindeki temsilcisine geliştirdikleri modelleri önceden denetime açacakları yönünde söz verirken, “OpenAI’ın en önemli özelliği yönetim kurulunun amacımızdan saptığımızı düşünürse beni görevden alabilme yetkisi olmasıdır” diyordu. Yönetim Kurulu, bu yetkiyi geçen hafta Cuma günü kullandı. Söylendiğine göre, görevden alma kararı Sam’e acilen çağırıldığı bir Google Meets toplantısı ile bildirilmiş. Şirketin en büyük yatırımcısı Microsoft’a da 5 dakika önce haber verilmiş.
Sonra neler oldu? Sam, hafta sonunu OpenAI’a rakip bir girişim kurmak için destek arayarak geçirdi. OpenAI’ın başlıca yatırımcıları, “Sam’in arkasındayız” dediler. Sam’in yerine getirilen Arnavut kökenli bir kadın olan geçici CEO Mira Muratti de Sam’e Twitter’dan kalp emojisi attı. Hafta başı yönetim kurulu, “dışarıdan başka bir CEO getiriyoruz”, dedi. Microsoft, “OpenAI’ın başına kalsa daha iyi olurdu ama Sam’i yapay zekâ bölümümüzün başı olarak işe aldık” dedi. OpenAI’ın çalışanlarının tamamı “eğer Sam dönmezse bu hafta istifa ediyoruz” diye bildiri yayınladı. Sonunda Sam’i kovma kararı veren dört yönetim kurulu üyesinden biri kararından döndü, ikisi istifa etti ve yeni atanan iki üyenin de desteğiyle Sam Altman, OpenAI’ın başına döndü.
OpenAI’ın ilginç bir yapısı var. Şirket, 2015’te “kâr amacı gütmeyen bir şirket” olarak kurulmuş. (Türkiye’de maalesef böyle bir hukuki yapı yok. Kâr amacı gütmeyen iş yaparsanız Osmanlı’dan kalan vakıf sistemini kullanmak zorundasınız.) Ancak bu yapay zekâ modellerini geliştirmek için o kadar çok insan kaynağı ve çip altyapısı yatırımı yapmanız lâzım ki, OpenAI 2019’da dışarıdan yatırım almak zorunda kalmış. OpenAI’a yatırım yapan Microsoft ve girişim sermayesi fonları da bu işi babalarının hayrına yapmadıkları için, kâr amacı gütmeyen şirketin altında bir tane de kâr amacı güden şirket kurdurmuşlar ve ona ortak olmuşlar. Ancak kâr amacı gütmeyen ana şirketin yönetim kurulunun yetkileri devam etmiş. Bu yönetim kurulunun amacı da OpenAI’ın yapay zekâ çalışmalarının “insanlığın hayrına” olduğunu kontrol etmek. Peki, benzer olayları neden mesela Facebook’ta yaşamadık? Çünkü Facebook, kâr amacı güden bir şirket ve hatta halka açık olduğu halde yönetim kurulu üyelerini seçme hakkı, azınlık hisselerine sahip olan Mark Zuckerberg’in elinde. Bu nedenle Facebook’un yönetim kurulunun Mark’ı şirketin başından indirebilmek gibi bir yetkisi yok.
Görünen o ki, OpenAI yönetim kurulunun da kâğıt üzerinde yetkisi olsa bile fiiliyatta CEO’yu değiştirmek gibi bir gücü yokmuş. Çalışanlar, “biz işten ayrılıp Sam ile yeni iş kurarız” (veya zaten kucağı açık bekleyen Microsoft’a geçeriz) diyerek, yönetim kurulunu istifaya zorlamayı başardılar. Yapay zekâ modelleri geliştirmek o kadar az bulunan bir yetenek ki, tüm güç bu işi bilenlerin elinde toplanmış durumda. Para zaten bunlara akıyor, kararları da bunlar veriyor.
Gelelim asıl soruya: OpenAI da Facebook’a dönüşür mü? Zannetmiyorum. Çünkü son 20 yılda kazancını her şeyin önüne koyan şirket yöneticilerinin elinde sosyal medyanın kontrolsüz bir şekilde gelişip toplumları nasıl böldüğünü, bağımsız medyayı yok ederek demokrasiyi zedelediğini, çocukların ruh sağlığını bozduğunu gören devletler, aynı durumun yapay zekâ teknolojisinde ortaya çıkmasına izin vermeyecek gibi duruyor. Avrupa Birliği’nin hazırladığı Yapay Zekâ Kanunu, ABD’den Biden’ın aynı konudaki kararnamesi ve bu ay başında İngiltere’de toplanan zirve de aynı niyetin tezahürleri. Ancak OpenAI olayından anladığımız bir şey varsa o da bu teknolojinin yönetişiminin sadece şirketlere bırakılamayacağı. Öte yandan kabul etmek gerekir ki, devletler ne kadar hevesli olursa olsun, teknolojiyi anlayacak ve denetleyecek kapasiteleri maalesef yok.
Bu kapasite, OpenAI yönetim kurulunu şirketten ayrılırız diye tehdit edip istifaya zorlayan 100 küsur çalışanın elinde. Haydi diğer şirketlerdeki yapay zekâcıları da saysak aşağı yukarı 1000 kişi. Bunların büyük çoğunluğu Kaliforniya’da yaşayan 25-40 yaş arası beyaz erkekler. Yapay zekâ da bu kişilerin değer yargılarına göre gelişiyor. Bir örnek verelim: Facebook ilk çıktığında arkadaş olduğunuz kişilerle ilgili “ilişki durumu” sorusunu hatırlıyor musunuz? Seçenekler “ilişkim var”, “ilişim yok”, “biraz karışık” (it’s complicated) şeklindeydi. Neyse ki o günlerde annelerimiz Facebook’u kullanmıyormuş! Her soruya cevap veren ChatGPT gibi araçların Kaliforniyalı erkeklerin düşünce dünyasına göre gelişmesini istemiyorsak, belki de bunun en iyi yolu, dünyanın başka yerlerinden de benzer modellerin çıkmasını sağlamak ve rekabeti güçlendirmek. Türkiye de benzer kafa yapısındaki ülkelerle bunun üzerine çalışmalı.