Sentetik medya ekonomisi
Papa Francis'in kendisini olduğundan farklı gösteren, şık anoraklı, modern, dinamik fotoğrafına mutlaka denk gelmiş olmalısınız. Geçtiğimiz yıl dijital ortamda anında yayıldı. Buna “viral” olmak deniyor. Sahtelerin viral olma kabiliyeti gerçeklerden daha fazla. Buna da yeni gerçeklik diyelim.
Sahte görüntüler üretmek için kullanılan “yıkıcı teknoloji” (Disruptive Technologies) pazarı sınır tanımıyor. Örneğin Amerikan seçimleri yaklaştıkça Başkan Biden’ın yaş sorununu nasıl çözeceklerini düşünen ekibi, ilk kez en kalabalık sosyal medya platformu TikTok’u denedi. Etkisine dair yorumlar da bu gelişmenin kendisi kadar ilginç.
Taylor Swift kimi seçerse…
Dünyanın kaderini değiştireceği ifade edilen Amerikan seçimlerinde, eski Başkan Trump’ın, Biden’dan değil Taylor Swift’ten daha çok korktuğunu gözlemek ne tuhaf bir şey değil mi? Her iki siyasiyi alt edecek kadar hayran kitlesi olan folk müziği şarkıcısı, parmağını oynatsa sonuçları değiştirebilecekmiş. Sahtesinin mi gerçeğinin mi ara sıra Biden’ı desteklediğini henüz anlayabilmiş değilim. Akıl almaz tartışmalar dönüyor.
2024’te yalnızca ABD’de seçim olmayacak, tam 60 ülke seçim yapacak. Bu coğrafyalardan birkaç örnek vereceğim. Yapay zeka, tek bir düğmeyi tıklayarak, geleceği belirleyecek “sonuç”ları tahmin etmek üzere büyük veri kümelerini analiz edebiliyor. Bu yetkinlik yaşam ve çalışma şeklimizde devrim yarattı. İyi mi kötü mü karar veremiyoruz. Yapay zeka, kişiselleştirilmiş öneriler sunmaktan sıkıcı görevleri otomatikleştirmeye kadar, “daha iyi” kararlar almamıza, “daha akıllıca” çalışmamıza ve hata olasılığını azaltmamıza yardımcı olabiliyor. Bir zamanlar yalnızca insana özgü olduğu düşünülen yetenekler arasından insan benzeri konuşmalar da yapabiliyor, içerik üretebiliyor ve metinden duyguları analiz edebiliyor.
Ölüler diriliyor
Endonezya’da 200 milyondan fazla seçmen 18 partiden birini seçmek üzere oy kullanacak. Ülke dünyanın en yüksek internet kullanım oranlarından birine sahip. Yapay zeka, uzun zaman önce ölmüş bir diktatörü hayata döndürdü. Endonezya'yı 30 yılı aşkın bir süre demir yumrukla yöneten Suharto, yaklaşan seçimler öncesinde seçmenlere mesaj verdi. Altı üstü bir video. X'te 4.7 milyondan fazla izlendi, TikTok, Facebook ve YouTube'da yayıldı. 3 dakika!... Acımasız liderlik tarzına rağmen her zaman gülümserken görüldüğü için "Gülümseyen General" olarak adlandırılan Suharto, 2008’de 86 yaşında ölmüştü. Video, Suharto'nun yüzünü ve sesini klonlayan araçlar kullanılarak oluşturulmuş.
Deepfake
Yapay zekâ tarafından üretilen bu sahtelere “deepfake” deniyor. Deepfake kampanya yapma şeklini ve sonuçlarını değiştiriyor. Hızlı yayılması en yüksek tehlike. Bir deepfake saniyeler içinde milyonlara ulaşabiliyor. Düzeltmek, en azından tamamen imkânsız.
Seçimler yaklaşırken yapay zeka hareketliliği Hindistan’da da var. Merhum siyasiler iş başında. Yaşlı seçmen üzerinde hala etkisi olan, şairden politikacıya dönüşmüş Tamil Nadu eyaletini 20 yıl yönetmiş Karunanidhi, 2018’de ölmüş olmasına karşın, aktif siyaset yapıyor. İlk kez Eylül 2023’de yerel bir medya etkinliğinde kamuoyunun karşısına çıkmış. Dirilen lider, popülaritesini arttırmak amacıyla sık sık parti çalışanlarını kutluyor, partinin yeni başkanı oğlunu övüyor. Geçtiğimiz ay bir kitap tanıtımında, öğrenci borçlarının affedilmesinden yoksullara nakit yardıma, kadın dostu politikalardan yatırımlara kadar siyasetin içinde.
Kullanım örnekleri çok. Pakistan'da eski Başbakan İmran Han, hapiste. Hücresinden avukatlarına yazılı notlar ileterek seçim kampanyasını yürütüyor. Notlar, ABD merkezli start-up ElevenLabs'ın yazılımı kullanılarak yapay zeka üzerinden sesli konuşmalara dönüştürülüyor.
Vatikan’da yapay zeka danışmanı rahip
Keşiş Paolo Benanti, "algor-etik" kavramını geliştiren mühendis din adamı. "Algor-etik" insan ilkelerinin makineler tarafından nasıl uygulandığıyla uğraşan bir disiplin (henüz değil, yakında olur)… Benanti'nin akademik çalışmalarının hacmi ve tanınırlığı arttıkça, milliyetçi sağcı hükümet ile Vatikan arasında paylaşılamaz halde. Rahip Benanti, dijital politikalarının tasarlanmasına yön veriyor, "insan merkezli" yapay zekânın yaygınlaşmasına izin verilmemesi gerektiğini savunuyor. Teknolojinin bireylerin seçim yapma gücünü, elinden aldığını söylüyor. İnsanoğlunun kendisini, onu çok iyi tanıyan bir algoritmaya bıraktığını savunuyor.
Tarihçi Yoal Harari’nin öngörüsü de bu değil miydi… Ne yazık, popüler kitaplarını okuduğumuzda bugünü tam hayal edememiştik, olmaz diyerek prim vermemiştik.
Techno keşiş
Benanti gibi bir din adamının varlığı, yalnızca yapay zeka tehlikelerine işaret etmiyor bence. Belli ki büyük dinler çok korkuyor, dönüşmenin yolunu arıyorlar. Siyaset ile teknoloji arasında nerede konuşlanacaklarını göreceğiz. Benanti mühendislik eğitimi almış, din eğitimiyle kariyerini desteklemiş. Halen Roma’da bir manastırda ikamet ediyor. Henüz 50’li yaşlarında dinamik bir keşiş.
Rahibin tedirginliğini paylaşmayanımız var mı? Toplumun, yapay zekaya, idol, kahin, yarı tanrı gibi davranmasını kim ister?... Tabii aynı toplumun ister düşünce tembelliği deyin, ister cehalet deyin, binlerce yıldır kendini dinlere teslim etmiş olduğunu unutmamak gerek. Düşüncelerini şimdi de yapay zekâya teslim edecek olması güçler arasında yeni bir mücadele.
İnsan olmanın tek belirtisi
“İnsanın en önemli özelliği ne?” diye sorsalar, hiç düşünmeden, “düşünebilmek” deriz değil mi. Bizi evrendeki diğer canlıların hepsinden farklı kıldığı söylenen tek şey. Risk alma, eleştirel düşünme ve karar verme gücü ve yetkinliği. Bunu kendi iradesiyle başkaca sistemlere devretmesi ne kadar akıllıca…
“Roma Yapay Zeka Etiği Çağrısı” rahip Benanti’nin üzerinde çalıştığı siyaset dokümanlarından biri. Yapay zekâ uygulama-çalışmalarında, şeffaflık, kapsayıcılık, hesap verebilirlik, tarafsızlık, güvenilirlik, güvenlik ve gizlilik gibi temel ilkeler koyuyor. Microsoft, IBM gibi teknoloji devlerinin (birbirlerini çok sevdiklerinden değil, kontrol edemedikleri küçük rakiplerine karşı güç birliği içinde olduklarından) siyasetçilerin, AB ve BM gibi yapıların desteğini alıyor.
Benanti’ye göre en büyük risk, yapay zekânın insanların hayatları hakkında gizlice, demokratik olmayan kararlar vermesi ya da karar vermek için kullanılması. Geçtiğimiz ay Microsoft'un kurucusu Bill Gates ile toplantı yapan İtalyan başbakanının yanında yer almış olması da başlı başına ilginç değil mi? Sohbetlerinin içeriği; teknolojinin silikon tabanlı bilinçli yaşam şekline dönüşebileceği, yeni silahlar tasarlamak için kullanılabileceği, insanlığı tamamen ortadan kaldırabileceği tehditlerinden, istihdam piyasalarını altüst etme olasılığına (emek teknoloji ilişkisini “leş yiyen akbaba"ya benzetiyormuş) yaşlılar ile toplumdaki savunmasız gruplar üzerindeki olumsuz etkisi yüzünden adaletsizlik ve eşitsizlik çarpanı haline gelmesi olasılığına uzanmış…
Kim kimi ne kadar seviyor?
Ne kadar rahat olmalı ne kadar korkmalıyız. Yapay zekâ kaçınılmaz farkındayız hatta derin şekilde içindeyiz, onu da biliyoruz… Sonuçsuz yazılar, fikirler havada uçuşuyor. Hangi uçta sonlanacağını henüz söyleyemem ama yakında bu da soğuyacak. Şimdilik tek yapmamız gereken “okur yazar” olmak. Yapay zekayı okumak yazmak tabii ki çoğumuz için hayal ama okur yazar olmak “farkında” olmak demek.
İşte size başka bir örnek. Bu hafta ekonomik büyüklüğü yüksek olan Sevgiller Günü’nü bir kez daha idrak ettik. Çiçek mi çikolata mı alıp verdiniz bilemem ama dünyanın en tehlikeli ticari günlerinden biri olarak anılıyor. Yapay zeka sevgi alışverişinde büyük hile yapıyormuş. Deepfake sevgisiz. Parayı daha fazla seviyor diyelim… Amerikan Federal Ticaret Komisyonu Sevgililer Günü'nde “aşk dolandırıcılığı”na karşı dikkatli olun, diye uyardı. Neden biliyor musunuz; 2023’de 64 binin üzerinde vaka bildirilmiş, toplam kayıp 1,14 milyar USD. Kurban başı ortalama 2 bin USD. Az değil. Aşk dolandırıcıları hedefleriyle sosyal medya üzerinden iletişime geçerek aşk numarası yapıyor. Genellikle kripto para veya hediye kartı şeklinde bir alışveriş metodu uyguluyorlar. İnsanı kalbinden vurmak bu!
Yapay zeka “sarkazm”ı çözemiyor
Her an elimizden gidebilecek biz insanların küçük numaralarımızdan biri; alaycılık. Böyle çevrilince kulağa tuhaf geliyor, “sarkazm” diyeyim. Biraz hiciv sanatı, eleştirel toplumsal kültürel bilgi… yaşanmışlıkların dile yansıması. Yapay zeka bu iğneleyici, yer yer küçük düşüren, yer yer esprili hatta zaman zaman pasif agresif dil oyununda mahir değil. Henüz!.
Çalışmalar hızla ilerliyormuş. International Journal of Wireless and Mobile Computing'de yayınlanan makale bu zorluğun da üstesinden gelinebileceğini ifade ediyor. Hindistan’da bir üniversite çevrimiçi ifadelerin arkasındaki gerçek niyeti anlamak için dijital konuşmalardaki alaycı ifadeleri doğru tanımlamayı hedefleyen “alay algılama” modeli geliştirmiş bile. Soyut kavramların arkasındaki anlamı kodlama ve çözme yapay zeka sistemleri için hala büyük bir zorluk.
Ve Gemini sahnede
Yapay zekayı takip eden pek çoğumuz için “Gemini sahnede” demek bayat bir hikaye. Google’ın teknoloji lansmanından bir iki alıntıya dikkatinizi çekmek için gündemime aldım. Google, şimdiye kadar en büyük denen kitlesel yapay zekâ lansmanında, dil modelleri ailesi Gemini'yi Android'den iOS Google uygulamasına, Gmail'den Docs'a hatta tüm ürünlerinde kullanıma sunduğunu duyurdu. Lansmanda Gemini müjdelerinin birincisi, sistemin yerel gereksinimleri analiz ettiği ve farklı ülkelerdeki kültürel nüanslar için Gemini'a ince ayar yaptığını söylemesi oldu. Korkalım mı, sevinelim mi? “Gemini’yla ne yapabilirsiniz?” sorusunun yanıtında kullanılan ilk örnek bilin bakalım neydi; iş başvurusunda daha profesyonel, daha akıllı, daha parlak, daha yetenekli görünmenize katkıda bulunmak. Siz olmayan her şeyi siz gibi sunmak. Korkalım mı?