Bu yazı, Simon Johnson, Daron Acemoglu ve Sylvia Barmack tarafından 12 Haziran 2023 tarihinde Project Syndicate’te The AI Apocalypse? ana başlığı ile yayınlanan Will Democracies Stand Up to Big Brother? başlıklı makaleden çevrilmiştir.
Yapay Zeka (AI) ve Yapay Zeka ile geliştirilmiş gözetim araçlarındaki hızlı ilerlemeler, makul standartları belirlemek için uluslararası norm ve koordinasyonlara acil bir ihtiyaç yaratmıştır. Ancak baskıcı otoriter rejimlerin işbirliği yapması olası olmadığından, dünya demokrasileri ekonomik sert bir duruş sergilemeye başlamalıdır.
Kurgu yazarları uzun zamandır her insan eyleminin bazı kötü niyetli merkezi otoriteler tarafından izlendiği senaryoları hayal etmiştir. Ancak şimdi, uyarılarına rağmen, kendimizi George Orwell’ün 1984’ünün layık olduğu bir distopyan geleceğe doğru hızla ilerlerken buluyoruz. Haklarımızı – tüketiciler, işçiler ve vatandaşlar olarak – nasıl koruyacağımızı değerlendirmek hiç olmadığı kadar acil bir görev haline gelmiştir.
Gözetim teknolojileri üzerindeki patentleri sınırlamak ve böylece bunların geliştirilmesini ve aşırı kullanılmasını caydırmak makul bir öneri. Diğer tüm şeyler eşit olduğunda, bu, Yapay Zeka ile ilgili teknolojilerin geliştirilmesini gözetim uygulamalarından uzaklaştırabilir – en azından patent korumalarının önemli olduğu ve risk sermayedarlarının güçlü fikri mülkiyet hakları olmayan şirketleri desteklemeye isteksiz olduğu Amerika Birleşik Devletleri ve diğer ileri ekonomilerde. Ancak böylesi mantıklı tedbirler dahi alınsa, dünya, gözetim üzerinde etkili güvencelere sahip olan ve olmayan ülkeler arasında bölünmüş kalacaktır. Bu nedenle, bu ortaya çıkan bloklar arasındaki ticaret için meşru bir temel düşünmemiz de gerekiyor.
Yapay Zeka yetenekleri son 18 ay içinde sıçrama gösterdi ve daha da gelişme hızının yavaşlaması beklenmiyor. ChatGPT’nin Kasım 2022’deki halka açık sürümü, Üretken Yapay Zekanın dünya çapında duyulan bir çığlığı oldu. Ama hükümetlerin ve şirketlerin gözetim yeteneklerindeki eşit derecede hızlı artış da aynı derecede önemli olmuştur. Üretken Yapay Zeka, örüntü eşleştirme konusunda üstün olduğundan, yüz tanımayı oldukça doğru hale getirmiştir (büyük hatalar olmasına rağmen). Ve aynı genel yaklaşım, insanların hareket etme veya davranışlarına dayanarak “iyi” ve sorunlu davranışı ayırt etmek için de kullanılabilir.
Böyle bir gözetim teknik olarak “daha yüksek verimlilik” anlamına gelir, çünkü bir otoritenin insanları ne yapmaları gerektiğini yapmaya zorlama yeteneğini artırır. Bir şirket için bu, işlerin yönetimin en yüksek verimlilik düzeyinde olduğunu düşündüğü şekilde yapılmasını sağlar. Bir hükümet için, yasaların uygulanması veya başka bir şekilde iktidardakilerle uyumun sağlanması anlamına gelir.
Ne yazık ki, bin yıllık deneyim, artan verimliliğin mutlaka ortak refahın artmasına yol açmadığını göstermiştir. Günümüzün Yapay Zeka destekli gözetimi, aşırı baskıcı yöneticilere ve otoriter politik liderlere kurallarını daha etkili bir şekilde uygulama imkanı sağlar. Ancak, verimlilik artsa bile, çoğu insan bundan fayda sağlamayacaktır.
Bu sadece bir tahmin değil. Şirketler, çalışanlarının her hareketini izlemek için Yapay Zeka ile geliştirilmiş gözetim yöntemlerini zaten kullanıyor. Örneğin, Amazon teorik olarak güvenlik adına, teslimat çalışanlarının sürüşünü skorlamak için bir uygulama (Mentor) indirmelerini gerektiriyor. Bazı sürücüler, çalışmadıkları zamanlarda bile izlendiklerini bildiriyor.
Daha geniş çapta bakıldığında, danışmanlık firması Gartner, büyük işverenlerin çalışanlarını izlemek için dijital araçları kullananların payının COVID-19 pandemisinin başlangıcından bu yana iki katına çıktığını ve %60’a ulaştığını ve bunun önümüzdeki üç yıl içinde %70’e ulaşmasının beklendiğini söylüyor. Mevcut kanıtlar, daha fazla gözetimin daha düşük iş memnuniyeti ile ilişkili olduğunu göstermesine rağmen, çalışanlarını izlemenin “etik kaygıları” olduğunu kabul eden birçok işveren bile bunu yapıyor.
Doğru, gözetim teknolojisi doğası gereği anti-insan değildir. Aksine, güvenliği (aktif atıcıları izlemek gibi) veya rahatlığı artırabilir. Ancak bu faydalarla gizlilik arasında doğru dengeyi bulmalıyız ve Yapay Zeka teknolojilerinin önyargılı olmamasını (cilt rengi veya cinsiyet temelinde gibi) sağlamak için elimizden gelen her şeyi yapmalıyız.
Bu konuların ele alınması, yeni uluslararası normlar ve işbirliği gerektirir. İşçileri takip etmek veya cezalandırmak için kullanılan herhangi bir Yapay Zekanın, önerilerini nasıl yaptığı tam bir şeffaflıkla açıklanmalıdır. Bir Yapay Zeka uygulaması davranışınızı sorunlu olarak değerlendirdiği için işten çıkarılırsanız, bu kararı itiraz edebilmelisiniz. Ancak, yeni Yapay Zeka uygulamalarının çoğu, hatta geliştiricilerinin bile anlamadığı “kara kutular” olduğu için, bunlar otomatik olarak legal sürecin kapsamını sınırlar.
ABD gibi kutuplaşmış bir ülkede bile, insanların gözetim üzerindeki kısıtlamalar lehine birleşmeleri olasıdır. Herkes, solcu olsun sağcı olsun, sürekli izlenme konusunda temel bir endişeyi paylaşıyor, hatta özel korkuları farklı olsa bile. Aynı şey, dünyanın tüm demokrasileri için de geçerli.
Ancak Çin, gözetim araçlarının sınırsız kullanımını sınırlama çabalarında işbirliği yapmayı muhtemelen reddedecektir. Çin yerel gözetimi, sadece muhalefeti bastırmak ve toplumsal davranışı önceden görülmemiş bir derecede izlemek için sistematik olarak artırmakla kalmadı, aynı zamanda bu gözetim teknolojisini başkalarına da ihraç ediyor. Baskı teknolojisi her yerde ve birdenbire daha ucuz hale geldi.
Bu ikiye bölünmüş dünyada, bir kamp muhtemelen gözetimin ne zaman ve nasıl kullanılacağını düzenlemek için sağlam standartlar geliştirecektir. Konu tartışmalı kalacak, ancak teknoloji büyük ölçüde demokratik kontrol altında olacaktır. Diğer kampta, otoriter liderler geniş çaplı gözetimi nüfuslarını kontrol altında tutmak için kullanacaklar. Her yerde kameralar olacak ve rejimin kullanmayı uygun gördüğü kadar baskıyı kolaylaştıracak.
Dünyanın demokrasileri için büyük bir ekonomik seçim beliriyor. Kendi ülkemizde kabul etmeyeceğimiz gözetim teknolojilerine tabi olan ülkelerden mallar almaya devam mı etmeliyiz? Böyle yapmak, kendi demokrasilerimizi giderek daha fazla baltalamaya çalışan rejimler tarafından daha fazla gözetim ve daha fazla baskıyı teşvik ederdi. Ortak refah için, daha az gözetim teknolojisi talep etmemiz, örneğin yalnızca gözetim güvencelerine tamamen uygun olan ürünlerin piyasalarımıza girmesine izin verilmesi şeklinde, çok daha iyi olurdu.
1990’lı yıllarda ve 2000’lerin başında, ABD ve Avrupa, düşük ücretli ülkelerden yapılan ihracatın yerel tüketicilere fayda sağlayacağı ve kaynakta demokratikleşmeye katkıda bulunacağı varsayımıyla Çin piyasalarına çok daha geniş erişim hakkı verdi. Ancak bunun yerine, Çin daha da otoriter hale geldi ve ihracata dayalı büyüme rejimini güçlendirdi.
İşçileri üzerinde sıkı bir kontrol uygulayan ülkeler için sınırsız piyasa erişimine izin vermenin sonuçları hakkında artık hiçbir yanılsamamız olmamalı. Yapay Zeka teknolojileri işçilere yardımcı olmak için mi kullanılacak, yoksa onların onurlarını mı çalmak için? Ticaret ve patent politikalarımız bu tür sorulara karşı kör olmamalıdır.
