Pentagon ile Google arasında yeni yapay zeka kullanım anlaşması

ABD Savunma Bakanlığı (Pentagon) ile Google arasındaki yeni anlaşma, Google'ın yapay zeka modellerinin hükümetin yasal amaçları doğrultusunda gizli çalışmalar için kullanılmasına olanak tanıyor. Konuyla ilgili bilgiyi The Information adlı haber sitesi aktardı. Yaklaşık 600 Google çalışanı bir mektupla CEO Sundar Pichai'den bu kararı durdurmasını istedi.

Anlaşma kapsamında Google'ın, hükümet talebi üzerine yapay zeka güvenlik ayarları ve filtrelerini düzenlemeye yardımcı olması öngörülüyor. Metinde ayrıca tarafların sistemin uygun insan gözetimi ve kontrolü olmaksızın yasa dışı kullanımlara yöneltilmemesi gerektiği konusunda uzlaştığı belirtildi.

"Taraflar, yapay zeka sisteminin uygun insan gözetimi ve kontrolü olmaksızın yurt içi kitlesel gözetim veya otonom silahlar (hedef seçimi dahil) için tasarlanmadığı ve kullanılmaması gerektiği konusunda mutabıktır." ibaresi anlaşmada yer alıyor. Buna karşılık anlaşma, Google'a hükümetin operasyonel karar alma süreçlerini kontrol etme veya veto etme hakkı tanımıyor.

Google'da yapay zeka projelerinde çalışan yaklaşık 600 kişi, CEO Sundar Pichai'ye yazdıkları mektupta şirketin araçlarını Pentagon'un gizli işlerinde kullanılmak üzere sunmamasını talep etti. Mektupta, "Bu teknolojiye olan yakınlığımızın, onun en etik dışı ve tehlikeli kullanımlarını vurgulama ve önleme sorumluluğu doğurduğunu düşünüyoruz" ifadeleri yer aldı. Çalışanlar ayrıca sistemlerin hata yapabildiğine dikkat çekti.

Bu gelişme, teknoloji ve savunma alanlarında süregelen etik tartışmaları yeniden gündeme taşıyor. Anlaşma, hükümetlerin yapay zekayı güvenlik ve savunma amaçlarıyla kullanma eğilimini gösterirken, aynı zamanda şirket içi direnç ve etik endişelerin de boyutunu ortaya koyuyor. Bölgesel ve diplomatik olarak, teknoloji firmalarının askeri uygulamalarla yakınlaşması güven ve şeffaflık tartışmalarını artırabilir.

Hem Pentagon hem de Google açısından anlaşma, yapay zekanın devlet kullanımıyla ilgili dengeyi kurma çabasını yansıtıyor: taraflar, kullanımı sınırlamaya ve insan denetimini vurgulamaya yönelik ifadeler koyarken, çalışanların itirazları şirket içi etik tartışmanın sürdüğünü gösteriyor.