ABD merkezli The Information‘ın haberine göre teknoloji şirketi Google ile ABD Savunma Bakanlığı (Pentagon), yapay zeka modellerinin gizli çalışmalarda kullanılmasına olanak tanıyan bir anlaşma imzaladı. Haberde, anlaşmanın Alphabet bünyesindeki Google’ın yapay zeka sistemlerinin belirli kamu faaliyetlerinde kullanılmasını kapsadığı belirtildi.
“Hükümetin yasal amaçları için” kullanılacak
Konuya yakın bir kaynağa dayandırılan bilgilere göre söz konusu anlaşma, Pentagon’un Google’ın yapay zekasını “hükümetin yasal amaçları için” kullanmasına izin veriyor. Ayrıca anlaşmanın, hükümet talepleri doğrultusunda yapay zeka sistemlerinin güvenlik ayarları ve filtrelerinde düzenlemeler yapılmasını da içerdiği ifade edildi.
Metinde, “Taraflar, yapay zeka sisteminin uygun insan gözetimi ve kontrolü olmaksızın yurt içi kitlesel gözetim veya otonom silahlar (hedef seçimi dahil) için tasarlanmadığı ve kullanılmaması gerektiği konusunda mutabıktır” denildi. Bununla birlikte anlaşmanın, Google’a operasyonel karar süreçlerini denetleme veya veto etme yetkisi vermediği vurgulandı.
Google çalışanlarından tepki
Öte yandan Google bünyesinde çalışan yaklaşık 600 kişi, CEO Sundar Pichai’ye hitaben bir mektup kaleme alarak şirketin yapay zeka araçlarının Pentagon tarafından gizli çalışmalarda kullanılmasına izin verilmemesi çağrısında bulundu.
Çalışanlar mektupta, “Bu teknolojiye olan yakınlığımızın, onun en etik dışı ve tehlikeli kullanımlarını vurgulama ve önleme sorumluluğu doğurduğunu düşünüyoruz. Bu nedenle yapay zeka sistemlerimizi gizli işler için kullanıma sunmayı reddetmenizi rica ediyoruz. Yapay zekanın insanlığa fayda sağlamasını ve insanlık dışı veya son derece zararlı şekillerde kullanılmasını istemiyoruz. Yapay zeka alanında çalışan kişiler olarak bu sistemlerin hata yapabildiğini biliyoruz” ifadelerini kullandı.
Etik riskler ve itibar uyarısı
Mektupta, yapay zekanın olası kötüye kullanım alanları arasında ölümcül otonom silahlar ve geniş çaplı gözetim uygulamaları gösterildi. Çalışanlar, bu aşamada alınacak hatalı bir kararın şirketin itibarı ve küresel konumu üzerinde olumsuz sonuçlar doğurabileceği uyarısında bulundu.
Dört duvar arasına sıkışan, bilgisayarla yaşayan, e-postalar ile boğuşan beyaz yakalıların dünyası.