Pentagon’da yapay zeka krizi! “Algoritma onay vermezse ateş edemeyiz” iddiası

ABD ve İsrail’in 28 Şubat’ta İran’a yönelik başlattığı saldırıların ardından Orta Doğu’daki çatışmalar giderek genişledi.

Savaş 15. gününe girerken taraflar arasında karşılıklı saldırılar sürerken, ABD’de askeri teknoloji alanında tartışma yaratan yeni bir iddia ortaya atıldı.ABD basınında yer alan haberlere göre, ABD Savunma Bakanlığı ile bazı teknoloji şirketleri arasında askeri yapay zeka sistemlerinin kullanımı konusunda görüş ayrılığı yaşanıyor.

İddiaya göre Silikon Vadisi merkezli bazı şirketlerin geliştirdiği yapay zeka modellerine yerleştirilen “etik filtreler”, ordunun hedef belirleme süreçlerinde beklenmedik sınırlamalar yaratabiliyor.“ALGORİTMA VETO EDERSE ATEŞ EDEMEYİZ”The Free Press’in ulaştığı raporlara göre, Anthropic gibi teknoloji şirketleri tarafından geliştirilen büyük dil modeli tabanlı yapay zeka sistemleri, askeri hedef analiz platformlarına entegre edildi.

Ancak bu sistemlere, “öldürücü güç kullanımına doğrudan destek vermeme” gibi etik kuralların kodlandığı ifade ediliyor.Bu nedenle yapay zeka, bir hedefe yönelik saldırının sivil kayıplara yol açabileceğini veya etik açıdan sorunlu olduğunu tespit ederse, operatör ekranındaki veri akışını durdurabiliyor ya da sistemi kilitleyebiliyor.

Bu durumun sahadaki askeri karar süreçlerini yavaşlatabileceği belirtiliyor.İRAN OPERASYONUNDA SİSTEMLER YAVAŞLADI MI?En dikkat çekici iddialardan biri ise İran’a yönelik operasyonlar sırasında bazı yapay zeka sistemlerinin sivil kayıp riski algıladığında “hata raporu” üretmesi ve veri işleme hızını düşürmesi oldu.

Bu durumun kasıtlı bir güvenlik mekanizması olup olmadığı ise tartışma konusu.Teknoloji şirketlerinin bu “etik sınırlamalarına” karşı Washington yönetiminin yeni bir adım atmaya hazırlandığı belirtiliyor.

Pentagon’un, ticari şirketlerden bağımsız çalışacak ve tamamen askeri kullanım için tasarlanmış yeni bir yapay zeka modeli geliştirmek amacıyla milyarlarca dolarlık bütçe ayırdığı ifade ediliyor.