Haber Detayı
Savaşta devrim’
Şimdi uygarlık şu soruyla yüz yüze: Sivil meşruiyet, hukuki hesap verebilirlik, asgari insani-etik kaygılar, bilgisayar hızında yürütülen bir savaşta anlam taşıyabilir mi? Minap’taki 175 kız öğrencinin ölümü, bu soruyu teorik olmaktan çıkardı.
Dijital teknolojiler, siber ağlar daha 2000’lerin başında, “savaşta devrim” (Rumsfeld-Pentagon) kavramıyla savaş tarzını değiştirmeye başlamıştı.
Algoritmaların devreye girmesiyle bu “devrim”, Ukrayna savaşında, Gazze soykırımında kendini gösterdi.
En son olarak da ABD ve İsrail-İran savaşında yoğun olarak yapay zekâ kullanmaya başlayınca bu savaş tarzı çok daha karmaşık bir üst düzeye sıçrarken derin bir ahlaki uçuruma düştü.
Üretim araçlarının evrimi, üretim tarzlarının sergilediği biçimleri de etkiliyor. “Yıkma/öldürme araçlarının” evrimi (teknolojik-bilimsel gelişmeler), son olarak YZ, “savaş tarzını” sessizce ama köklü biçimde değiştiriyor.
Savaşın cephe hatları artık veri akışları, sinyal istihbaratı ve uydu görüntüleriyle örülmüş algoritmik katmanlardan oluşuyor.
Bu dönüşümün merkezinde YZ’nin, insanın karar verme kapasitesini hem hızlandıran hem de giderek savaşın kinetik (yıkım ve öldürme) boyutunun dışına iten bir etkisi var.
Bu dönüşümün en somut örneklerini, sonuçlarını, ABD ve İsrail’in İran’a yönelik saldırılarında, kullandıkları YZ sistemlerinin, savaşı fiilen şekillendirmeye başlamasında görüyoruz.
Palantir’in Maven sistemi, günde binlerce potansiyel hedefi seçiyor, sınıflandırıyor, önceliklendiriyor (target generation); Anthropic’in “Claude” komutanlara seçenekler sunuyor, hasar değerlendirmesi yapıyor, bir sonraki hamleyi hesaplıyor.
Siber operasyonlar ise kinetik saldırılardan önce İran’ın iletişim altyapısını, sensörlerini, komuta sistemlerini devre dışı bırakmaya çalışıyor.
Savaş artık önce sahada değil, veri merkezlerinde başlıyor.
YZ ile donatılmış insansız hava araçları ise iletişim kesildiğinde yerleşik özerklik protokollerine geçerek görevlerini insan müdahalesi olmaksızın tamamlayabiliyor.
Bunlar artık teorik senaryolar değil, somut olgular.
HATA MI, AHLAKİ ÇÖKÜNTÜ MÜ?
İran’ın güneyinde bir ilçe olan Minap’ta bir kız ilkokulunu Amerikan füzeleri 45 dakika arayla iki kez vurdu, 175 kız öğrenci hayatını kaybetti.
YZ destekli hedefleme veri tabanına ilişkin sistem güncellenmemiş ya da hedef yanlış sınıflandırılmış, bu feci fiyaskonun nedeni hâlâ tartışma konusu.
Bu felaketi bir hata olarak okumak olanaklı değil.
Minap saldırısı, YZ’nin savaşa entegrasyonunun yapısal açmazının bir semptomu: Hedef doğrulama mekanizmaları zayıflatılmış, sivil zarar değerlendirme ekipleri küçültülmüş, onay süreçleri de bilgisayar hızına yaklaştığı için fiilen anlamsızlaştırılmış.
İnsan denetimi teknik açıdan var olsa bile; bir komutan, YZ tarafından üretilmiş yüzlerce hedef seçeneğini dakikalar içinde değerlendirmek zorunda kaldığında, bu denetim artık hukuki bir formalite olmaktan öteye geçemiyor.
Uluslararası savaş hukuku, saldırıların orantılı, ayırt edici ve açıklanabilir olmasını varsayıyor.
Bu kriterlerin üçü de bilgisayar temposunda yürütülen bir savaşta hızla anlamsızlaşıyor.
Algoritma bir hedef öneriyor; komutan onaylıyor, sistem vuruyor.
Peki, bir hata olduğunda kim sorumlu oluyor?
Algoritmayı yazan mühendis mi?
Onayı veren subay mı?
Sistemi savaşa entegre eden yetkili mi?
YZ, sorumluluğu dağıtıyor, bu dağılma fiilen ortadan kaldırıyor.
Öte yandan teknoloji üreticilerinin denetleme arzusu da boş bir iddia olmanın ötesine geçemiyor.
Anthropic CEO’su Dario Amodei , modellerinin otonom silah olarak kullanılmasını önlemek istedi.
Pentagon, bu kısıtlamayı reddetti, ulusal güvenlik iddiasıyla şirketi geri adım atmaya zorladı.
Şimdi uygarlık şu soruyla yüz yüze: Sivil meşruiyet, hukuki hesap verebilirlik, asgari insani-etik kaygılar, bilgisayar hızında yürütülen bir savaşta anlam taşıyabilir mi?
Minap’taki 175 kız öğrencinin ölümü, bu soruyu teorik olmaktan çıkardı.
Bir sorun daha var: Savaşlar aynı zamanda YZ eğitimi, evrimi için zengin veri kaynağı, deney alanı sunuyor.
YZ, “süper YZ” olmaya doğru, savaşlardan öğrenerek anlaşmazlıkları şiddet yoluyla giderme mantığını/ahlakını da edinerek evriliyor.
Bu alanın en deneyimli bilim insanlarından Eliezer Yudkowsky ve Nate Soares (Machine Intelligence Research Institute’in kurucuları) 2024’te “Eğer biri inşa ederse herkes ölecek” başlıklı bir kitap yazdılar.
Kitapta betimlenen süreçler ve olasılıklar, gerçekten çok korkutucuydu ve çok büyük ilgi çekti, tartışma yarattı.
