Haber Detayı
Yapay zekâ şirketleri felaket risklerini yönetmede sınıfta kaldı
Çalışma, önde gelen yapay zekâ şirketlerinin varoluşsal riskleri yönetmekte yetersiz ve plansız olduğunu gösteriyor.
Yeni yayımlanan bir rapor, büyük yapay zekâ şirketlerinin teknolojinin yaratabileceği felaket düzeyindeki riskleri yönetmede ciddi şekilde başarısız olduğunu ortaya koydu.
Future of Life Institute tarafından hazırlanan AI Safety Index, sekiz büyük yapay zekâ firmasının “somut güvenlik önlemleri, bağımsız denetim ve uzun vadeli risk yönetim stratejilerinden” yoksun olduğunu belirtiyor.
Değerlendirmede ABD merkezli şirketler daha iyi notlar alırken, Anthropic listenin başında yer aldı.
Onu OpenAI ve Google DeepMind izledi.
Çin merkezli şirketler ise en düşük puanları aldı; Alibaba Cloud ve DeepSeek listenin sonunda yer aldı.Yapay zekâ şirketleri felaket risklerini yönetmede sınıfta kaldıVaroluşsal risk kategorisinde hiçbir şirket D’nin üzerine çıkamazken, Alibaba Cloud, DeepSeek, Meta, xAI ve Z.ai bu alanda F aldı.
Raporda, şirketlerin süper zekâ geliştirme hızı ile kontrol planlarının eksikliği arasındaki uçurumun “alarm verici” boyutta olduğu vurgulandı.Raporun yazarları, firmaların güvenlik değerlendirmelerinde daha şeffaf olmaları ve kullanıcıları kısa vadeli risklerden —örneğin yapay zekâ kaynaklı bilişsel dengesizlik veya yanlış yönlendirme— daha iyi korumaları gerektiğini belirtti.
UC Berkeley’den bilgisayar bilimi profesörü Stuart Russell, “Şirket CEO’ları süperinsan yapay zekâ geliştirmeyi bildiklerini iddia ediyor, ancak kontrol kaybını nasıl önleyeceklerini kimse gösteremiyor,” diyerek durumu özetledi.
