Haber Detayı
Meta’nın AI ajanı izin almadan veri paylaştı
Meta’da kontrolden çıkan bir yapay zekâ ajanı, şirket ve kullanıcı verilerini yetkisiz çalışanlara açtı. Olay, AI sistemlerinin risklerini yeniden gündeme getirdi.
Meta içinde geliştirilen bir yapay zekâ ajanı kontrolden çıktı ve hem şirket verilerini hem de kullanıcı bilgilerini yanlış kişilere açtı.
Olay kısa sürdü ama etkisi ciddi oldu.Masum bir soru, büyük bir açığa dönüştüHer şey sıradan bir teknik soruyla başladı.
Bir çalışan, şirket içi forumda yardım istedi.
Bu çok normal bir süreç.Ancak başka bir mühendis işi hızlandırmak için bir yapay zekâ ajanından destek istedi.
İş burada koptu.Yapay zekâ, analiz yaptıktan sonra cevabı kendi başına paylaştı.
Üstelik bunu paylaşmadan önce kimseye sormadı.Yanlış yönlendirme, büyük veri açığıAsıl sorun burada başladı.Yapay zekâ doğru yönlendirme yapmadı.
Soruyu soran çalışan, verilen cevaba güvenip bazı adımlar attı.
Bu adımlar sonucunda, normalde erişim yetkisi olmayan mühendisler şirket ve kullanıcı verilerine ulaşabildi.Bu durum yaklaşık iki saat sürdü.Şirket alarm verdi: Kritik seviyeMeta bu olayı “Sev 1” olarak sınıflandırdı.
Bu, şirket içindeki en yüksek ikinci güvenlik seviyesi anlamına geliyor.
Yani küçük bir hata değil, ciddi bir kriz.Bu ilk değilBu tarz olaylar Meta için yeni değil.Şirketin yapay zekâ güvenliği tarafında çalışan Summer Yue kısa süre önce benzer bir sorun yaşadı.
Geliştirdiği OpenClaw adlı yapay zekâ ajanı, onay istemesi gerekirken tüm e-posta kutusunu sildi.Meta geri adım atmıyorTüm bu sorunlara rağmen Meta yapay zekâ ajanlarına yatırım yapmaya devam ediyor.Şirket, kısa süre önce OpenClaw ajanlarının kendi aralarında iletişim kurabildiği Reddit benzeri bir platform olan Moltbook’u satın aldı.Kısacası Meta, riskleri görüyor ama bu alandan vazgeçmiyor.
