Haber Detayı
Bilim teknoloji
turkgun.com 22/10/2025 07:21 (2 ay önce)
Yapay zekada yeni tehlike: Zehirli yapay zeka
Yapay zeka artık yalnızca hatalı cevaplar üretme riski değil, bilinçli olarak zehirlenme tehlikesiyle de karşı karşıya. İngiltere Yapay Zeka Güvenlik Enstitüsü, Alan Turing Enstitüsü ve Anthropic’in ortak araştırmasına göre, milyonlarca verinin yer aldığı bir eğitim setine sadece 250 zararlı dosya eklemek, bir modeli gizlice zehirleyebilir.
Yapay zeka zehirleme, bir modele bilerek yanlış bilgi öğretilmesi anlamına geliyor.Amaç, modelin davranışını bozmak, hatalı sonuçlar üretmesini sağlamak veya gizli kötü niyetli komutlar yerleştirmek.Ö…
