Haber Detayı
Olmayan bilgileri kaynak gösteriyor: Yapay zekanın gizli veri havuzu... Kimden besleniyor... Osman Demircan Odatv'ye anlattı
Bir bilgiyi araştırmak için kullandığımız yapay zeka uygulamaları artık bizi "hayalet kaynakça"yla kandırıyor. Uygulamaya verilen bilgileri derleyerek "hayalet kaynakça" oluşturan yapay zekaya karşı korunmanın yollarını Odatv, Siber Güvenlik Uzmanı Osman Demircan'a sordu.
Kimi zaman bilgiyi doğrulmak kimi zaman da daha akıcı cümleler yazmak için kullandığımız yapay zeka araçları, paylaştığımız özgün içerikleri veri havuzuna alarak diğer kullanıcılarla paylaşıyor.Doç.
Dr.
Yusuf Kızıltaş, SSCI indeksli prestijli bir dergide hakemlik yaparken şaşırtıcı bir durumla karşılaştı.
İncelediği makalenin kaynakça bölümünde kendi çalışmalarına ait atıflar olduğunu gördü.
Ancak dikkat çekici olan, bu kaynaklardan birinin gerçekte hiç var olmamasıydı.Daha derin inceleme yaptığında, söz konusu "hayalet makale"nin başlık ve içeriğinin, henüz yayımlanmamış ve yalnızca sınırlı sayıda hakemin bildiği kendi güncel çalışmasıyla birebir örtüştüğünü fark etti.Bu durum, akademik metinlerin yayımlanmadan ifşa edilmesi riskini gündeme taşıdı.
Odatv, Siber Güvenlik Uzmanı Osman Demircan'a söz konusu veri ihlalinin detaylarını ve bu durumdan kendimizi nasıl koruyabileceğimizi sordu.HAYALET KAYNAKÇA NASIL ORTAYA ÇIKIYORYapay zeka uygulamalarında verilerimi kullanma seçeneğinin bir çözüm olmadığını belirten Osman Demircan, "Verilerimi kullanma' ayarı verinin hizmetini sunmak için işlenmesini değil de daha çok modelin eğitim ve iyileştirmesi amacıyla kullanılmasını sınırlıyor" dedi.Demircan, hassas verilerin yapay zeka platformlarına yüklenmesinin ciddi riskler taşıdığını belirterek şunları ekledi:"Grafiksel veri hazırlaması için, kurum, müşteri, ticari veriler ve sözleşmeler yapay zeka ile paylaşılmaması.
Bu uygulamalarda bulunan sözleşmelerdeki esneklikler maalesef bu verilerin belirli bir süre yapay zekanın eğitilmesi için kullanılabilir"KENDİMİZİ NASIL KORUYABİLİRİZYapay zekanın insan verileriyle beslendiğinin bilindiği hatırlatan Demircan, "Asıl sorun bu sistemlerin gerçekte olmayan kaynaklar da uydurabiliyorlar olması işte tehlike bu noktada başlıyor" ifadelerini kullandı.Vatandaşların bu duruma karşı neler yapabileceğini sıralayan Demircan, şunları paylaştı:"Henüz yayınlanmamış makaleleri, özel notları, hakem değerlendirmelerini ya da gizli belgeleri yapay zeka araçlarına kesinlikle yüklememeli.
Çünkü bir metni sisteme verdiğiniz anda kontrol tamamen sizin elinizden çıkıyor.
Bunu işleyebilme potansiyeli olan bir platforma vermiş oluyorsunuz.İkinci önemli konu da yapay zekadan gelen bir bilgiye doğrulanmış gibi bakmamak lazım.
Özellikle kaynakça verdiyse o kaynağın gerçekten var olup olmadığını mutlaka kontrol etmek gerekiyor.Yani yazar adı var mı?
Makale adı var mı?
Gerçekten bulunuyor mu?
Böyle bir dergi ya da böyle bir yayın gerçekten yayınlanmış mı?
Bunlara bakmak şart çünkü yapay zeka çok ikna edici şekilde yanlış bilgiler üretebiliyor.
Bu durumun önüne geçmek çok zor ama riski ciddi şekilde azaltmak mümkün"Odatv.com
