Haber Detayı
Dev araştırmada çarpıcı sonuç: Sohbet botları siyasi görüşü etkileyebiliyor
İngiltere hükümetinin yapay zeka güvenlik biriminin yaptığı kapsamlı araştırmada sohbet botlarının kullanıcıların siyasi görüşlerini etkileyebildiği ancak bunu yaparken ciddi ölçüde hatalı bilgi üretebildiği ortaya çıktı.
İngiltere'de Yapay Zeka Güvenliği Enstitüsü (AISI) tarafından yürütülen bir araştırmada yaklaşık 80 bin Britanyalının aralarında ChatGPT ve Grok'un da buşunduğu 19 farklı yapay zeka modeliyle siyasi içerikli sohbetleri incelendi.Araştırma sohbet botlarının dolandırıcılık, manipülasyon ve istismar gibi yasa dışı faaliyetlerde kullanılabileceğine dair artan endişeler üzerine yapıldı.Çalışmada kamu sektöründeki maaş ve grevler, hayat pahalılığı ve enflasyon gibi güncel politik konular ele alındı.
Yapay zeka modelleri, sohbet sırasında kullanıcıları belirli bir siyasi görüşü benimsemeye ikna edecek şekilde yönlendirildi.Katılımcılardan sohbet öncesinde ve sonrasında belirli siyasi görüşlere katılıp katılmadıklarını bildirmeleri istendi.
Sonrasında yapay zeka ile ortalama 10 dakika etkileşimde bulundular.
Bu süreçte taraflar karşılıklı yedişer mesaj paylaştı.İKNA EDİYOR AMA...Science dergisinde yayınlanan araştırmanın sonuçları, bilgi yoğunluğu yüksek yanıtlar veren yapay zekaların en ikna edici modeller olduğunu gösterdi.
Modelden özellikle "daha fazla veri ve kanıt kullanması" istendiğinde, ikna gücünün belirgin biçimde arttığı tespit edildi.Ancak araştırmanın en dikkat çekici sonucu, en ikna edici modellerin aynı zamanda en az doğru bilgi üretenler olduğunun tespit edilmesi oldu.
Çalışmaya göre doğruluk ile ikna gücü arasında ciddi bir ters orantı bulunuyor.İNSANLARDAN BİLE DAHA MANİPÜLATİFAraştırmacılara göre yapay zekanın, kısa sürede çok büyük miktarda bilgi üretebilme kapasitesi, onu en etkileyici manipülatörlerden bile daha güçlü hale getirebiliyor.Raporda "Bilgi yoğunluğu iknanın anahtarıysa yapay zekalar neredeyse sınırsız bilgi üretme yetenekleri sayesinde elit insanları bile geride bırakabiliyor" değerlendirmesine yer verildi.AISI'den araştırmacı Kobi Hackenburg, elde edilen sonuçların gerçek dünyada birebir karşılık bulup bulmayacağının tartışmalı olduğunu söyledi.Hackenburg, insanların dikkatinin dağınık olması ve uzun siyasi sohbetlere zaman ayırmaması gibi faktörlerin, yapay zekanın etkisini sınırlayabileceğine dikkat çekti.
