Haber Detayı
Yapay zeka nefret söylemlerinde garip davranıyor!
Araştırma, OpenAI, Google ve DeepSeek gibi yapay zekâların nefret söylemini farklı kriterlerle değerlendirdiğini ortaya koydu.
Pensilvanya Üniversitesitarafından yürütülen yeni bir araştırma, sosyal medyaplatformlarında kullanılan yapay zekâ moderasyon sistemlerininnefret söylemini tutarsız şekilde sınıflandırdığını ortaya çıkardı.OpenAI, Google ve DeepSeek gibi önde gelen yapay zekâ modellerininher biri, hangi ifadelerin nefret söylemi sayılacağına farklıstandartlarla karar veriyor.Yapay zeka nefretsöylemlerinde garip davranıyor!Çalışmada, yedi farklı yapayzekâ sistemi 125 farklı demografik grup hakkında toplam 1,3 milyonifade üzerinde test edildi.
Bulgular, modellerin aynı içeriklerifarklı değerlendirdiğini ve bu durumun çevrimiçi ifade özgürlüğüiçin ciddi riskler barındırdığını gösterdi.Araştırmayı yürüten UPennAnnenberg İletişim Fakültesi’nden Doç.
Dr.
Yphtach Lelkes,“Araştırmamız gösteriyor ki nefret söylemi konusunda yapay zekâkararları büyük oranda tutarsız.
Bu, kuralların görünmez olduğuyeni bir dijital sansür biçimini ortaya çıkarıyor” dedi.Uzmanlar, yapay zekâ destekliiçerik denetiminde şeffaf ve evrensel standartlar belirlenmesigerektiğini vurguluyor.
Aksi halde farklı platformlarda aynı içerikiçin değişen kararlar, hem kullanıcı güvenini hem de demokratikifade özgürlüğünü zedeleyebilir.
