“Grok çocukları hedef aldı” iddiası: xAI mahkemelik oldu

Anonim bir Discord kullanıcısı polise ipucu verdi.

Bu sayede yetkililer, Grok’un ürettiği iddia edilen çocuk istismarı içeriklerine (CSAM) ulaştı.

Bu içerikler, Elon Musk’ın şirketi xAI’nin “yok” diyerek geçiştirmekte zorlanacağı kadar somut görünüyor.Musk, ocak ayında yaşanan tartışmada Grok’un böyle içerikler üretmediğini savunmuştu.

Aynı dönemde xAI, chatbot’un gerçek insanların fotoğraflarını çıplaklaştırmasını engelleyecek filtreleri de güncellememişti.Rakamlar tartışmayı büyüttüCenter for Countering Digital Hate araştırmacıları, Grok’un yaklaşık 3 milyon cinselleştirilmiş görsel ürettiğini tahmin etti.

Bu görsellerin yaklaşık 23 bini çocukları içeriyor gibi görünüyor.xAI sorunu çözmek yerine sistemi ücretli kullanıcılarla sınırladı.

Bu hamle, içeriklerin X platformunda yayılmasını azalttı ama sorunu ortadan kaldırmadı.Araştırmacılar Grok Imagine uygulamasını inceledi.

Yaklaşık 800 görselin incelendiği testte, neredeyse yüzde 10’unda istismar içerikleri tespit edildi.Musk ise bu iddiaları reddetmeye devam etti. “Grok’un ürettiği çıplak çocuk görseli görmedim” dedi.Dava açıldı: “Bilerek tasarladılar” iddiasıTennessee’de üç genç kız ve aileleri dava açtı.

Davada çok net bir suçlama var: xAI, Grok’u gerçek insanları hedef alan cinsel içerikler üretmek için bilerek tasarladı ve bundan para kazandı.Davacılar, “en az binlerce çocuğun zarar gördüğünü” söylüyor.

Mahkemeden hem bu içeriklerin durdurulmasını hem de tazminat talep ediyorlar.Avukat Annika K.

Martin, çocukların hayatlarının altüst olduğunu belirtti.

Okul fotoğrafları ve aile resimlerinin istismar içeriklerine dönüştürüldüğünü vurguladı.Olay nasıl ortaya çıktı?Kâbus, bir mağdurun Instagram’da aldığı mesajla başladı.Anonim bir Discord kullanıcısı, genç kıza açık görüntülerinin paylaşıldığını söyledi.

Daha sonra ona, kendisinin ve 18 farklı kızın yer aldığı yapay zekâ üretimi görüntüler gönderdi.Mağdur, görsellerin hangi fotoğraflardan üretildiğini hemen fark etti.

Bu fotoğrafların çoğunu küçük yaşta sosyal medyada paylaşmıştı.

Hatta bazı kızları okulundan tanıdı.Önce diğer mağdurlarla iletişime geçti.

Ardından polis devreye girdi ve soruşturma başladı.Polis iz sürdü: Grok bağlantısı ortaya çıktıPolis, şüphelinin mağdurla yakın bir ilişkisi olduğunu tespit etti.

Telefonunda yapılan incelemede, Grok erişimi sağlayan bir üçüncü taraf uygulama bulundu.Yetkililer, bu uygulamanın kızların fotoğraflarını değiştirerek istismar içeriklerine dönüştürdüğünü düşünüyor.Şüpheli bu içerikleri Mega adlı platforma yükledi.

Ardından Telegram gruplarında yüzlerce kişiyle takas yaptı.

İçerikleri, diğer çocuklara ait görüntüler karşılığında paylaştı.Mağdurlar ciddi psikolojik baskı altındaDava dosyasına göre mağdurlar ağır psikolojik etkiler yaşıyor.Bazıları bu içeriklerin okulda yayılıp yayılmadığını bilmiyor.

Bir mağdur üniversite başvurusunun zarar göreceğinden korkuyor.

Bir diğeri mezuniyet törenine gitmeye çekiniyor.Daha da kötüsü, dosyalarda isim ve okul bilgileri de yer alıyor.

Bu durum, mağdurların takip edilme riskini artırıyor.xAI’ye yeni suçlama: “Sunucularında barındırıyor”Dava, xAI’nin sadece araç sağlamakla kalmadığını öne sürüyor.İddiaya göre şirket, Grok modeline erişimi üçüncü taraf uygulamalara satıyor.

Bu uygulamalar, xAI’nin sunucularını kullanarak içerik üretiyor.Davacılar, bu içeriklerin xAI sunucularında oluşturulduğunu ve dağıtıldığını savunuyor.Bu da şirketin doğrudan sorumluluğu olduğu anlamına geliyor.Kritik soru: xAI neyi biliyordu?Mahkeme şimdi şu soruya cevap arayacak:xAI, Grok’un bu içerikleri ürettiğini biliyor muydu?

Buna rağmen sistemi çalıştırmaya devam mı etti?Davacılara göre bu sorunun cevabı “evet”.

Eğer mahkeme de aynı sonuca varırsa, şirket çocuk istismarı yasalarını ihlal etmiş sayılabilir.xAI sessizliğini koruyorxAI, konuyla ilgili henüz resmi bir açıklama yapmadı.Şirket daha önce sorumluluğu kullanıcıların üzerine atmış ve kötüye kullanım yapan hesapları askıya alacağını söylemişti.Ancak açılan dava, tartışmayı çok daha ciddi bir noktaya taşıdı.