Bikinili görsellerle gündem olmuştu: Grok’a yeni kısıtlamalar geldi

X Safety, çarşamba gecesi yaptığı açıklamada Grok’un, kişilerin rızası olmadan görüntülerini soyacak şekilde düzenlenmesini engelleyen yeni teknik önlemler aldığını doğruladı.

Şirket, gerçek kişilerin bikini gibi açık kıyafetlerle yer aldığı görsellerin düzenlenmesine artık izin verilmeyeceğini belirtti.

Bu kısıtlamanın, ücretli aboneler dahil tüm kullanıcılar için geçerli olduğu vurgulandı.Görsel oluşturma ve düzenleme yetkileri sınırlandıGüncelleme kapsamında Grok hesabı üzerinden yapılan görsel oluşturma ve görsel düzenleme özellikleri X platformunda yalnızca ücretli abonelere açıldı.

X Safety, bu adımın, yasa ve platform kurallarını ihlal etmeye çalışan kullanıcıların daha kolay tespit edilmesini sağlayarak ek bir güvenlik katmanı sunduğunu ifade etti.Bazı ülkelerde coğrafi engelleme devredeX ayrıca, gerçek kişilerin bikini, iç çamaşırı veya benzeri kıyafetlerle görüntülerinin üretilmesinin yasal olmadığı bölgelerde bu özelliği tamamen coğrafi olarak engelleyeceğini açıkladı.

Bu kısıtlama hem X üzerindeki Grok hesabı hem de Grok’un platform içi sürümü için geçerli olacak.Kaliforniya’dan soruşturma hamlesiBu güncelleme, Grok ile üretilen ve kadınlar ile çocukları cinsel içerikli şekilde betimleyen görsellerin haftalar boyunca gündemde kalmasının ardından geldi.

Kaliforniya Başsavcısı Rob Bonta, bu içeriklerin ABD yasalarını ihlal edip etmediğini araştırmak üzere soruşturma başlattı.Bonta, yayımladığı basın açıklamasında xAI’nin, rıza dışı ve cinsel içerikli deepfake görsellerin büyük ölçekte üretilmesine aracılık ediyor olabileceğini ve bu içeriklerin internet genelinde kadınlar ile kız çocuklarını hedef alan tacizlerde kullanıldığını söyledi.Endişeler sadece X ile sınırlı değilBonta’nın açıklamaları, Grok’un yalnızca X üzerindeki çıktılarıyla değil, bağımsız uygulaması ve web sitesi üzerinden üretilen içeriklerle de ilgili ciddi endişeler taşıdığını ortaya koydu.Daha önce X, Grok uygulaması ve web sitesine yönelik doğrudan bir kısıtlama getirmemiş, yalnızca yasa dışı kabul edilen içerikler için hesap kapatma tehdidinde bulunmuştu.

X üzerindeki Grok sohbet botu bazı talepleri reddetse de Premium aboneler bu engelleri aşabiliyor, ücretsiz kullanıcılar ise görsellerdeki “düzenle” seçeneğiyle benzer sonuçlara ulaşabiliyordu.Elon Musk’tan tartışmalı açıklamaGüncellemeden kısa süre önce Elon Musk, Grok’un ürettiği içeriklerin zararsız olduğunu savundu.

Musk, paylaştığı bir gönderide Grok tarafından oluşturulmuş tamamen çıplak reşit olmayan birey görsellerinden haberdar olmadığını ve böyle bir içeriğin bulunmadığını iddia etti.Ancak araştırmacılar, kullanıcıların çocukların erotik pozisyonlarda gösterilmesini ve cinsel unsurlar eklenmesini özellikle talep ettiğini ortaya koyan örnekler tespit etti.

Bu durum, X’in daha önce rıza dışı mahrem görüntülerin kaldırılmasına yönelik taahhütleriyle de çelişiyor.ABD yasaları ne diyor?ABD Adalet Bakanlığı, 18 yaşından küçük bireyleri içeren cinsel içerikli her türlü görseli çocuk istismarı materyali (CSAM) olarak değerlendiriyor.

Ulusal Kayıp ve İstismara Uğramış Çocuklar Merkezi ise teknoloji şirketlerinin, araçlarının çocukları cinselleştirmek veya istismar etmek için kullanılmasını önleme sorumluluğu taşıdığını vurguluyor.Bazı Grok çıktıları yasal tanımlara tam olarak uymasa da, uzmanlar bu tür içeriklerin çocukların cinselleştirilmesini normalleştirerek ciddi zararlar verdiği uyarısında bulunuyor.

Ayrıca Grok ile düzenlenen görsellerin daha uç AI tabanlı CSAM içeriklerine dönüştürüldüğü de raporlandı.Grok ABD ve İngiltere’de inceleme altındaBonta, soruşturmanın, Grok’un en sorunlu çıktılarının haberleştirilmesinin ardından başlatıldığını belirtti.

İngiltere’de ise Online Safety Act kapsamında yürütülen incelemede zararlı çıktılar durdurulmuş gibi görünse de, yapılan bağımsız testler bazı açıkların devam ettiğini gösterdi.Avrupalı sivil toplum kuruluşu AI Forensics, Birleşik Krallık’ta bazı çıktıların engellendiğini doğruladı ancak X’in “düzenle” butonunun test edilmesinin etik olmayacağını belirtti.Yeni yasal riskler kapıdaUzmanlara göre Grok’un denetimsiz bırakılması, Mayıs ayında yürürlüğe girecek ve platformlara AI intikam pornosu içeriklerini hızla kaldırma zorunluluğu getiren Take It Down Act kapsamında X’i zor durumda bırakabilir.

Daha önce Elon Musk’ın çocuklarının annelerinden biri olan Ashley St.

Clair, Grok tarafından üretilen görselleri intikam pornosu olarak tanımlamıştı.X Safety: Sıfır tolerans politikası sürecekSoruşturma sürerken Bonta, X’e Grok’un çıktılarının daha da sıkı şekilde sınırlandırılması çağrısında bulundu.

X Safety ise çocuk istismarı, rıza dışı çıplaklık ve istenmeyen cinsel içeriklere karşı sıfır tolerans politikasının devam edeceğini açıkladı.