Musk'ın xAI şirketi, Grok'un ürettiği uygunsuz görsellerin engelleneceğini duyurdu

ABD'li milyarder Elon Musk'ın xAI şirketi tarafından geliştirilen yapay zeka sohbet robotu Grok'un, son dönemde tepki çeken müstehcen görsel oluşturma özelliğinin "yasa dışı olduğu bölgelerde" tüm kullanıcılar için engelleneceği duyuruldu.ABD merkezli X şirketinin sosyal medya platformundan yapılan açıklamada, son zamanlarda kişilerin rızası olmadan platformda uygunsuz görüntüler oluşturmakla eleştirilen xAI şirketinin yapay zeka sohbet robotu Grok'a ilişkin yeni güncellemeler ele alındı.Platformu herkes için güvenli ortam haline getirme konusundaki kararlılığın sürdürüldüğü vurgulanan açıklamada, "Çocuk istismarı, rızasız çıplaklık ve istenmeyen cinsel içerik gibi her türlü eyleme karşı sıfır tolerans politikamızı koruyoruz." ifadesi kullanıldı.Açıklamada, platformun kurallarını ihlal eden müstehcen içerikli paylaşımların kaldırılması için harekete geçileceği, kuralları ihlal eden hesaplara karşı önlem alınacağı ve çocuk istismarıyla ilgili arama yapan hesapların güvenlik güçlerine bildirileceği belirtildi.Grok hesabının, "bikini gibi" uygunsuz görsel oluşturmasına izin vermemesi için teknolojik önlemlerin alındığı ifade edilen açıklamada, bu kısıtlamanın ücretli aboneler dahil tüm kullanıcılar için geçerli olduğu vurgulandı.Bunun, Grok hesabını kötüye kullanarak yasayı veya platformun politikalarını ihlal etmeye çalışan kişileri sorumlu tutmaya çalıştığı ve ek koruma sağlamayı amaçladığı belirtildi.Açıklamada ayrıca, Grok hesabı veya Grok'un X uygulaması üzerinden gerçek kişilere ait görüntülerin müstehcen görsellere dönüştürülmesine olanak tanıyan özelliğin "yasa dışı olduğu bölgelerde" tüm kullanıcılar için engelleneceği duyuruldu.Grok'a tepkiler sürüyorX'teki kullanıcıların, Grok'tan ünlülerin ve tanınmamış kişilerin fotoğraflarını kullanarak cinsel içerikli sahte görsel içerikler üretmesini istediği "sosyal medya akımına" İngiltere ile diğer ülkelerden tepkiler geldi.X'in sahibi ABD'li milyarder Elon Musk, 3 Ocak'ta, "Grok'u yasa dışı içeriklerin üretiminde kullananlar, yasa dışı içerikleri yüklemiş gibi muamele görecektir." açıklamasını yapsa da tepkiler sürüyor.Avrupa Birliği (AB) Komisyonu, 5 Ocak'ta konuyu çok ciddiye aldıklarını ve değerlendirme sürecinde olduklarını açıklamıştı.Malezya, 3 Ocak'ta X'in bu tür zararlı içeriklerin yayılmasını önleme konusunda sorumluluğunun bulunduğunu vurgulamış, 11 Ocak'ta da Grok'a erişimi, yeterli güvenlik önlemlerinin alınmadığı gerekçesiyle geçici olarak kısıtlamıştı.Hindistan da 2 Ocak'ta X'e konu hakkında "kapsamlı inceleme yapma" talimatını vermişti.

Endonezya ise 10 Ocak'ta üretilen uygunsuz görüntüler nedeniyle Grok'u geçici engellemişti.