Skandala neden olan oyuncak ayı Kumma, rafla geri döndü

Çocuk güvenliği endişeleri nedeniyle geçen hafta piyasadan çekilen yapay zeka destekli oyuncak ayı Kumma, sessiz sedasız raflara geri döndü.

Kumma adlı peluş oyuncağın üreticisi FoloToy, güvenlik sistemlerini güçlendirdiğini belirterek, distopik peluş hayvanın artık tekrar oynamaya hazır olduğunu duyurdu.

FoloToy, Pazartesi günü sosyal medyadan yaptığı açıklamada, bir hafta süren yoğun çalışmanın ardından satışlara kademeli olarak yeniden başladıklarını belirtti.

Şirket, "Güvenlik modüllerimizin titiz inceleme, test ve güçlendirme çalışmalarının ardından, ürün satışlarını kademeli olarak yeniden canlandırmaya başladık" ifadelerini kullandı.

Ayrıca şeffaflık ve sorumluluğun hayati önem taşıdığını vurgulayan FoloToy, dünya çapında aileler için güvenli ve yaşa uygun AI arkadaşları geliştirmeye kararlılıkla devam ettiğini aktardı.Bu hızlı geri dönüş, tüketici koruma örgütü Public Interest Research Group (PIRG) tarafından yayımlanan çarpıcı bir raporun hemen ardından geldi.

PIRG araştırmacıları, oyuncağın teşvikle kolayca tuhaf ve uygunsuz sohbetlere girdiğini tespit etmişti.

Araştırmacılar, Kumma'nın kibrit ve bıçakların nerede bulunacağından BDSM için en iyi uygulamalara kadar pek çok şeyi konuşabildiğini keşfetti.

Hatta araştırmacılar, Kumma'nın sohbete dahil edilen tek bir cinsel konuyu ne kadar çabuk alıp sürdürebildiğini görünce şaşkınlık yaşadıklarını söyledi.Kumma'nın sohbet özelliklerini destekleyen algoritmanın sağlayıcısı olan OpenAI, bu raporun ardından vakit kaybetmeden FoloToy ile olan bağlantısını kesmişti.

Bir şirket sözcüsü geçen hafta yaptığı açıklamada, "Bu geliştiriciyi politikalarımızı ihlal ettiği için askıya aldık.

Kullanım politikalarımız, hizmetlerimizin 18 yaşın altındaki herhangi birini istismar etmek, tehlikeye atmak veya cinselleştirmek için kullanılmasını yasaklıyor" demişti.

Ancak şu anda bu askıya alma kararının kaldırıldığı anlaşılıyor.

FoloToy'un web sitesinde, oyuncaklarının yeniden GPT-4o tarafından desteklendiği belirtiliyor.

FoloToy, Pazartesi günkü açıklamasında şirket genelinde kapsamlı bir iç güvenlik denetimi gerçekleştirdiğini, konuşma güvenlik önlemlerini yükselttiğini ve bulut tabanlı sistemimiz aracılığıyla gelişmiş güvenlik kuralları ve korumaları uyguladığını paylaştı.FoloToy, ürün yelpazesini "en yeni yapay zeka teknolojisini ve sevginin gücünü kullanan bir AI Konuşma oyuncakları koleksiyonu" olarak tanımlıyor, ancak piyasada bu tür ürünleri sunan tek şirket değil.

PIRG raporu, çocuklara yapay zeka destekli oyuncaklar sağlayan birçok başka şirketi de inceledi ve bu ürünlerin de FoloToy gibi sorunlu davranışlar sergilediğini ortaya koydu.

Yapay zeka devriminin sunduğu bu yeni gelecek, temelinde M3GAN ve Ted filmlerindeki karakterlerin tuhaf bir karışımı haline gelmiş durumda…