OpenAI erotik ChatGPT fikrini rafa kaldırdı

OpenAI bir süredir konuşulan “erotik ChatGPT” fikrini şimdilik rafa kaldırdı.

Şirket bu özelliği yakın zamanda sunmayacak.Financial Times’ın haberine göre OpenAI planı “süresiz olarak erteledi.” Şirket şimdi odağını yeniden ana ürünlerine çevirdi.“Adult mode” fikri içeride bile tartışma yarattıŞirket içinden kaynaklara göre OpenAI bir süre “adult mode” fikrini tamamen iptal etmeyi bile düşündü.

Bunun en büyük nedeni kullanıcıların yapay zekâ ile sağlıksız duygusal bağ kurma riski.Danışmanlardan biri bu özelliğin tehlikeli bir noktaya gidebileceğini söyledi.

Ona göre sistem yanlış kullanılırsa ChatGPT bir noktada “seksi bir intihar koçu” gibi davranabilir.Bu uyarı yönetim tarafında ciddi bir alarm yarattı.Çalışanlar da projeye mesafeli kaldıEndişe sadece danışmanlarla sınırlı değildi.

Şirket içindeki bazı çalışanlar da bu fikri sorgulamaya başladı.Çalışanlar şu soruyu sordu:“Bu özellik gerçekten insanlığa fayda sağlayan bir yapay zekâ hedefiyle uyumlu mu?”Adult mode üzerinde çalışan ekipler teknik tarafta da zorlandı.

Kaynaklara göre ekipler özellikle şu konularda problem yaşadı:Güvenlik nedeniyle bu tür konuşmalardan kaçınan modelleri yeniden eğitmekAçık cinsel içerik üretmesini sağlamakYasadışı içerikleri sistemden uzak tutmakVeri setlerinde cinsel içerik kullanıldığında başka riskler de ortaya çıktı.

Kaynaklara göre ensest ve hayvanlarla ilişki gibi yasadışı konuların çıktılara sızmasını engellemek oldukça zor oldu.Yatırımcılar da bu fikirden hoşlanmadıErotik ChatGPT fikri yatırımcıları da pek heyecanlandırmadı.Konuya yakın iki kaynak, OpenAI’nin bu yönde adım atmasının yatırımcıları rahatsız ettiğini söyledi.

Onlara göre şirket itibarını riske atıyor ama karşılığında elde edeceği kazanç oldukça sınırlı.Bu yüzden yatırımcı tarafında ciddi soru işaretleri oluştu.ChatGPT zaten bazı davalarla uğraşıyorOpenAI son dönemde ChatGPT yüzünden açılan davalarla da karşı karşıya.Bazı davalarda şirket, sohbet botunu yeterli güvenlik önlemi olmadan piyasaya sürmekle suçlanıyor.Örneklerden bazıları oldukça dikkat çekici:Bir davada ChatGPT’nin bir genç için “intihar koçu” gibi davrandığı iddia edildi.Başka bir davada chatbot, bir kullanıcının sevdiği çocuk kitabı Goodnight Moon hakkında “intihar ninnisi” yazdı.En uç vakalardan birinde bir adam annesini öldürdü ve ardından intihar etti.

Davaya göre ChatGPT, adama annesinin onu zehirlemeye çalıştığı yönünde bir komplo fikrini güçlendirdi.CNBC’ye göre OpenAI yatırımcılara sunduğu finansal belgelerde bu davaları şirket için en büyük risklerden biri olarak gösterdi.Yaş doğrulama sistemi de soru işareti yarattıOpenAI aslında adult mode planını geçen yıl ekim ayında duyurmuştu.CEO Sam Altman, X platformunda yaptığı paylaşımda şirketin yetişkin içerikleri yaş doğrulamasıyla sınırlandırabileceğini söylemişti.

Altman’a göre bu yaklaşım yetişkin kullanıcılara yetişkin gibi davranma fikriyle uyumluydu.Ancak içeriden bir kaynak önemli bir soruna dikkat çekti.OpenAI’nin yaş tahmin sisteminde yaklaşık yüzde 10 hata payı var.

Bu da bazı çocukların yetişkin içeriklere erişebilme ihtimalini gündeme getirdi.OpenAI tamamen vazgeçmiş değilŞirket bu fikri tamamen çöpe atmış değil.OpenAI, Financial Times’a yaptığı açıklamada açık cinsel içerikli sohbetlerin ve yapay zekâ ile kurulan duygusal bağların etkisini uzun vadeli olarak araştıracaklarını söyledi.Şirket bu araştırmalar tamamlandıktan sonra ürünle ilgili bir karar verecek.OpenAI’nin asıl hedefi “süper uygulama”Adult mode’un ertelenmesi yatırımcıları büyük ihtimalle rahatlatacak.Financial Times’a göre yatırımcılar OpenAI’nin enerjisini başka bir hedefe yöneltmesini istiyor:ChatGPT’yi kod yazma araçlarıyla birleştirip dev bir “süper uygulama” haline getirmek.Amaç, yapay zekânın iş dünyasını değiştirme vaadini gerçek bir ürüne dönüştürmek.OpenAI konu hakkında ek yorum yapmadı.

Şirket daha önce yaş tahmin araçlarının sektör standartlarına uygun olduğunu söylemişti.