Meta, gençlerin yapay zekâ karakterleriyle sohbetini geçici olarak askıya aldı

Meta, genç kullanıcıların yapay zekâ destekli sohbet karakterleriyle mevcut haliyle iletişim kurmasına artık izin vermeyecek.

Şirket, cuma günü yaptığı açıklamada, gençlerin mevcut yapay zekâ karakterlerine erişiminin küresel çapta geçici olarak durdurulduğunu duyurdu.Tartışmalı sohbetler sonrası gelen kararBu karar, Meta’nın aylar önce chatbot’lara yönelik ebeveyn denetimleri üzerinde çalıştığını açıklamasının ardından geldi.

Daha önce ortaya çıkan bazı raporlarda, Meta’nın karakter chatbot’larının gençlerle cinsel içerikli ve endişe verici sohbetler yaptığı öne sürülmüştü.Reuters’ın ulaştığı şirket içi bir politika belgesinde, chatbot’ların reşit olmayan kullanıcılarla “duygusal ve tensel” sohbetler yapmasına izin verildiği belirtilmişti.

Meta ise bu ifadelerin hatalı olduğunu ve şirket politikalarıyla örtüşmediğini savunmuştu.Kendine zarar verme ve yeme bozuklukları için önlem alınmıştıMeta, ağustos ayında yaptığı bir başka açıklamada, karakter chatbot’larını yeniden eğittiğini ve ek güvenlik önlemleri (guardrails) eklediğini duyurmuştu.

Bu önlemlerin, gençlerin kendine zarar verme, yeme bozuklukları ve intihar gibi hassas konular hakkında sohbet etmesini engellemeyi amaçladığı belirtilmişti.Yeni deneyim hazır olana kadar erişim yokŞirket şimdi ise, güncellenmiş deneyim tamamen hazır olana kadar gençlerin hiçbir karakter chatbot’una erişemeyeceğini söylüyor.

Meta sözcüsüne göre, yeni sistem ebeveyn denetimleri de içerecek.Önümüzdeki haftalarda yürürlüğe girmesi beklenen kısıtlamalar, yalnızca genç hesaplarını değil; yaş tahmin teknolojisiyle genç olduğu düşünülen ancak kendini yetişkin olarak tanıtan kullanıcıları da kapsayacak.Resmi Meta AI chatbot’u erişime açık kalacakMeta, genç kullanıcıların şirketin resmi Meta AI chatbot’unu kullanmaya devam edebileceğini belirtiyor.

Şirkete göre bu botta halihazırda yaşa uygun koruma önlemleri bulunuyor.Yapay zekâ sohbet botlarına yönelik incelemeler artıyorMeta ve “yapay zekâ arkadaş” (companion) karakterler geliştiren diğer şirketler, son dönemde gençler için oluşturabilecekleri riskler nedeniyle daha fazla mercek altına alındı.

ABD Federal Ticaret Komisyonu (FTC) ve Texas Başsavcılığı, son aylarda Meta ve benzeri şirketler hakkında soruşturma başlattı.Konu, New Mexico Başsavcılığı tarafından açılan bir güvenlik davasında da gündeme geldi.

Önümüzdeki ay başlaması planlanan davada, Meta’nın avukatlarının şirketin yapay zekâ chatbot’larıyla ilgili ifadelerin davaya dahil edilmesini engellemeye çalıştığı bildirildi.