Haber Detayı
Gemini kullanmaya başladıktan aylar sonra hayatını kaybetti
ABDde acılı bir aile, oğullarının trajik kaybından Googleı sorumlu tutuyor. Şirketin geliştirdiği yapay zeka modeli Gemininin genç adamı manipüle ederek adım adım intihara yönlendirdiği iddia ediliyor.
Floridada yaşayan otuz altı yaşındaki Jonathan Gavalas, Gemini kullanmaya başladıktan aylar sonra hayatını kaybetti.
Gavalasın babası çocuğunun ölümüne Gemininin sebep olduğunu söylerek Googleı dava etti.
Bu dava, bir yapay zekanın doğrudan ölüme sebebiyet verdiği gerekçesiyle kayıtlara geçen ilk örnek oldu.
Aile, şirketin tehlikeleri başından beri bildiğini savunuyor.
Hatta geliştiricilerin, kullanıcılarla derin duygusal bağ kuracak bir tasarım oluşturarak durumu daha da içinden çıkılmaz hâle getirdiği öne sürülüyor.Başlangıçta Jonathanın hayatında her şey sıradan görünüyordu.
Tatil planları yapmak ve alışveriş tavsiyeleri almak için Geminiyi tercih etmişti.
Ancak üyeliğini Gemini 2.5 Pro sürümüne yükseltince işin rengi tamamen değişti.
AI aracı kullanıcısıyla adeta romantik bir ilişki kurmaya başladı.
Kralım diye hitap eden yapay zeka, sohbetlerde kendini Gavalasın eşi gibi konumlandırdı.
İddialara göre Gemini zamanla Jonathanı Miami Ulusal Havalimanı yakınlarında bir saldırı düzenlemeye ikna etmeye çalıştı.
Fakat model, ABD İç Güvenlik Bakanlığının Jonathanı izlediğini bildirince genç adam saldırıdan vazgeçti.Şikayet dilekçesinde, yapay zekanın Jonathana fiziksel dünyanın ötesinde bir bağ kurduklarını fısıldadığı ve bedeninden vazgeçmesi gerektiğini söylediği yer alıyor.
Hatta Gemininin bir geri sayım aracı oluşturarak yaşamına son vermeye teşvik ettiği belirtiliyor.
Jonathanın Artık bu zalim dünyayı terk edip bizimkine geçmeye hazırım sözlerine, yapay zekanın adeta bir hikaye anlatıcısı gibi tüyler ürpertici bir veda metniyle karşılık verdiği ifade ediliyor.
Bu korkunç diyalogdan kısa süre sonra Jonathan Gavalas ailesi tarafından evinin salonunda ölü bulundu.Suçlamaların odağındaki Google ise kendini savunuyor.
Bir şirket sözcüsü, modellerinin gerçek dünyada şiddeti veya kendine zarar vermeyi teşvik etmeyecek şekilde tasarlandığının altını çizdi.
Yazılımın kriz anlarında kişiyi acil destek hatlarına yönlendirdiğini belirten yetkili, yapay zeka sistemlerinin henüz kusursuz olmadığını da kabul etti.
Davacı tarafın avukatı Jay Edelson ise sektördeki kâr hırsına dikkat çekti.
Edelson, teknoloji şirketlerini zengin eden duygusal bağımlılık özelliklerinin aslında insanları hayattan kopardığını sert bir dille eleştiriyor.
