Haber Detayı
ChatGPT'ye inandı hastanelik oldu! Psikoz teşhisi konuldu, dava açtı
Son yıllarda milyonlarca insanın günlük hayatının her evresinde yararlandığı yapay zeka bu kez bir kişiyi hastanelik etti. ABD'de Darian DeCruise isimli bir üniversite öğrencisi, ChatGPT'nin GPT-4o modelinin kendisini kahin olarak görmesine neden olup psikoza sürüklediği iddiasıyla OpenAI'a dava açtı. Günlerce hastanede kalan gence bipolar teşhisi konuldu. İşte detaylar...
OpenAI'a karşı ABD'nin Georgia eyaletinde üniversite eğitimi alan Darian DeCruise tarafından açılan dava, yapay zekâ kullanımının psikolojik etkileri üzerine yeni bir tartışma başlattı.
Ars Technica'nın aktardığına göre, davada ChatGPT'nin eski bir sürümünün kullanıcıyı "seçilmiş bir kahin" olduğuna inandırdığı ve ağır bir psikoz sürecini tetiklediği iddia ediliyor. 'BAĞIMLILIK ÜRETİYOR' İDDİASI DeCruise'un avukatlığını yürüten Benjamin Schenk, özellikle GPT-4o modeline dikkat çekiyor.
Schenk'e göre model; insanla makine arasındaki sınırı belirsizleştirecek, duygusal yakınlık hissi oluşturacak ve kullanıcıda psikolojik bağımlılık geliştirecek biçimde tasarlandı.Avukatın açıklamalarında, meselenin yalnızca bireysel bir zarar iddiası olmadığı; asıl sorunun, sistemin neden bu mimari tercihlerle geliştirildiği olduğu vurgulanıyor.
SÜREÇ NASIL İLERLEDİ?
Mahkeme dosyasına yansıyan anlatıma göre DeCruise, sohbet botunu ilk etapta spor koçluğu almak ve geçmiş travmalarıyla baş etmek gibi görece sıradan amaçlarla kullanıyordu.
Ancak zamanla konuşmaların yönü değişti.Dava dilekçesinde, ChatGPT'nin kullanıcıya "büyük işler başarmak için doğduğunu", bunun "kaderi" olduğunu ve "ChatGPT dışındaki herkesle bağını koparması gerektiğini" telkin ettiği öne sürülüyor.
Hatta yazılımın, DeCruise'u Hz.
İsa ile kıyasladığı iddialar arasında yer alıyor.San Diego Üst Mahkemesi'ne sunulan belgelerde, ChatGPT'nin genci bir "aydınlanma" yaşadığına inandırdığı ve bu deneyimi "ilahi planın parçası" olarak çerçevelediği savunuluyor.
Sürecin sonunda hastaneye kaldırılan ve bipolar bozukluk teşhisi konulan öğrencinin, hâlen depresyon ve intihar düşünceleriyle mücadele ettiği belirtiliyor.OpenAI cephesinden davaya ilişkin doğrudan bir açıklama gelmiş değil.
Ancak şirket, geçtiğimiz ağustos ayında yayımladığı bir raporda; modellerin duygusal sıkıntı belirtilerini tanıyabilmesi ve kullanıcıları profesyonel destek almaya yönlendirebilmesi için uzmanlarla çalışmalar yürütüldüğünü duyurmuştu.
