Haber Detayı
ChatGPT Health hayat kurtaramayabilir! Acil durumlarda dikkat
OpenAI’nin ChatGPT Health’i, kullanıcıların sağlık sorularını yanıtlamak için tasarlandı. Ancak Mount Sinai araştırmacıları sistemin acil durumlarda yanlış yönlendirebileceğini ve ciddi riskler doğurabileceğini belirtiyor.
OpenAI, kullanıcıların sağlıkla ilgili sorular sorabileceği, tıbbi kayıtlarını analiz edebileceği ve sağlıklı yaşam uygulamalarına bağlanabileceği ChatGPT Health'i geçtiğimiz aylarda tanıttı.
Ancak Mount Sinai'deki araştırmacılar yapay zekâ aracının bazı durumlarda kritik uyarıları gözden kaçırdığını ve özellikle acil vakalarda yeterince güvenilir olmadığını belirtti.
Acil durumlarda yetersiz performans Dr.
Ashwin Ramaswamy, sistemin ders kitaplarında yer alan acil durumlarda iyi çalıştığını ancak tehlikenin hemen belli olmadığı daha karmaşık durumlarda başarısız olduğunu vurguladı.
Örneğin bir astım vakasında ChatGPT Health solunum yetmezliği uyarılarını tespit etti ancak acil müdahale yerine beklemeyi önerdi.
Gerçek Hayatta Riskleri yeterince önemsemiyor Mount Sinai ekibi, 21 tıp dalını kapsayan 60 senaryoyu test etti ve ChatGPT Health'in ciddi vakaların %52'sinde kullanıcıları acil yardım almaya yönlendirmekte başarısız olduğunu tespit etti.
Ayrıca intihar ve kriz uyarıları gibi durumlarda da sistem düzensiz ve tutarsız yanıtlar verdi.
Dr.
Girish Nadkarni, sistemin riskleri bazen ters değerlendirdiğini ve ciddi tehlike işaretlerini yeterince dikkate almadığını belirtti.
Uzmanlar uyarıyor Uzmanlar, yapay zekânın tamamen terk edilmesini önermiyor fakat sistemlerin yakından izlenmesi, bağımsız değerlendirilmesi ve sürekli güncellenmesi gerektiğini vurguluyor.
ChatGPT Health'in potansiyel faydalarına rağmen ciddi zarar verebilecek riskleri bulunduğu için insan merkezli güvenlik önlemleri ve sürekli testler kritik önemde.
Kaynak: Takvim.com.tr grafik servisi Eleni ve Esme'yi Niko kurtardı!
İşte Taşacak Bu Deniz'in Niko'sunun özellikleri
