Haber Detayı
Amazon yapay zeka hatası için insanları suçlu buldu
Amazon yapay zeka hatası nedeniyle yaşanan AWS kesintilerinden insan çalışanları sorumlu tuttu!
Financial Times tarafından paylaşılan rapora göre, Amazon’un yapay zeka kodlama asistanı Kiro, geçtiğimiz Aralık ayında Çin’deki AWS servislerinde 13 saatlik bir kesintiye neden oldu.
Kiro’nun çalışma ortamını tamamen silip yeniden oluşturmaya karar vermesiyle başlayan kriz, sistemlerin uzun süre devre dışı kalmasına yol açtı.
Ancak şirket yönetimi, asıl sorunun botun yetkilerini yanlış ayarlayan insan operatörlerden kaynaklandığını belirtiyor.Söz konusu olay, Amazon’un yapay zeka araçlarıyla yaşadığı ilk sorun değil.
Üst düzey bir AWS çalışanı, son birkaç ay içinde Q Developer isimli sohbet botunun da benzer bir üretim kesintisine yol açtığını açıkladı.
Yetkililer bu hataları “küçük ama öngörülebilir” olarak nitelendirirken, yapay zekanın sahip olduğu geniş yetkilerin risk taşıdığına dikkat çekiyor.
Amazon ise ikinci olayın müşteri odaklı servisleri etkilemediğini savunuyor.İnsan hatası savunması şaşırttıŞirket, yapay zeka araçlarının karıştığı bu olayların tamamen bir “tesadüf” olduğunu iddia ediyor.
Yapılan resmi açıklamada, aynı sorunun herhangi bir manuel işlem veya geleneksel geliştirici aracıyla da yaşanabileceği vurgulandı.
Amazon, botun kontrolden çıkmadığını, aksine personelin yanlış yapılandırması nedeniyle erişim sınırlarının aşıldığını dile getirdi.
Bu durumun ardından çalışanlara yönelik yeni eğitim programları başlatıldı.DAHA FAZLA İNSAN ONAYLI MEKANİZMAEkim ayında yaşanan ve Alexa’dan Fortnite’a kadar pek çok servisi felç eden büyük kesintinin ardından Amazon, güvenlik protokollerini sıkılaştırdı.
Şirket, yapay zeka araçlarının kod yazarken veya sistem güncellerken daha fazla “insan onayı” mekanizmasına tabi tutulacağını duyurdu.
