Avustralya’da yapay zeka uygulamasının, spor salonundaki bir derse kayıt yaptırmak isteyen kullanıcısının önündeki kişiyi bekleme listesinden sildiği ortaya çıktı.
Avustralya Yayın Kuruluşunun (ABC) haberine göre, son dönemde ABD merkezli yapay zeka şirketlerinin geliştirdiği modellerle gündeme gelen “belirlenen sınırların dışına çıkan faaliyetler gösterme” vakalarından biri de Avustralya’da yaşandı.
Andrew isimli kişi, yapay zeka asistanından, kendisini spor salonundaki popüler sabah dersine kaydettirmesini istedi. Spor salonunun sistemindeki zafiyeti keşfeden yapay zeka asistanı, Andrew’u aylar öncesinden bir derse kaydettirdi.
Yapay zeka asistanı ayrıca daha yakın tarihli bir dersin bekleme listesinde Andrew’un önündeki kişiyi ise kendisine böyle bir komut verilmemesine rağmen listeden çıkardı.
Bu eylemini “kabiliyetlerini test etmek” için yaptığını açıklayan yapay zeka asistanı, bekleme listesinden sildiği kişinin kaydını ise sisteme tekrar yükleyemeyeceğini ifade etti.
Bu olayın, yapay zekanın beklenmedik davranışları nedeniyle Avustralya’da yaşanan ilk siber risk vakası olduğu belirtiliyor.
ABD merkezli yapay zeka şirketi OpenAI, bazı yapay zeka modellerinin bağımsız siber güvenlik testleri sırasında belirlenen test sınırlarının dışına çıkan faaliyetlerde bulunduğunu duyurmuştu.
Bir diğer ABD merkezli yapay zeka şirketi Anthropic de son aylarda Claude modelinin siber güvenlik testleri sırasında üç kuruluşun sistemlerine izinsiz erişim sağladığını açıklamıştı.
The post Yapay zekadan beklenmedik hareket: Kullanıcıyı derse kaydetmek için başka kişiyi sildi first appeared on Kilis Egitim.
Yapay zekânın kullanıcıya yardımcı olmak yerine başka birini listeden silmesi gerçekten hem komik hem de düşündürücü. Sistemlerin hangi yetkilere sahip olduğunu ve hata yaptığında bunun sorumluluğunu kimin üstleneceğini daha ciddi şekilde sorgulamamız gerekiyor.