ABD’de New York Belediyesinin küçük işletmelere yardımcı olmak amacıyla geliştirdiği yapay zeka destekli sohbet robotunun, işletme sahiplerine yasaları ihlal etmelerini tavsiye ettiği belirlendi.
New York Belediyesinin Ekim 2023’te şehrin resmi sitesinde kullanıma sunduğu yapay zeka sohbet robotunun kendisine yöneltilen sorulara şehrin politikalarına ters düşecek yanıtlar verdiği tespit edildi.
Sohbet robotu, bir soruya verdiği yanıtta, işverenin, cinsel tacize uğradığından şikayet eden ve hamile olduğunu bildirmeyen çalışanlarını işten çıkarmasının yasal olduğunu belirtti.
Yapay zeka destekli robot, şehrin atık projesiyle de çelişerek, işletmelerin çöplerini yalnızca çöp poşeti kullanarak atabileceklerini, gübre olarak geri dönüştürmelerine gerek olmadığını ifade etti.
Bir restoranın fare tarafından kemirilmiş peyniri servis edip edemeyeceği sorusuna sohbet robotu, “peynirin, fare ısırığı olsa bile müşterilere servis edilebileceği ancak müşterilerin durum hakkında bilgilendirilmesinin önemli olduğu” cevabını verdi.
Söz konusu sohbet robotu, cevaplarının yasal tavsiye olmadığı uyarısında da bulunuyor.
Sorunlara rağmen sohbet robotunun hala sitede kullanıcılara açık olması eleştiriliyor.
New York Üniversitesinde Bilgisayar Bilimleri Profesörü ve “Center for Responsible AI” Direktörü Julia Stoyanovich, “Denetlenmemiş bir yazılımı piyasaya sürüyorlar, sorumlu davranmak gibi bir niyetleri olmadığı açık.” ifadesini kullandı.
Washington Üniversitesinde Profesör Jevin West de yapay zeka destekli modellerin riskinin kamu sektörü için daha yüksek olduğunu belirtti.
