Чет-бот базиран на вештачка интелигенција во Њујорк им даваше неточни одговори и совети на претприемачите кои би го прекршиле законот.

MyCity, чет-бот за помош на граѓаните на Њујорк, меѓу другото изјави дека претприемачите можат да земат дел од бакшишот од своите работници и дека не постојат регулативи кои ќе бараат од шефовите однапред да ги известат вработените за промена на распоредот.

Меѓу другите таканаречени халуцинации на четботот беше тврдењето дека сопствениците на продавници во Њујорк не треба да примаат готовина. Четботот најверојатно немал информации дека законот во Њујорк од 2020 година бара продавачите да примаат готовина.

Во отсуство на законско регулирање, ВИ технологиите претставуваат опасност

Градоначалникот на Њујорк, Ерик Адамс, им призна на новинарите дека четботот MyCity прави грешки во некои области, но нагласи дека тоа е експериментален проект.

„Кога ја користите технологијата, секогаш треба да ја ставите во реалниот свет за да ги испеглате недостатоците“, рече Адамс.

Chatbot Mycity се користи од октомври 2023 година. Во тоа време, таа беше рекламирана како алатка која обезбедува сигурни одговори на прашања, но се чини дека понекогаш измислува работи или тврди нешто што не е точно, што се проблеми што ги имаат другите платформи базирани на вештачка интелигенција.