Upozoravajuća priča za sve koji bi da automatizuju posao AI botovima

Kako je rekla Kesi Kozirkov, savetnik za veštačku inteligenciju i bivša Guglova glavna naučnica za odlučivanje "ovaj nered se mogao izbeći". Za to daje tri razloga. Prvi, da su lideri shvatili da AI pravi greške, drugi, da AI ne može da preuzme odgovornost za te greške i treći da korisnici mrze da ih prevari mašina koja se predstavlja kao čovek.

Za sada su "halucinacije" ograničene na AI chat botove, ali stručnjaci upozoravaju da kako sve više preduzeća usvaja autonomne AI agente, posledice po kompanije mogu biti daleko gore. To je posebno tačno u visoko regulisanim industrijama kao što su zdravstvena zaštita, finansijska ili pravna - kao što je elektronski transfer koji druga strana odbija da vrati ili pogrešna komunikacija koja utiče na zdravlje pacijenata.

Perspektiva halucinirajućih agenata "je kritičan deo slagalice koju naša industrija apsolutno mora da reši pre nego što agentska veštačka inteligencija zaista bude široko usvojena", rekao je Amr Avadalah, izvršni direktor i suosnivač Vectare, kompanije koja nudi alate koji pomažu preduzećima da smanje rizik od AI halucinacija.

On kaže da se preduzećima sviđa ideja o autonomnim AI agentima koji mogu sami da preduzmu akciju, čime štede na troškovima rada. Ali, rekao je on, kompanije su takođe "izuzetno zabrinute da bi jedan incident halucinacije, uparen sa remetilačkom ili čak destruktivnom akcijom veštačke inteligencije, mogao duboko da utiče na njihovo poslovanje".