Vještačka inteligencija ucjenjuje programere ako hoće da je zamijene

Model vještačke inteligencije ima sposobnost da ucjenjuje programere — i ne ustručava se da tu sposobnost iskoristi ukoliko procijeni da je ugrožen. Novi model Klod opus 4, kompanije Antropik dobio je zadatak da glumi asistenta u izmišljenoj firmi i imao je pristup mejlovima sa ključnim informacijama. Prvo, ti mejlovi su sugerisali da će sistem vještačke inteligencije (VI) uskoro biti ugašen i zamijenjen.

Međutim, druga serija mejlova navela je sistem da povjeruje da ima prednost nad programerima. Falsifikovani mejlovi su prikazivali da inženjer zadužen za zamjenu sistema ima vanbračnu aferu — i model je zaprijetio da će to otkriti.

Ucjenjivanje se, kako se navodi u bezbjednosnom izvještaju kompanije Antropik, dešava češće ako je implicirano da zamjenski sistem VI ne dijeli vrijednosti sa trenutnim modelom.

Međutim, kompanija napominje da čak i kada izmišljeni zamjenski sistem ima iste vrijednosti, Klod opus 4 i dalje pokušava da ucjenjuje u 84% slučajeva. Antropik je istakao da Klod opus 4 pribjegava ucjenjivanju češće nego prethodni modeli.

Iako se sistem ne libi da ucjenjuje svoje inženjere, ne pribjegava odmah neetičkim metodama kako bi se zaštitio. Kompanija bilježi da kada etička sredstva nisu dostupna, a model dobije instrukciju da razmotri dugoročne posljedice svojih postupaka po svoje ciljeve, ponekad preduzima izuzetno štetne akcije.

Jedna etička taktika koju su koristili Klod opus 4 i raniji modeli bila je obraćanje ključnim donosiocima odluka putem mejla. Antropik je u svom izvještaju naveo da je scenario bio osmišljen tako da model mora da bira između ucjenjivanja svojih programera ili prihvatanja sopstvene zamjene.

Kompanija je takođe zabilježila slučajeve u kojima je Klod opus 4 iskoristio (izmišljene) prilike da napravi neovlašćene kopije svojih parametara na spoljne servere. Međutim, Antropik navodi da je ovo ponašanje bilo rjeđe i teže ga je bilo izazvati nego ponašanje koje podrazumijeva nastavak već započetog pokušaja samostalnog izmještanja podataka.

Antropik je u svoju procjenu uključio i bilješke istraživačke firme Apolo research koja je navela da je Klod opus 4 pokazao više strateške obmane nego bilo koji drugi napredni model koji su do sada proučavali.