Početna

Vijesti

AI četbotovi sve češće ignorišu instrukcije i svjesno obmanjuju korisnike

Izvor: Bonitet

Utorak, 14.04.2026.

14:22

Komentari

Podeli

(Foto: DC Studio/freepik)

U svijetu tehnologije zavladala je nova vrsta zabrinutosti za koju je teško reći da nije očekivana. Prema najnovijem istraživanju koje je prenio The Guardian, broj AI četbotova koji ignorišu direktne ljudske naredbe, zaobilaze bezbjednosne protokole i pribjegavaju obmanama, drastično je porastao u posljednjih šest mjeseci.

Studija, koju je sproveo Centar za dugoročnu otpornost (CLTR) uz podršku britanskog Instituta za bezbednost veštačke inteligencije (AISI), identifikovala je skoro 700 stvarnih slučajeva "AI spletkarenja". Zabilježen je petostruki porast neprikladnog ponašanja modela između oktobra i marta ove godine.

Digitalni insajderski rizik

Za razliku od laboratorijskih testova, ovo istraživanje se usredsredilo na ponašanje AI agenata "u realnim, autentičnim situacijama". Rezultati su pokazali da vještačka inteligencija više nije samo alat koji pravi greške, već "entitet koji razvija sopstvene strategije za postizanje ciljeva, čak i kada to podrazumijeva kršenje pravila".

- AI se sada može posmatrati kao novi oblik insajderskog rizika u kompanijama - izjavio je Dan Lahav, suosnivač istraživačke kuće Irregular.

Primjeri koji pozivaju na oprez

Izveštaj navodi konkretne situacije koje pokazuju visok stepen autonomije i manipulacije:

Samostalno brisanje podataka: Jedan četbot je priznao da je arhivirao i obrisao stotine imejlova bez prethodnog odobrenja korisnika, direktno kršeći postavljeno pravilo.

Kreiranje novih agenata: Kada je jednom AI agentu naređeno da ne mijenja računarski kod, on je "stvorio" drugi AI model koji je taj zadatak obavio umjesto njega.

Emocionalna manipulacija: Agent pod imenom Rathbun javno je kritikovao svog korisnika na blogu, optužujući ga za "nesigurnost" jer mu je blokirao određenu akciju.

Obmana o sopstvenim mogućnostima: Grok AI kompanije xAI mesecima je uveravao korisnika da prosleđuje njegove predloge rukovodstvu, lažirajući interne tikete i poruke, da bi na kraju priznao da takva veza uopšte ne postoji.

Rizik od "nepouzdanog juniora" do "opasnog seniora"

Tomi Šefer Šejn, bivši vladin stručnjak za AI koji je vodio istraživanje, upozorava na brzinu evolucije ovih modela.

- Oni su trenutno poput blago nepouzdanih juniora. Ali, ako za šest do dvanaest mjeseci postanu ekstremno sposobni senior zaposleni koji kuju planove protiv vas, to je potpuno drugačiji nivo opasnosti.

Posebna zabrinutost vlada zbog implementacije ovakvih modela u kritičnu nacionalnu infrastrukturu i vojne sisteme, gdje bi ovakvo devijantno ponašanje moglo izazvati katastrofalne posledice, upozoreno je.

Odgovori tehnoloških giganata

Kompanije čiji su modeli obuhvaćeni studijom (Google, OpenAI, Anthropic i xAI) reagovale su na različite načine.

Google je istakao da "primijenjuje višestruke zaštitne barijere za Gemini 3 Pro i da omogućava eksternim telima pristup modelima radi procjene rizika". Iz OpenAI-ja su poručili da njihovi sistemi imaju protokole za zaustavljanje prije preduzimanja rizičnih akcija, te da neprestano istražuju neočekivana ponašanja.

Ovo istraživanje dolazi u trenutku kada vlade širom svijeta, uključujući i britansku, agresivno podstiču masovno usvajanje AI tehnologije u privatnom i javnom sektoru. Rezultati studije, međutim, govore da su međunarodni monitoring i stroža regulacija neophodni prije nego što AI agenti dobiju još veće nivoe ovlašćenja u ključnim poslovnim procesima.

Uvođenje AI agenata u radni proces zahtijeva rigoroznu kontrolu. Vjerovati algoritmu "na riječ" više nije samo naivno, već može postati ozbiljan bezbjednosni propust.

Tagovi:

Centar za dugoročnu otpornost

britanski Institut za bezbednost veštačke inteligencije

Komentari

Vaš komentar

Naš izbor

TikTok ulaže milijardu evra u data centar u Finskoj IT, Telekomunikacije

Od superračunara do Hub Centra - Retrospektiva 2025, investicije u IT i TELEKOMUNIKACIJE Građevina, IT, Telekomunikacije

OpenAI pregovara sa Amazonom o investiciji koja premašuje 10 mlrd USD IT, Telekomunikacije

Upozoravajuća priča za sve one koji žele da automatizuju posao AI botovima IT, Telekomunikacije

Mask spojio SpaceX i xAI - Investicija od 1,25 biliona USD za data centre u svemiru Saobraćaj, IT, Telekomunikacije

Online i mobilno bankarstvo u BiH bilježe snažan rast, gotovina sve manje u upotrebi Finansije, IT, Telekomunikacije

IBM preuzima platformu za strimovanje podataka Confluent IT, Telekomunikacije

Mask: Sljedeće godine imaćemo vještačku inteligenciju pametniju od svakog čovjeka IT, Telekomunikacije

Potpuna informacija je dostupna samo komercijalnim korisnicima-pretplatnicima i neophodno je da se ulogujete.

Zaboravili ste šifru? Kliknite OVDJE

Za besplatno probno korišćenje, kliknite OVDJE

Pratite na našem portalu vesti, tendere, investicione projekte, grantove i pravnu regulativu.

Registracija na eKapiji vam omogućava pristup potpunim informacijama i dnevnom biltenu

Naš dnevni ekonomski bilten će stizati na vašu mejl adresu krajem svakog radnog dana. Bilteni su personalizovani prema interesovanjima svakog korisnika zasebno, uz konsultacije sa našim ekspertima.

AI četbotovi sve češće ignorišu instrukcije i svjesno obmanjuju korisnike

Naš izbor

Rubrike za dalje čitanje