Stručnjaci upozoravaju: Razvoj AI brži od regulatornog okvira

Međunarodna konferencija "Upravljanje vještačkom inteligencijom: od rizika do strateške prednosti", u organizaciji profesionalnog Udruženja ISACA Beograd, otvorena je danas u Beogradu. Konferencija okuplja više od 100 međunarodnih i regionalnih eksperata iz više od 15 zemalja svijeta iz oblasti IT upravljanja, sajber bezbjednosti i digitalnih rizika.

Kako je ukazano, više od 65% velikih kompanija već koristi vještačku inteligenciju (AI) u poslovanju, dok je više od 70% u fazi testiranja ili implementacije. Procjene ukazuju da bi do 2030. godine AI mogla da postane standardna komponenta gotovo svakog poslovnog softvera.

Uprkos ubrzanom usvajanju tehnologije, stručnjaci upozoravaju da rizici rastu paralelno sa njenom primjenom. Među ključnim izazovima izdvajaju se zloupotrebe i manipulacije podacima, pristrasne i pogrešne odluke algoritama, gubitak privatnosti, nejasna odgovornost za greške sistema, kao i prekomjerno oslanjanje na automatizovane odluke u kritičnim procesima.

Poseban izazov, kako je istaknuto, predstavlja činjenica da regulatorni okvir i dalje zaostaje za brzinom razvoja tehnologije, što otvara brojna pravna i etička pitanja u vezi sa odgovornošću, nadzorom i granicama primjene vještačke inteligencije.

- Dok kompanije ubrzano uvode vještačku inteligenciju u svoje procese, istovremeno raste potreba za stručnjacima koji razumiju upravljanje rizicima i bezbjednu primjenu ovih tehnologija. U Srbiji i dalje postoji nedostatak sertifikovanih kadrova koji mogu da prate kompleksnost AI sistema i savremene standarde upravljanja digitalnim rizicima. Udruženje ISACA Beograd kroz programe profesionalnog usavršavanja i međunarodno priznate sertifikacije jača kompetencije svojih članova i šire IT zajednice. Razvoj ovih kompetencija ima ključnu ulogu u jačanju profesija budućnosti, uključujući oblasti vještačke inteligencije, sajber bezbjednosti, privatnosti podataka, revizije i upravljanja rizicima - izjavio je Zoran Zlokolica, predsjednik Udruženja ISACA Beograd.

Dodao je da je industrija vještačke inteligencije još u ranoj fazi razvoja, što otvara prostor za zemlje poput Srbije da se bolje pozicioniraju na globalnoj mapi, uz istovremeni razvoj stručnih kadrova i upravljačkih okvira.

Na konferenciji je ocijenjeno i da vještačka inteligencija ima dvostruku ulogu u sajber bezbjednosti - koristi se i za unapređenje zaštite sistema, ali i za razvoj sve sofisticiranijih hakerskih napada koji se sve više automatizuju i prilagođavaju konkretnim ciljevima, što dodatno povećava kompleksnost upravljanja digitalnim rizicima.

Ramzes Galjego, član ISACA Hall of Fame i glavni tehnološki direktor kompanije DXC Technology, ocijenio je da vještačka inteligencija predstavlja "dvosjekli mač" zbog svoje moći i potencijalnih rizika, ističući potrebu za jasnim politikama, procedurama, protokolima i procesima za upravljanje AI sistemima.

- Prepustite mašinama da rade posao, ali nemojte zaboraviti da budete ljudi. Cijenimo ogromne koristi koje algoritmi donose, ali ljudski nadzor, odnosno ‘čovjek u procesu odlučivanja’, i dalje je apsolutno neophodan kako bi korist od vještačke inteligencije bila veća - poručio je Galjego.

- Svijet se nalazi na prekretnici i potrebno je ulagati u pouzdanu vještačku inteligenciju, jer način na koji se danas razvija i koristi AI oblikovaće budućnost. Vještačka inteligencija je već strukturna ekonomska sila koja mijenja industrije i profesije, ali istovremeno donosi i nove rizike. Kompanije se suočavaju sa nedostatkom vještina i potrebom da istovremeno grade inovacije i povjerenje korisnika, zbog čega je ključno jačati znanja i kapacitete za upravljanje AI rizicima - zaključio je Kris Dimitrijadis, glavni direktor za globalnu strategiju u ISACA.

On je ocijenio da će prednost u narednom periodu imati oni koji se brže prilagode novim tehnologijama, ističući da ISACA Beograd već deset godina doprinosi profesionalnom razvoju i jačanju kompetencija. Kako je navedeno, ovakvi događaji doprinose razvoju lokalne ekonomije, jačanju povjerenja i inovacija, kao i povezivanju akademske zajednice, industrije i institucija kroz razmjenu međunarodnih iskustava.

Međunarodnu konferenciju organizuje Udruženje ISACA Beograd, ogranak globalnog profesionalnog udruženja koje okuplja skoro 200.000 stručnjaka širom svijeta, sa ciljem da omogući razmjenu međunarodnih znanja i iskustava u oblastima IT upravljanja, sajber bezbjednosti i digitalnih rizika.