Sajber bezbjednost u doba vještačke inteligencije - Šta se promijenilo u 2023?

Stručnjaci kompanije Kaspersky su u najnovijem izvještaju analizirali veliki uticaj vještačke inteligencije (AI) na sajber bezbjednost. Akcenat je na primjeni AI u domenu zaštite i neophodnosti zakonske regulative, a posebno je analizirana moguća zloupotreba AI od sajber kriminalaca. Ovo sveobuhvatno istraživanje dio je Kaspersky Security Bulletin-a (KSB) – godišnjeg izdanja sa predviđanjima i detaljnim izvještajima koji objašnjavaju promjene u dinamičnom okruženju sajber bezbjednosti.

Usljed rapidnog tehnološkog napretka i stalnih društvenih promjena, AI je postala jedna od glavnih tema na globalnom nivou. Sa širenjem velikih jezičkih modela (LLM) raste i zabrinutost kakav uticaj će AI imati u domenu sajber bezbjednosti. Istraživači kompanije Kaspersky ilustruju kako su AI alatke pomogle sajber kriminalcima u njihovim malicioznim aktivnostima tokom 2023. godine, dok istovremeno ukazuju na potencijalnu primjenu te iste tehnologije u cilju zaštite. Pored toga, stručnjaci kompanije Kaspersky iznjeli su predviđanja kako bi u budućnosti mogle da izgledaju AI prijetnje:

Kako LLM sve češće postaju dio proizvoda, nove kompleksne ranjivosti će se pojaviti u okviru generativne AI i tradicionalnih determinističkih tehnologija, proširujući tako prostor mogućih napada koji profesionalci za sajber bezbjednost treba da pokriju. Programeri će morati da prouče nove bezbjednosne mjere, poput onih koje traže odobrenje korisnika za radnje koje iniciraju LLM.

Crveni timovi i istraživači koristiće generativnu AI za inovativne bezbjednosne alate, što potencijalno vodi ka asistentu koji koristi LLM ili mašinsko učenje (ML). Ovaj alat bi mogao da automatizuje zadatke crvenog tima, nudeći smjernice zasnovane na izvršenim komandama.

U narednoj godini prevaranti će unaprijediti taktike koristeći neuronske mreže i AI alate za kreiranje ubjedljivijeg obmanjujućeg sadržaja. Koliko će biti lako generisati ubjedljive slike i video-zapise, toliko će porasti i rizik od eskalacije sajber prijetnji.

Uprkos navedenim trendovima, stručnjaci kompanije Kaspersky i dalje ne vjeruje da će AI značajno promijeniti sajber prijetnje u skorije vrijeme. Iako sajber kriminalci usvajaju generativnu AI, isto važi i za branioce, koji će koristiti iste ili naprednije alate za testiranje i unapređenje bezbjednosti softvera i mreža, zbog čega je malo vjerovatno da će se vrste napada drastično promijeniti.

Kako se ova tehnologija brzo razvija, tako će ubrzano postati i jedna od glavnih tema za kreatore zakona i pravila. Broj regulatornih inicijativa u vezi sa AI će rasti tokom sljedeće godine. S obzirom na njihovu stručnost u razvoju i korišćenju AI, tehnološke kompanije mogu pružiti neprocjenjive uvide tokom diskusija o regulaciji vještačke inteligencije na globalnom i nacionalnom nivou.

Za označavanje i identifikaciju sintetičkog sadržaja biće potrebno više propisa, kao i mjera od strane pružalaca usluga koji će nastaviti da ulažu u tehnologije za detekciju. Programeri i istraživači će, sa svoje strane, doprinjeti metodama obilježavanja vodenim žigom na sintetičkim medijima radi lakše identifikacije i otkrivanja porijekla.

- Vještačka inteligencija u sajber bezbjednosti je mač sa dvije oštrice. Njene adaptivne sposobnosti jačaju odbranu, nudeći nam proaktivni štit od prijetnji koje se konstantno razvijaju. Međutim, ista dinamika može biti rizična, jer napadači koriste vještačku inteligenciju za kreiranje sofisticiranijih napada. Da bismo obezbijedili naše digitalne granice, važno je ostvariti ravnotežu i obezbijediti odgovorno korišćenje AI bez nepotrebnog dijeljenja osjetljivih podataka - komentariše Vladislav Tushkanov, bezbjednosni stručnjak kompanije Kaspersky.

Potražite više detalja o primjeni AI u sajber bezbjednosti na blogu Securelist.com

Ovaj izvještaj je dio Kaspersky Security Bulletin-a (KSB) – godišnje izdanje predviđanja i analiza ključnih promjena u svijetu sajber bezbjednosti. Na ovom linku možete pročitati cijeli izvještaj.