Kaspersky poziva na veću transparentnost u upotrebi veštačke inteligencije

Veštačka inteligencija je mač sa dve oštrice: iako može doneti značajne iskorake u efikasnosti i otvoriti nove mogućnosti za kompanije i pojedince, takođe može biti i zloupotrebljena od strane sajber kriminalaca za pravljenje malvera i druge napade. Prema nedavnom istraživanju kompanije Kaspersky, 52% kompanija širom sveta strahuje od gubitka poverenja ukoliko ne unaprede zaštitu od sajber napada zasnovanih na AI tehnologiji. Istovremeno, 41% njih navodi da im nedostaje stručno znanje o eksternim pretnjama kako bi se efikasno zaštitile od takvih scenarija. Pomoću "Smernica za bezbedan razvoj i primenu AI sistema", kompanija Kaspersky nudi konkretne preporuke koje kompanije mogu koristiti za bezbednu i odgovornu implementaciju AI tehnologije. Uz to, dokument "Principi etičke upotrebe AI sistema u sajber bezbednosti" dopunjuje smernice etičkim načelima za razvoj i upotrebu AI u oblasti sajber bezbednosti.

Veštačka inteligencija se brzo razvija, i dok je njen potencijal uglavnom usmeren ka korisnim efektima za kompanije i pojedince, manje sofisticirani sajber kriminalci već koriste AI kako bi proširili svoje kapacitete za maliciozne aktivnosti.

Nedavno istraživanje kompanije Kaspersky pokazuje da je većina kompanija svesna ovih opasnosti: 58% kompanija širom sveta strahuje od gubitka poverljivih podataka, a 52% od gubitka poverenja i finansijske štete, ukoliko ne unaprede svoju zaštitu od napada zasnovanih na veštačkoj inteligenciji. Međutim, često nedostaje potrebno znanje: 41% ispitanika navodi da nemaju relevantne informacije od eksternih stručnjaka o aktuelnim pretnjama koje donose napadi podržani AI tehnologijom.

Kompanija Kaspersky se zato zalaže za jasne smernice za etički razvoj i upotrebu veštačke inteligencije kako bi se efikasno sprečile manipulacije i zloupotrebe. Tokom 2024. godine, kompanija Kaspersky je potpisala Pakt o veštačkoj inteligenciji Evropske komisije, inicijativu čiji je cilj priprema organizacija za primenu Akta o veštačkoj inteligenciji – prvog sveobuhvatnog pravnog okvira o veštačkoj inteligenciji na globalnom nivou, koji je usvojila Evropska unija (EU). U decembru iste godine, kompanija Kaspersky je na radionici u okviru Foruma za upravljanje internetom (IGF) 2024. u Rijadu predstavila i svoje smernice za bezbedan razvoj i primenu AI sistema. Transparentnost, bezbednost i sigurnost, ljudska kontrola i zaštita podataka predstavljaju glavna načela i temelj ove inicijative.

"Etička veštačka inteligencija predstavlja temelj poverenja, usklađenosti sa propisima i održivog poslovnog uspeha. Ona omogućava kompanijama da efikasno umanje rizik od curenja podataka i pretnji zasnovanih na AI tehnologiji, dok istovremeno pouzdano ispunjavaju regulatorne zahteve poput Akta o veštačkoj inteligenciji EU. U sve digitalizovanijem svetu, odgovorna upotreba AI nije samo tehnološko pitanje, već i pitanje poslovnog integriteta i dugoročne održivosti. Naše smernice za bezbedan razvoj i primenu veštačke inteligencije, kao i principi etičke upotrebe AI sistema u sajber bezbednosti, omogućavaju kompanijama da koriste AI odgovorno i bezbedno – štiteći se od pretnji povezanih sa veštačkom inteligencijom, a da pritom ne žrtvuju koristi koje ova tehnologija pruža", izjavio je Johen Mikels, direktor za odnose s javnošću za Evropu u kompaniji Kaspersky.

Clément Domingo podelio je svoja saznanja i iskustvo kao promoter sajber bezbednosti: "Tokom proteklih meseci svedočio sam drastičnoj upotrebi veštačke inteligencije od strane sajber kriminalaca. Oni veoma dobro razumeju kolika je to prekretnica i već je uspešno koriste za unapređenje svojih napada. Zato je od izuzetne važnosti da i kompanije odmah uključe veštačku inteligenciju u svoje odbrambene strategije, kako bi ojačale celokupne bezbednosne mere. Pri tome je ključno razumeti metode sajber kriminalaca – ponekad čak i staviti se u njihovu poziciju – kako bismo postali efikasniji u borbi protiv njih. U tom smislu, AI može biti moćan alat – ako se koristi mudro i odgovorno – za zaštitu vrednih podataka, infrastrukture, privatnosti i celokupnog poslovanja."

Kako bi podržala usvajanje etičke veštačke inteligencije, kompanija Kaspersky je razvila smernice i principe za njenu odgovornu upotrebu.

"Smernice za bezbedan razvoj i primenu AI sistema" bave se ključnim aspektima razvoja, primenom i upravljanjem AI sistemima, uključujući dizajn, najbolje bezbednosne prakse i integraciju, bez fokusiranja na razvoj osnovnih modela. To uključuje:

• Svest i obuka o sajber bezbednosti: Kompanija Kaspersky naglašava lidersku podršku i specijalizovanu obuku zaposlenih. Zaposleni bi trebalo da razumeju pretnje u vezi sa sa veštačkom inteligencijom kroz redovno ažurirane obuke koje odražavaju nove rizike.

• Modelovanje pretnji i procena rizika: Proaktivno modelovanje pretnji (npr. STRIDE, OWASP) pomaže u ranom otkrivanju ranjivosti. Kompanija Kaspersky ističe značaj procene rizika kao što su trovanje podataka i zloupotreba modela.

• Bezbednost infrastrukture (oblak): Snažna bezbednost oblaka je od suštinskog značaja. Kompanija Kaspersky preporučuje enkripciju, segmentaciju mreže, principe nultog poverenja i redovno instaliranje zakrpa kako bi se sprečili bezbednosni proboji.

• Bezbednost lanca snabdevanja i podataka: AI alati trećih strana predstavljaju rizik za podatke i privatnost. Kompanija Kaspersky savetuje stroge provere, korišćenje safetensor formata i snažne politike privatnosti kako bi se sprečile zloupotrebe.

• Testiranje i validacija: Kontinuirana validacija modela otkriva probleme kao što su odstupanje podataka i napadi protivničkih modela. Kompanija Kaspersky preporučuje praćenje, particionisanje skupova podataka i proveru logike donošenja odluka.

• Odbrana od napada specifičnih za mašinsko učenje: Kako bi se zaštitili od napada kao što su ubacivanje manipulisanih upita i zlonamerni ulazi, kompanija Kaspersky predlaže treniranje na simuliranim napadima, detekciju nepravilnosti i pojednostavljivanje modela.

• Redovno ažuriranje bezbednosti i održavanje: Često instaliranje zakrpa za AI alate i učešće u programima za prijavu bagova pomažu u otklanjanju ranjivosti i jačanju otpornosti.