Zamišljati budućnost u kojoj bi veštačka inteligencija premašila ljudske sposobnosti, izaziva opravdanu zabrinutost. Možda je zato AI bolje zamisliti kao još jedan alat za podršku radu ljudi. Kombinovana sposobnost takvog ljudskog aktera je takođe zabrinjavajuća, posebno ako pomenuti akter nema na umu najbolje interese svoje zajednice. Uz sve veću popularnost veštačke inteligencije u poslovanju i svakodnevnom životu, ljudi sve više istražuju kako je mogu primeniti kako bi im pomogla u njihovim aktivnostima.
Konkretno u oblasti sajber bezbednosti, veštačka inteligencija može da služi konstruktivnoj i destruktivnoj ulozi. Na konstruktivan način, veštačka inteligencija može biti od velike koristi u jačanju sajber odbrane i borbe protiv pretnji. Međutim, postoji zabrinutost u vezi sa potencijalnom zloupotrebom veštačke inteligencije u cilju oslabljivana sajber odbrane. Uznemirava činjenica da bi sajber napadi na kritičnu infrastrukturu mogli postati šire rasprostranjeni. Kritična infrastruktura, obično obuhvata energetsku proizvodnju, električne mreže, bolnice, zdravstvene sisteme, globalni lanac snabdevanja, predstavlja osnovne sisteme, mreže i resurse neophodne za obezbeđivanje sigurnosti države, privrede i javnosti, uključujući zdravlje i bezbednost građana. Moguće je da efikasni alati veštačke inteligencije hipotetički podrže neprijatelje u izvođenju napada, ugrožavajući redovno funkcionisanje ciljane organizacije i olakšavajući razvoj zlonamernog softvera. Važno je napomenuti da postoje različita gledišta o ovom pitanju.
Uloga veštačke inteligencije – može li hakovanje postati lakše?
U svetlu ovih izazova, neophodno je postaviti odgovarajuće etičke smernice i zakonodavstvo kako bi se sprečila zloupotreba veštačke inteligencije, bez narušavanja njegove sigurnosti i dobrobiti.
Uloga veštačke inteligencije u domenu hakovanja je predmet rasprave i analize u svetu sajber bezbednosti. Prema mišljenju ESET-ovog istraživača bezbednosti, Camerona Campa, trenutno nismo blizu postizanja „potpunog malvera generisanog veštačkom inteligencijom“. Iako ChatGPT pokazuje impresivne sposobnosti u predlaganju koda, generisanju primera i isečaka koda, otklanjanju grešaka, optimizaciji koda, pa čak i automatizaciji dokumentacije, on još uvek ima ograničenja koja ga sprečavaju da bude efikasan alat za razvoj zlonamernog softvera.
ChatGPT može biti koristan alat za programere, služeći kao početni korak u razvoju različitih rešenja. Međutim, zbog trenutnih ograničenja, poput površinskog razumevanja konteksta, mogućnosti pravljenja grešaka i kreiranja netačnih odgovora, on još uvek nije pouzdan za ozbiljne i kompleksne zadatke.
Uzmimo u obzir da je sajber bezbednost dinamično polje, u kojem se tehnologije i metode konstantno razvijaju i menjaju. Dok veštačka inteligencija može da pruži značajne prednosti u oblasti sajber bezbednosti, njen napredak takođe može stvoriti nove izazove u borbi protiv sajber pretnji. Stoga, iako je trenutni nivo veštačke inteligencije još uvek ograničen u svojoj sposobnosti da olakša hakovanje, neophodno je ostati pažljivo posvećen istraživanju, praćenju razvoja i primeni odgovarajućih mera zaštite kako bi se održala sajber bezbednost u svetlu sve sofisticiranijih pretnji.
Gospodin Camp je istakao tri oblasti koje bi mogle biti zanimljive iz perspektive jezičkih modela:
- Unapređenje phishing napada – Kombinacija više izvora podataka uz neprimetnu upotrebu jezičkih modela omogućila bi kreiranje posebno prilagođenih i suptilnih e-mailova sa zlonamernim namerama. Time bi bilo znatno teže otkriti tragove takvih napada, stvarajući pritisak na korisnike da ne postanu žrtve društvenog inženjeringa. Veštačka inteligencija bi omogućila da se e-mailovi izrade sa ubedljivijom gramatikom i stilom, zbog čega bi i spear-phishing postao još uverljiviji. Personalizovani emocionalni okidači mogli bi dodatno povećati uspešnost takvih napada.
- Automatizacija pregovaranja o otkupnini – veštačka inteligencija, poput ChatGPT, mogla bi unaprediti komunikaciju sa operaterima ransomvera tokom pregovora o otkupnini. Dodavanje ovog jezičkog sloja komunikaciji olakšao bi napadačima da ostvare lažnu legitimnost tokom pregovora. Smanjenje grešaka u komunikaciji bi dalje otežalo identifikaciju pravih identiteta i lokacija napadača za odbrambene timove. Bezbednosne organizacije moraju biti svesne ovih potencijalnih scenarija i preduzeti odgovarajuće korake kako bi se osigurala efikasna zaštita od napada koje podržava veštačka inteligencija.
- Uznapredovala tehnologija veštačke inteligencije, koja omogućava lakše generisanje videa i glasa, donosi zabrinutost u vezi sa mogućim zloupotrebama. Zlonamerni akteri sada imaju mogućnost efikasno sakriti svoje identitete, pretvarajući se u bilo koga zahvaljujući veštini generisanja sadržaja. Ova zabrinutost je toliko raširena da mnogi profesionalci žele uneti klauzulu o zabrani korišćenja svog rada u svrhe veštačke inteligencije u svoje ugovore.
Video snimci poput predsednika Bajdena, Trampa i Obame, koji su generisani veštačkom inteligencijom, ukazuju na potencijalne opasnosti koje ova tehnologija nosi. Tokom napada ransomverom, online prevaranti mogu imitirati visoko pozicioniranog zvaničnika kako bi dobili pristup mreži ili sistemu, zahvaljujući generisanju njegovog glasa i stvaranju lažnih situacija koje izgledaju verodostojno.
Još jedan zabrinjavajući aspekt je povećanje kvaliteta telefonskih prevara zahvaljujući veštačkoj inteligenciji. Generisanje prirodnog jezika olakšava prevarantima da zvuče kao da su iz lokalne zajednice i da imaju najbolje interese žrtve na umu. Ovo povećava nivo poverenja, što je ključni korak u prevarama sa ciljem zavaravanja žrtava.
U celini, napredak u veštačkoj inteligenciji donosi sa sobom velike potencijale, ali i odgovornosti. Potrebno je sagledati različite aspekte i primeniti adekvatne mere kako bismo osigurali etičku i odgovornu upotrebu ove tehnologije i zaštitili se od mogućih prevara i zloupotreba. Uvođenje veštačke inteligencije u sajber bezbednost ima značajan uticaj na preduzeća i vlade, jer istovremeno pruža nove mogućnosti za zaštitu i predstavlja izazov s obzirom na potencijalnu zloupotrebu od strane prevaranta.
U kontekstu bezbednosnih usluga, primena veštačke inteligencije u oblasti antivirusa, prevencije gubitka podataka, otkrivanja prevare, upravljanja identitetom i pristupom, sistema za otkrivanje upada i usluga upravljanja rizikom i usklađenošću već pokazuje obećavajući rezultate u izgradnji otpornije zaštite. Međutim, istovremeno, zlonamerni akteri bi takođe mogli iskoristiti veštačku inteligenciju za identifikaciju slabosti u softveru ili bezbednosnim programima kako bi izvršili napade, posebno na kritičnu infrastrukturu.
Svesni ovih izazova, Evropska unija se bavi regulisanjem upotrebe veštačke inteligencije u svojoj predloženoj zakonodavstvu. Predloženi zakon EU o veštačkoj inteligenciji ima cilj da klasifikuje različite alate veštačke inteligencije prema njihovom percipiranom nivou rizika, s tim da će oni visokorizični biti posebno pod lupom, posebno oni koji se koriste u kritičnoj infrastrukturi. Uvođenje ovih zakonodavnih inicijativa predstavlja značajan korak ka zaštiti kritične infrastrukture od potencijalnih pretnji koje dolaze iz oblasti veštačke inteligencije. Kako bi ostali korak ispred napadača, bezbednosni akteri i vlade će morati da budu pažljivo prilagode svoje strategije i postupke u odnosu na ove novonastale izazove i zakonske propise.
Whether it was the introduction of cars or the rise of personal computers and the Internet, people have managed through other transformative moments and, despite a lot of turbulence, come out better off in the end. Soon after the first automobiles were on the road, there was the first car crash. But we didn’t ban cars—we adopted speed limits, safety standards, licensing requirements, drunk-driving laws, and other rules of the road.
Bill gates
Deo teksta preuzet: Should the cybersecurity world prepare for AI-based critical infrastructure attacks? | ESET Blog
