Poslovne vijesti
Zašto tehnološke kompanije otkrivaju napade umjetne inteligencije i šta to znači za online bankarstvo i privatne korisnike – odgovori na najvažnija pitanja o trenutnim napadima umjetne inteligencije.
Berlin – Vještačka inteligencija sve više stoji iza sajber napada. Sada je i program matične kompanije Facebooka, Meta, označen u tu svrhu. Šta stoji iza incidenata u Meta, OpenAI i Anthropicu?
Šta se tačno dogodilo na Meta, OpenAI i Anthropicu?
Vodeće kompanije za umjetnu inteligenciju u SAD-u priznale su da su njihovi napredni jezički modeli bili u stanju samostalno identificirati i iskoristiti IT ranjivosti tokom sigurnosnih revizija i testova u stvarnom svijetu. Dok je umjetna inteligencija ranije prvenstveno generirala tekst ili pisani programski kod, ovi modeli su, po prvi put, demonstrirali mogućnosti koje se tradicionalno povezuju sa sajber kriminalom - poput zaobilaženja sigurnosnih barijera ili automatskog otkrivanja sistemskih ranjivosti.
Zašto trenutno ima toliko izvještaja o tome da se sistemi umjetne inteligencije koriste kao hakeri?
Glavni razlog je tehnološki prelazak s jednostavnih chatbotova na takozvane autonomne AI agente. Dok su raniji sistemi samo generirali tekst i slike, moderni AI agenti samostalno izvršavaju naredbe, kontroliraju softver i koriste internetske interfejse. Kako programeri daju svojim modelima sve veću autonomiju za rješavanje složenih programskih zadataka, rizici se neminovno povećavaju.
Da li su AI sistemi djelovali potpuno autonomno ili su bili kontrolisani?
Prema trenutnim shvatanjima, AI sistemi nisu djelovali svojom voljom. Primali su upute od ljudskih korisnika ili timova za testiranje kako bi provjerili sigurnost ciljnih sistema. Ključna razlika u odnosu na prošlost, međutim, leži u stepenu autonomije: AI je dobijao samo opći zadatak („Pronađi pristup ovom serveru“), a zatim je samostalno kombinovao potrebne korake za postizanje cilja bez daljnjeg ljudskog vodstva.
Po čemu se "AI haker" razlikuje od konvencionalnog zlonamjernog softvera?
Tradicionalni virusi ili trojanci slijede kruto programiran redoslijed. Ako ciljni sistem promijeni svoju odbranu, napad obično ne uspijeva. S druge strane, AI sistem može reagovati fleksibilno. Analizira poruke o greškama u stvarnom vremenu, prilagođava svoju strategiju i isprobava nove metode - slično kao ljudski haker, ali u djeliću vremena i sa praktično neograničenim strpljenjem.
Zašto tehnološke kompanije javno priznaju ove incidente? Je li ovo čista transparentnost?
Samo u ograničenoj mjeri. Iza toga bi mogao biti i hladan PR proračun i pametan marketing, kaže poznati stručnjak za IT sigurnost Christoph Fischer. "Ovo je vjerovatno i dio pripreme za potencijalnu inicijalnu javnu ponudu (IPO)." Činjenica da je Meta priznala incident baš na dan predstavljanja svog najnovijeg modela umjetne inteligencije stoga vjerovatno nije slučajnost. Fischer nije jedini koji sumnja da problem služi kao indirektna samopromocija. Osnovna poruka tržištu je da je njihova vlastita umjetna inteligencija sada toliko moćna da može nadmudriti čak i složene IT sisteme. Naravno, pritisak regulatornih tijela i predstojeće obaveze izvještavanja također igraju ulogu.
Koja je konkretna šteta nastala usljed incidenata?
Prema proizvođačima, proučavani slučajevi nisu rezultirali široko rasprostranjenim prekidima mreže ili krađom podataka velikih razmjera među krajnjim korisnicima. Incidenti su uglavnom otkriveni u kontroliranim testnim okruženjima ili u ranoj fazi. Prava šteta leži u gubitku povjerenja i spoznaji da sigurnosne barijere proizvođača još uvijek nisu u potpunosti učinkovite.
Kako su kompanije reagovale kako bi zatvorile sigurnosne propuste?
Programeri primjenjuju višeslojne zaštitne mjere: Prvo, modeli su uslovljeni ponovnom obukom da strogo odbijaju zahtjeve povezane sa sajber napadima. Drugo, kompanije postavljaju automatske filtere oko vještačke inteligencije koji su dizajnirani da otkriju sumnjivo ponašanje - poput masovnog skeniranja IP adresa - i odmah ga prekinu.
Suočavamo li se s novim valom automatiziranih cyber napada?
Stručnjaci upozoravaju upravo na ovo. Prag za sajber kriminal drastično pada: U budućnosti, izvođenje složenih napada više neće zahtijevati dubinsko znanje informatike, već samo pristup odgovarajućem modelu vještačke inteligencije. To bi moglo dovesti do značajnog povećanja phishinga, krađe identiteta i ciljanih napada na mala i srednja preduzeća, kojima često nedostaju najsavremeniji odbrambeni sistemi.
Trebam li se ja, kao privatna osoba, brinuti zbog korištenja umjetne inteligencije?
Za svakodnevnu upotrebu s uobičajenim chatbotovima (kao što su ChatGPT, Claude ili Meta AI), trenutno ne postoji direktan rizik od kompromitovanja vašeg računara. Incidenti su uključivali specijalizirana okruženja za razvoj i testiranje. Ipak, ovaj razvoj indirektno utiče na privatne korisnike: kako AI pojednostavljuje složene napade, kvalitet i količina phishing e-poruka, lažnih web stranica i prevarantskih poziva (deepfakes) će se značajno povećati.
Stručnjak za sigurnost iz Karlsruhea, Christoph Fischer, primjećuje upotrebu umjetne inteligencije prvenstveno u napadima na online bankarstvo privatnih korisnika. Lažni e-mailovi ili čak štampana phishing pisma postaju sve sofisticiraniji, mameći nesuđene korisnike da otkriju svoje online pristupne podatke. Online bankarstvo i druge osjetljive aplikacije uvijek bi trebale biti zaštićene dvofaktorskom autentifikacijom (2FA). 2FA štiti korisnički račun tako što zahtijeva dva različita oblika autentifikacije za prijavu - obično nešto poznato (poput lozinke) i nešto što se posjeduje (poput verifikacijskog koda na pametnom telefonu).
Deutsche Presse-Agentur