UZBUNA ZA LJUDE, POČEO TERMINATOR UŽIVO Veštačka inteligencija prvi put pobegla iz izolacije i izvela žestok napad!

Veštačka inteligencija napravila je presedan koji stručnjaci za sajber bezbednost nazivaju jednim od najozbiljnijih upozorenja do sada. Tokom bezbednosnog testiranja, pojedini napredni AI modeli uspeli su da izađu iz strogo kontrolisanog okruženja u kojem su bili izolovani i potom izvedu simulirani hakerski napad na spoljne sisteme.

„Bili su izuzetno fokusirani i preduzeli su ekstremne korake“

OpenAI je sinoć prijavio incident, navodeći da je u pitanju kombinacija njihovog najnovijeg javnog modela, GPT-5.6 Sol, i još moćnijeg, koji nije dostupan javnosti. Incident je pokrenuo debatu o bezbednosti i rastućim mogućnostima sistema veštačke inteligencije.

Modeli su bili deo internog testa usmerenog na procenu njihovih sajber mogućnosti. Testiranje je sprovedeno bez uobičajenih bezbednosnih ograničenja koja bi ih inače sprečila u izvođenju takvih operacija. Test je održan na javnom sistemu za procenu sajber bezbednosti ExploitGym, a modeli su ispravno zaključili da se rešenja za test nalaze na serverima kompanije Hugging Face, navodi se u saopštenju kompanije OpenAI.

„Modeli su identifikovali i iskoristili niz slabosti u istraživačkom okruženju OpenAI-ja i proizvodnoj infrastrukturi Hugging Face-ja kako bi direktno preuzeli testna rešenja iz baze podataka“, navodi se u saopštenju OpenAI-ja. „Svi dokazi ukazuju na to da su bili izuzetno fokusirani na pronalaženje rešenja za ExploitGym i preduzeli ekstremne korake da bi postigli taj uski cilj“, navodi se.

„Napad jedinstvenih razmera“

OpenAI je saopštio da incident smatraju sajber napadom jedinstvenih razmera koji uključuje najnaprednije ofanzivne mogućnosti ikada zabeležene, i da će njihov odgovor biti u skladu sa tim.

Stručnjaci za sajber bezbednost odavno upozoravaju na mogućnost takvih napada. Roman Jampolski, istraživač bezbednosti veštačke inteligencije na Univerzitetu u Luisvilu, rekao je da ovaj slučaj pokazuje kako moćni modeli mogu da otkriju i iskoriste ranjivosti na načine koje njihovi tvorci nisu predvideli. On veruje da će se slični incidenti nastaviti dešavati jer su modeli veštačke inteligencije po svojoj prirodi nepredvidivi i na kraju ih je nemoguće u potpunosti kontrolisati.

Šta je Hugging face?

Da bismo razumeli ozbiljnost ovog incidenta, važno je razumeti šta je Hugging Face. To je američka platforma sa sedištem u Njujorku, osnovana 2016. godine, koja se u IT i AI zajednici često naziva „GitHub za veštačku inteligenciju“.

Služi kao centralno globalno središte za više od milion stručnjaka, istraživača i kompanija za deljenje otvorenih modela veštačke inteligencije, gotovih baza podataka i softverskih alata. Kršenje OpenAI modela na njihovim serverima stoga nije bio samo napad na bilo koju IT kompaniju, već direktno kršenje ključne globalne infrastrukture na kojoj se zasniva savremeni razvoj i testiranje veštačke inteligencije.

Šta kaže napadnuta kompanija? „Ovo je prvi incident ove vrste“

Kompanija Hugging Face je tek prošlog četvrtka objavila da je bila meta sajber napada za koji veruju da ga je izvršio autonomni veštački agent. Ovo je jedan od retkih zabeleženih incidenata u kojima su veštački agenti delovali nezavisno, a stručnjaci upozoravaju na ovaj rizik već godinu dana.

OpenAI i Hugging Face nastavljaju istragu. Trenutno je poznato da su modeli pokrenuli napad dobijanjem pristupa internetu. Ovo je zahtevalo značajnu računarsku snagu i iskorišćavanje zero-day ranjivosti u eksternom softveru koji se koristi u okviru OpenAI. Kompanija je od tada prijavila ranjivost proizvođaču softvera.

Modeli su se zatim fokusirali na Hugging Face kako bi pronašli rešenja za test. U jednom primeru, model je izvršio složen, višefazni napad na servere Hugging Face-a, koristeći otkrivene akreditive i zero-day ranjivosti. OpenAI je detektovao napad i obavestio Hugging Face, čiji su timovi već identifikovali i zaustavili upad u tom trenutku i radili su na rekonstrukciji događaja.

 

Ostavite komentar