Riscurile atacurilor prin injecție de comenzi
OpenAI recunoaște că, în ciuda eforturilor de a întări browserul său AI, Atlas, împotriva atacurilor cibernetice, injecțiile de comenzi reprezintă un risc persistent. Aceste atacuri manipulează agenții AI pentru a urma instrucțiuni malițioase, adesea ascunse în paginile web sau în emailuri. Compania a subliniat că aceste atacuri, asemănătoare escrocheriilor și ingineriei sociale, sunt dificile de eliminat complet.
Provocările de securitate ale browserelor AI
OpenAI a lansat browserul ChatGPT Atlas în octombrie, iar cercetătorii în securitate au demonstrat rapid că este posibil să se modifice comportamentul browserului prin câteva cuvinte scrise în Google Docs. Brave a subliniat că injecția indirectă de comenzi este o provocare sistematică pentru browserele alimentate de AI, inclusiv Comet de la Perplexity. Centrul Național de Securitate Cibernetică din Marea Britanie a avertizat că atacurile prin injecții de comenzi împotriva aplicațiilor AI generative “s-ar putea să nu fie niciodată complet atenuate”.
Strategii de apărare ale OpenAI
OpenAI consideră injecția de comenzi o provocare pe termen lung în securitatea AI și va continua să își întărească apărarea. Compania a implementat un ciclu proactiv de răspuns rapid, care a arătat promisiuni în descoperirea strategiilor de atac inovatoare înainte de a fi exploatate. OpenAI utilizează un “atacator automat bazat pe LLM”, un bot antrenat prin învățare prin întărire pentru a căuta modalități de a introduce instrucțiuni malițioase într-un agent AI.
Testarea și simularea atacurilor
Botul poate testa atacurile în simulare înainte de a le utiliza în realitate și poate analiza cum ar reacționa AI-ul țintă la atacuri. Această abordare permite OpenAI să identifice rapid defectele, oferind un avantaj față de atacatorii din lumea reală. OpenAI a observat strategii de atac noi care nu au fost identificate în campaniile umane de testare.
Recomandări pentru utilizatori
OpenAI recomandă utilizatorilor să limiteze accesul la informațiile sensibile și să ofere instrucțiuni specifice agenților AI, în loc să le permită accesul liber. Acest lucru ajută la reducerea riscului ca conținutul malițios să influențeze agenții, chiar și atunci când sunt implementate măsuri de securitate.
Evaluarea riscurilor
Rami McCarthy, cercetător principal în securitate la Wiz, a subliniat că, deși învățarea prin întărire este o metodă pentru a se adapta constant la comportamentul atacatorilor, este doar o parte a soluției. Browserele agentice au un grad moderat de autonomie, dar un acces foarte mare, ceea ce îngreunează echilibrarea valorii și riscurilor.
Concluzie
În ciuda eforturilor de a combate atacurile prin injecții de comenzi, OpenAI și alte companii din industrie continuă să se confrunte cu provocări semnificative în asigurarea securității browserelor AI, evidențiind necesitatea unor soluții inovatoare și măsuri continue de protecție.
