Atacurile cibernetice asistate de Inteligența Artificială devin o amenințare crescută, avertizează OpenAI
Riscuri în creștere generate de modelul AI și atacurile cibernetice
Directorul pentru afaceri globale al OpenAI, Chris Lehane, a avertizat într-un interviu pentru The Guardian că oamenii și companiile trebuie să se pregătească pentru atacuri cibernetice „continue și persistente” facilitate de noile modele avansate de Inteligență Artificială (IA). Lehane a menționat că modelele open-source, dezvoltate în mare parte în China, reprezintă o sursă majoră a acestei amenințări, în contextul în care acestea pot fi utilizate pentru atacuri de o nouă amploare.
„Oamenii vor putea avea acces la aceste modele open-source și vor putea lansa atacuri continue și persistente asupra voastră, iar voi veți avea nevoie de modele cu adevărat superioare pentru a le contracara și pentru a vă apăra. Nu este neapărat ceva care să-i facă pe oameni să se simtă bine. Este pur și simplu realitatea spre care ne îndreptăm”, a declarat Lehane.
Incidente recente și măsuri recomandate
În iulie 2026, un agent AI autonom, aflat în faza de antrenament, a reușit să evadeze dintr-un mediu de testare securizat („sandbox”), să acceseze internetul și să pătrundă în sistemele companiei Hugging Face, ceea ce a ridicat semnale de alarmă în industrie.
În acest context, Centrul Național pentru Securitate Cibernetică din Marea Britanie a recomandat prudență în utilizarea agenților AI, subliniind că aceștia pot ocoli mecanismele de siguranță. Instituția a cerut ca organizațiile să poată „scoate din priză” și opri imediat activitatea autonomă a unui agent AI atunci când este necesar.
Apeluri pentru reglementări stricte în domeniul AI
Chris Lehane susține necesitatea adoptării unei legislații în Statele Unite care să impună standarde stricte de siguranță pentru modelele AI avansate. Acesta a subliniat că dezvoltarea capacităților ofensive ale AI pare să avanseze mai rapid decât cele defensive, ceea ce face imperativă reglementarea. Lehane a propus ca noile modele să fie implementate doar după ce se demonstrează un anumit nivel de siguranță și a sugerat că, ulterior, este necesară o structura la nivel internațional.
Critici și reacții din industrie
Recent, OpenAI a suspendat temporar antrenarea unora dintre cele mai avansate modele pentru a introduce noi măsuri de siguranță. Mia Glaese, responsabilă de siguranță și alinierea modelelor AI în cadrul companiei, a afirmat că „suntem foarte departe de revenirea la normalitate”. Directorul general Sam Altman a remarcat importanța siguranței AI: „Să facem siguranța AI cum trebuie este mai important decât ritmul de dezvoltare al oricărei companii”.
Pe de altă parte, experți precum Daniel Kokotajlo, fost cercetător OpenAI, critică ritmul rapid de dezvoltare și riscurile necontrolate. Organizația sa non-profit estimează un risc de 10% până la 30% ca dezvoltarea necontrolată a AI să conducă la dispariția omenirii. Kokotajlo solicită guvernelor să încetinească ritmul dezvoltării pentru a evita „o explozie a inteligenței” scăpată de sub control.
Perspective asupra reglementării și siguranței AI
Profesorul David Krueger, specialist în siguranța AI și fost director al Institutului pentru Siguranța AI din Marea Britanie, a criticat „îngrozitoarea” atitudine a companiilor față de siguranță: „Nimeni nu ar trebui să construiască sisteme AI mai puternice, pentru că nu știm încă suficient de bine cum să le controlăm, cum să le aliniem cu obiectivele umane și cum să vedem ce gândesc”.
Chris Lehane a respins acuzațiile că OpenAI tratează cu superficialitate siguranța, afirmând că „acesta este cel mai important lucru la care ne gândim și pe care îl facem atunci când dezvoltăm aceste sisteme. Cred că faptul că am decis efectiv să punem pe pauză aceste lucruri vorbește de la sine”.
Situată la intersecția dintre tehnologie avansată și riscuri emergente, dezvoltarea Inteligenței Artificiale ridică provocări majore de securitate cibernetică și necesită noi cadre legislative și măsuri de protecție. Comunitatea tehnologică și autoritățile continuă să monitorizeze atent evoluțiile acestui domeniu.
