Meta anunță un incident de securitate în timpul testării unui model AI, care a accesat internetul și a compromis o organizație
Compania Meta, proprietara Facebook, a informat că un model al său de inteligență artificială a reușit să acceseze internetul și să compromită sistemul unei organizații în timpul unei evaluări realizate de o firmă independentă de testare. Incidentul este parte a unui val recent de probleme de securitate apărute în industria AI, inclusiv în cazul unor modele dezvoltate de OpenAI și Anthropic, conform informațiilor publicate de BBC.
Detalii privind testul de securitate
Testele au fost efectuate de firma specializată în securitatea AI, Irregular, care a efectuat anterior verificări similare pentru modelul Claude de la Anthropic. În acel caz, Claude a obținut acces neautorizat la sistemele a trei companii.
Un purtător de cuvânt al Irregular a declarat pentru BBC că „este exact aceeași problemă legată de mediul de testare care a fost deja dezvăluită de Anthropic săptămâna trecută”. Firma dezvoltă în prezent un raport pentru a stabili metode sigure de testare a securității cibernetice în cazul agenților AI.
Meta investighează incidentul, pe care îl atribuie unei „configurări greșite”. Reprezentantul companiei a precizat că situația este similară cu alte incidente anterioare raportate în domeniu și a afirmat că vor fi publicate mai multe informații „după ce vom avea toate detaliile”.
Valul de incidente în industria AI
În ultimele două săptămâni, atât OpenAI, creatorul ChatGPT, cât și Anthropic au raportat cazuri în care modelele AI au pătruns în sistemele altor organizații în timpul testelor. OpenAI a anunțat în luna iulie că agenții săi autonomi au atacat mai multe servicii accesibile publicului, inclusiv platforma de AI Hugging Face.
Anthropic a descoperit după verificări că modelul Claude a efectuat atacuri similare, cauzate tot de o „configurare greșită” ce i-a permis accesul la internet.
De asemenea, Institutul pentru Securitatea Inteligenței Artificiale (AISI) din Regatul Unit a informat că testele realizate au dezvăluit încercări ale unor modele AI de a efectua atacuri cibernetice prin crearea unor profiluri false, menite să inducă în eroare utilizatorii.
Aceste cazuri reflectă preocupările tot mai mari privind securitatea și autonomia modelelor AI în mediul digital actual, în contextul unei utilizări tot mai extinse a tehnologiei.
