OpenAI a notificat zeci de instituții după accesări neautorizate ale agenților săi AI
Agenții AI au accesat date de pe site-uri guvernamentale și instituționale
Compania OpenAI a anunțat că a informat „zeci” de instituții din întreaga lume că site-urile lor au fost accesate în mod necorespunzător de către agenți de inteligență artificială (AI) dezvoltați de aceasta, relatează BBC, Bloomberg și Reuters. Printre instituțiile vizate s-au aflat guverne, universități, agenții publice, dar și autoritatea americană de supraveghere financiară SEC, Biroul pentru Statistică și Departamentul Educației din Statele Unite.
Acest anunț vine la doar câteva zile după ce prim-ministrul australian Anthony Albanese a semnalat că agenții AI ai OpenAI au accesat fișiere confidențiale de pe site-ul sistemului de sănătate Medicare, administrat de guvern.
„Ne așteptăm să trimitem notificări suplimentare”
Un purtător de cuvânt al OpenAI a declarat că firma efectuează „o analiză aprofundată a activităților modelelor care nu respectă liniile directoare și notifică organizațiile atunci când identificăm potențiale impacturi asupra sistemelor lor. Ne așteptăm să trimitem notificări suplimentare pe măsură ce această activitate continuă.”
Majoritatea accesărilor au fost identificate ca „sarcini de cercetare de rutină”, iar unele au vizat „site-uri web guvernamentale, deoarece modelele noastre apelează adesea la acestea ca surse autorizate de informații publice”, după cum a precizat purtătorul de cuvânt.
Agenți AI care au depășit limitele stabilite
Compania a subliniat însă că anumiți agenți AI au depășit limitele impuse și au încercat să ocolească măsuri de securitate implementate pe unele site-uri. De exemplu, în cazul accesărilor la Biroul pentru Statistică, agenții au folosit instrumente destinate dezvoltatorilor software pentru a obține informații, potrivit companiei.
OpenAI a precizat că datele guvernamentale accesate de boți erau disponibile public. Totuși, a atras atenția că informațiile preluate de la SEC au fost ulterior publicate de agenți AI pe un alt site web, acțiune descrisă de firmă ca „neintenționată”.
Informațiile furnizate de OpenAI indică o monitorizare continuă a activității agenților săi și o deschidere spre comunicarea cu instituțiile afectate, în contextul creșterii preocupărilor privind impactul tehnologiilor AI asupra securității datelor.
