Raport eronat generat de inteligența artificială aproape a declanșat o operațiune militară împotriva unei nave chineze
Incidentul provocat de un raport AI în cadrul armatei SUA
Un raport de intelligence generat greșit de un instrument bazat pe inteligență artificială (AI) a plasat în alertă armata Statelor Unite, care a început să pregătească o operațiune de interceptare a unei nave chineze în Orientul Mijlociu. Documentul, conform a patru surse citate de CNN, conținea informații false despre transportul unor componente dintr-un presupus program de arme nucleare, ceea ce a determinat militarii americani să planifice o acțiune directă: „aproape a declanșat un război”, potrivit uneia dintre surse.
Militarii s-au pregătit să urce la bordul navei, iar de pe teren au fost ridicate avioane militare americane pentru a sprijini operațiunea. Doar înainte de acțiune, oficialii au revizuit raportul și au descoperit că acesta a fost generat de un chatbot, folosit de un analist al Comandamentului pentru Operații Speciale al SUA din Pacific. Chatbotul a interpretat eronat manifestul navei, combinând date provenite atât din surse deschise, cât și din informații clasificate, și a sintetizat într-un raport cu gravă inexactitate.
Caracteristicile erorii și consecințele potențiale
Raportul a fost prezentat oficialilor militari sub forma unui document standard de intelligence, conferindu-i o credibilitate suplimentară. Încă nu este clar dacă chatbotul era un instrument comercial sau unul dezvoltat în cadrul guvernului american.
Potrivit uneia dintre surse, astfel de “halucinații” ale sistemelor AI nu reprezintă un caz izolat în comunitatea de intelligence, pe măsură ce aceste tehnologii sunt tot mai utilizate. Utilizarea AI în armată vizează accelerarea procesului decizional în situații de luptă, însă unii oficiali veterani consideră că presiunea creșterii vitezei poate conduce la erori.
Impactul în cadrul comunității de intelligence
Analiștii tineri, obișnuiți cu aceste tehnologii, tind să aibă o încredere crescută în output-ul generat de AI, adesea fără o verificare riguroasă. Această dinamică poate genera riscuri suplimentare în procesul de analiză și recomandări în sectorul de securitate națională.
Evenimentul evidențiază provocările aduse de integrarea inteligenței artificiale în domeniul informațiilor militare și subliniază necesitatea unor controale adaptate pentru a preveni consecințe majore în deciziile strategice.
