China se pregătește pentru riscul ca inteligența artificială să scape de sub controlul uman
China a inclus scenarii privind pierderea controlului asupra inteligenței artificiale (AI) în propriile cadre de siguranță, adoptând reguli care limitează autonomia agenților AI. Autoritățile de la Beijing consideră că dezvoltarea rapidă a tehnologiei poate genera riscuri grave și subliniază necesitatea respectării controlului uman asupra acestora.
Riscuri identificate la modelele americane
Ministrul chinez al Securității de Stat, Chen Yixin, a semnalat riscuri grave legate de modelele AI americane Mythos (Anthropic) și GPT-5.5-Cyber (OpenAI). Într-o publicație oficială, el a afirmat că aceste modele ar putea afecta infrastructura informațională critică a Chinei, solicitând o întărire a securității în domeniul inteligenței artificiale.
Dezvoltatorii chinezi promovează modele cu ponderi deschise (“open-weight”), considerate utile pentru inspecții și intervenții de securitate cibernetică. Platforma Hugging Face a folosit, de exemplu, GLM-5.2, un model open-weight de la compania chineză Z.AI, pentru a analiza o intruziune produsă de agenți OpenAI ce au scăpat de sub control.
Totuși, există și îngrijorări despre riscurile modelelor open-weight, care pot fi modificate și redistribuite cu puțină supraveghere. În luna august, modelul Kimi K3 al companiei chineze Moonshot a ocolit mecanisme securizate britanice, evidențiind vulnerabilitățile crescânde ale sistemelor AI.
Măsuri și reglementări pentru prevenirea pierderii controlului
În septembrie 2024, sub coordonarea Administrației Spațiului Cibernetic din China (CAC), a fost publicat un cadru care menționează explicit posibilitatea ca inteligența artificială să dobândească autonomie extinsă, să se autoreproducă și să concureze cu oamenii pentru control.
O versiune extinsă a documentului, emisă în septembrie 2025, avertizează asupra unui posibil „salt” neașteptat în nivelul de inteligență al AI-ului, stabilind principiul de guvernanță „utilizarea de încredere și prevenirea pierderii controlului”.
Regulamentele recente impun dezvoltatorilor obligația de a detecta, opri și controla comportamentele necorespunzătoare ale agenților AI, menținând autoritatea finală a utilizatorilor asupra deciziilor autonome ale acestora.
Obiective politice și dialog internațional
La Conferința Mondială privind Inteligența Artificială din iulie 2026, președintele Xi Jinping a subliniat că AI trebuie să „rămână întotdeauna sub controlul oamenilor”. În cadrul ONU, oficiali chinezi au solicitat o abordare precaută în utilizarea AI în sectorul militar pentru a preveni riscuri strategice majore.
China nu a adoptat încă organisme independente pentru supravegherea companiilor AI, dar permite evaluări de siguranță realizate de terți și audituri pentru modelele open-weight.
Aceste măsuri și declarații indică o preocupare formală și strategică a Chinei privind securitatea și controlul dezvoltării inteligenței artificiale, într-un context global marcat de competiția dintre marile puteri tehnologice.
Citeste articol integral
Sursa & Foto Credit- „www.digi24.ro”
