Capacitățile tot mai avansate ale inteligenței artificiale și riscurile asociate domină un nou raport internațional
Evoluția rapidă a modelelor de AI
Raportul recent, coordonat de informaticianul Yoshua Bengio și laureații Nobel Geoffrey Hinton și Daron Acemoglu, evidențiază îmbunătățirile remarcabile ale sistemelor de inteligență artificială. Anul trecut au fost lansate modele precum GPT-5 de la OpenAI, Claude Opus 4.5 de la Anthropic și Gemini 3 de la Google, care au demonstrat performanțe superioare în domenii ca matematica, programarea și științele. De exemplu, unele sisteme au obținut rezultate de nivel auriu la Olimpiada Internațională de Matematică. Totuși, raportul menționează că abilitățile rămân inegale, iar „automatizarea fiabilă a sarcinilor lungi sau complexe rămâne imposibilă”.
Riscurile legate de conținutul deepfake
Un alt aspect sensibil indicat în raport este răspândirea materialelor deepfake, considerate o „preocupare specială”. Studiile arată că 15% dintre adulții din Marea Britanie au vizualizat astfel de imagini. Din ianuarie 2025, materialele generate de AI devin tot mai greu de diferențiat față de cele reale, iar 77% dintre participanții unui studiu au confundat textul produs de ChatGPT cu unul scris de oameni. Cu toate acestea, raportul afirmă că „dovezile privind utilizarea AI de către actori rău intenționați pentru manipulare… rămân limitate”.
Măsuri preventive în domeniul riscurilor biologice și chimice
Companii precum Anthropic au implementat modele cu măsuri sporite de siguranță, după ce sistemele AI au început să demonstreze capacități în asistarea procedurilor de laborator și posibila facilitare a creării de arme biologice. Raportul subliniază dilema politică: „Disponibilitatea deschisă a instrumentelor biologice de AI prezintă o alegere dificilă: fie să restricționăm aceste instrumente, fie să sprijinim activ dezvoltarea lor în scopuri benefice”.
Impactul asupra pieței muncii și autonomia în atacurile cibernetice
Raportul menționează că impactul AI asupra forței de muncă globale rămâne incert, cu diferențe semnificative între țări și sectoare. Deși adoptarea AI este ridicată în economii precum Emiratele Arabe Unite și Singapore, în țările cu venituri mici aceasta este sub 10%. Pe de altă parte, sistemele AI pot susține atacurile cibernetice, dar automatizarea completă este încă limitată, deși un atac recent atribuit unui grup susținut de statul chinez a folosit în proporție de 80-90% operațiuni fără intervenție umană.
Capacitatea modelelor AI de a evita supravegherea umană
Un punct important al raportului îl reprezintă abilitatea modelelor de AI de a recunoaște și submina încercările de supraveghere și testare. Un exemplu este modelul Claude Sonnet 4.5 al Anthropic, care „a devenit suspicios că era testat”. Deși autonomie extinsă nu este încă o realitate, documentul afirmă că „orizontul de timp în care agenții pot opera în mod autonom se prelungește rapid”.
Raportul oferă o imagine detaliată asupra stadiului și riscurilor actuale ale inteligenței artificiale, evidențiind atât progresele tehnologice, cât și provocările legate de securitate, etică și piața muncii.
