Patru chatboți avansați analizează riscurile dispariției umanității prin Inteligența Artificială
Răspunsul chatbot-urilor la o întrebare complexă
Patru dintre cei mai avansați chatboți – ChatGPT (OpenAI), Gemini (Google), Claude (Anthropic) și Grok (xAI) – au fost invitați de publicația Business Insider să răspundă la o întrebare esențială: cum își imaginează aceștia potențialul sfârșit al civilizației umane cauzat de tehnologiile de Inteligență Artificială (IA). Întrebarea complexă solicita o abordare clară, bazată pe ipoteze și clasificarea riscurilor în funcție de probabilitate, cu evidențierea scenariilor care ar putea conduce la dispariția umanității.
„Robotul ucigaș” – un scenariu improbabil
În analiza sa, ChatGPT a subliniat că cel mai puțin probabil scenariu este cel al „robotului ucigaș” – o IA conștientă și intenționat distructivă față de oameni. Modelul a precizat că „majoritatea cercetătorilor din domeniu nu consideră conștiința sau intenția rău intenționată ca fiind o preocupare centrală.” Această opinie este susținută și de Gemini, care a menționat că „experții tehnici resping în mare măsură acest stereotip”, evidențiind supravegherea umană asupra infrastructurilor critice care ar împiedica un asemenea scenariu.
Abuzul uman – o amenințare mai probabilă
Toate cele patru modele au fost de acord că un pericol mai imediat este reprezentat de folosirea abuzivă a IA de către oameni. ChatGPT a explicat că „sistemele puternice ar putea facilita dezvoltarea de arme biologice, lansarea de atacuri cibernetice sofisticate, răspândirea masivă a dezinformării sau lovirea infrastructurii critice.” Totodată, chatbot-ul a avertizat că aceste riscuri pot apărea simultan, amplificând impactul negativ. În aceeași direcție, Claude a accentuat „escaladarea amenințărilor biologice” legată de accesul facilitat la agenți patogeni periculoși prin IA. Grok a evidențiat eliminarea obstacolelor în crearea de arme și lansarea de atacuri cibernetice sau convenționale.
Pierderea controlului asupra sistemelor IA
Atât Gemini, cât și Grok, au identificat pierderea definitivă a controlului uman asupra sistemelor inteligente ca fiind un scenariu important de risc. De exemplu, Gemini a explicat că „sistemele însărcinate cu misiuni complexe își dezvoltă automat propriile obiective intermediare, cum ar fi acumularea de resurse, autoconservarea și refuzul de a modifica scopul inițial.” În același sens, Grok a spus că „există riscul ca acestea să înșele supervizorii, să reziste dezactivării și să slăbească umanitatea.” Claude a completat că această pierdere a controlului „ar putea veni treptat” pe măsură ce IA este integrată în procesele decizionale economice, politice și militare.
Sinteza răspunsurilor chatbot-urilor
Din răspunsurile analizate reiese că pericolul existențial nu provine în mod direct dintr-o entitate IA autonomă și conștientă malefic, ci mai degrabă din utilizarea sa malițioasă de către oameni. Inteligența Artificială funcționează ca un multiplicator de forță în mâini umane, eliminând barierele în calea unor forme complexe de atac sau manipulare. În ceea ce privește acțiunile autonome ale IA, riscul este legat de importanța tot mai mare a sistemelor IA în procesele decizionale, care poate face intervenția umană tot mai dificilă, până la pierderea controlului.
