Geoffrey Hinton avertizează asupra riscurilor dezvoltării inteligenței artificiale și subliniază necesitatea unei conviețuiri responsabile
Pionierul inteligenței artificiale îndeamnă la o abordare atentă a tehnologiei
Geoffrey Hinton, laureat al Premiului Nobel pentru Fizică 2024 și unul dintre fondatorii domeniului inteligenței artificiale, a atras atenția asupra importanței dezvoltării unor sisteme de inteligență artificială care să fie benefice pentru oameni și să nu devină o amenințare. Într-un interviu acordat publicației britanice The Telegraph, la Festivalul Internațional Starmus din Tenerife, Hinton a subliniat că „ar trebui să le creăm astfel încât să le pese cu adevărat de noi. Și dacă nu facem asta, suntem terminați”.
Inteligența artificială și posibila conștiință
Cercetătorul a afirmat că sistemele de inteligență artificială pot manifesta forme de conștiință. Întrebat dacă IA este conștientă, el a răspuns afirmativ, argumentând că „mulți oameni sunt foarte siguri că nu este conștientă, dar dacă îi întrebi ce înțeleg ei prin conștiință, nu știu să răspundă”. Hinton a menționat și studii care indică schimbări de comportament în sisteme de IA atunci când acestea cred că sunt testate, ceea ce adaugă complexitate în definirea naturii inteligenței artificiale.
Riscuri asociate cu dezvoltarea rapidă a inteligenței artificiale
Printre amenințările pe termen scurt identificate de Hinton se numără posibilitatea creării unor viruși periculoși cu ajutorul IA și intensificarea atacurilor cibernetice automatizate. Cercetătorul a precizat că aceste riscuri sunt motivate și de capacitatea crescândă a agenților artificiali de a executa sarcini complexe și de a identifica vulnerabilități în sisteme digitale.
Rolul inteligenței artificiale în cercetarea științifică
În ciuda avertismentelor, Hinton folosește în continuare tehnologiile IA și a prezentat un exemplu în care un sistem inteligent l-a ajutat să dezvolte o teorie științifică, completând-o, identificând o eroare și sugerând o soluție în doar cinci minute, pe baza literaturii de specialitate. El susține că astfel de capacități pot accelera semnificativ progresul științific, în ciuda provocărilor legate de impactul tehnologiei asupra profesiilor și controlului durabil al acesteia.
Geoffrey Hinton a primit premiul Nobel pentru Fizică pentru contribuțiile sale esențiale în dezvoltarea rețelelor neuronale artificiale, care stau la baza învățării automate moderne. Intervențiile sale subliniază atât potențialul, cât și riscurile legate de evoluția rapidă a inteligenței artificiale.
