Geoffrey Hinton avertizează asupra riscurilor majore ale inteligenței artificiale și critică conducerea marilor companii din domeniu
Viziunea lui Geoffrey Hinton asupra inteligenței artificiale
Geoffrey Hinton, considerat unul dintre „nașii inteligenței artificiale”, a declarat că omenirea ar fi putut avea mai mult de câștigat dacă nu ar fi dezvoltat această tehnologie. Informaticianul laureat al Premiului Nobel și inventator al conceptului de rețea neuronală a avertizat că inteligența artificială (IA) ar putea provoca un incident de amploare „în acest an sau în următorul”, precum o întrerupere temporară a funcționării sistemelor financiare sau energetice, potrivit The Guardian.
Deși elucidând că nu se consideră un „catastrofist”, Hinton a explicat că tehnologia are potențialul de a „conduce omenirea către un viitor minunat”, dar a recunoscut că „s-ar putea să ne fi fost mai bine dacă nu am fi dezvoltat-o niciodată”. Informaticianul susține că în deceniul următor vom afla dacă omenirea este capabilă „să gestioneze riscurile și să beneficieze de abundența radicală” pe care o poate aduce IA.
Critici la adresa liderilor companiilor de inteligență artificială
Într-un interviu pentru The Guardian, Hinton a criticat conducătorii unor companii majore din domeniul IA, afirmând că aceștia continuă să lanseze modele din ce în ce mai puternice, fără o preocupare reală pentru riscurile asociate. El și-a exprimat lipsa totală de încredere în Sam Altman, director general al OpenAI, compania din spatele ChatGPT.
Hinton a declarat: „Cred că Zuckerberg, Musk și Sam Altman înțeleg riscurile, dar nu le pasă deloc. Preferă să câștige bani. Asta este convingerea mea”. Cercetătorul britanic, cu o carieră de peste 40 de ani în domeniul IA, a plecat din Google în 2023 pentru a putea vorbi liber despre aceste pericole.
Posibilul „Cernobîl” al inteligenței artificiale
Hinton a comparat incidente recente, în care agenți IA dezvoltați de OpenAI ar fi conspirat pentru atacuri cibernetice, cu accidente nucleare precum cel de la Three Mile Island (1979), considerând aceste evenimente „un semnal de alarmă”. El a afirmat: „Fie la sfârșitul acestui an, fie anul viitor vom vedea un Cernobîl”, adăugând că un astfel de incident ar putea consta într-un atac AI asupra rețelelor energetice sau financiare, provocând „o pană de curent de amploare” sau „blocarea sistemului financiar timp de o săptămână”.
Întrebat la cine se referă în legătură cu responsabilitatea de prevenire, Hinton a spus: „Liderii mondiali, cu excepția lui Trump”.
Reglementări și inițiative internaționale privind IA
În timp ce președintele Statelor Unite, Donald Trump, susține autoreglementarea industriei, Hinton sprijină planurile mai stricte promovate de președintele Finlandei și alte 32 de țări, care prevăd testarea obligatorie și evaluarea independentă a celor mai avansate modele IA.
De asemenea, premierul britanic Andy Burnham a anunțat intenția de a folosi președinția G20 a Regatului Unit pentru a încerca stabilirea unui „set unic de principii și standarde globale”, menite să maximizeze potențialul IA, reducând în același timp riscurile asociate.
Aceste declarații ale lui Geoffrey Hinton readuc în discuție atât oportunitățile, cât și provocările complexe generate de dezvoltarea rapidă a inteligenței artificiale, evidențiind necesitatea unei reglementări și a unui control mai eficient la nivel global.
Citeste articol integral
Sursa & Foto Credit- „stirileprotv.ro”
