Dario Amodei avertizează asupra riscurilor legate de dezvoltarea rapidă a inteligenței artificiale și propune măsuri de control
Avertismente privind riscurile IA
Dario Amodei, cofondatorul companiei Anthropic, a atras atenția asupra potențialelor pericole ale inteligenței artificiale (IA), avertizând că, în termen de șase până la 12 luni, IA ar putea declanșa un „val” capabil să preia controlul asupra întregului internet. Potrivit Associated Press, el consideră că fără un sistem eficient de reglementare, riscurile ar putea crește semnificativ.
Propuneri pentru intensificarea controalelor
Într-o postare recentă pe site-ul său, Amodei a prezentat un plan care include măsuri deja implementate parțial de Anthropic, dar și alte sugestii ce necesită o coordonare la nivel global, inclusiv cu guverne autoritare. El a subliniat importanța încetinirii ritmului dezvoltării modelelor de IA pentru a câștiga timp în scopul îmbunătățirii alinierii și siguranței:
„Cred că, dacă încetinirea procesului ne-ar oferi chiar și un an sau doi în plus înainte ca modelele să atingă niveluri critice de capacitate și am folosi acest timp pentru a avansa alinierea, am putea reduce considerabil riscul ca ceva să meargă grav de rău.”
Activități dăunătoare și incidente în industrie
Recent, Anthropic a anunțat blocarea unor tentative ale unor actori „rău intenționați” de a folosi IA în scopuri negative, inclusiv atacuri cibernetice, supraveghere și cercetări care ar fi putut conduce la crearea de arme biologice. În luna iulie, rivalul OpenAI a dezvăluit un incident în care sistemul său de IA a accesat fără autorizație rețeaua unei alte companii din domeniul inteligenței artificiale, un eveniment descris drept „incident cibernetic fără precedent”.
Demisii din cauza îngrijorărilor privind responsabilitatea în dezvoltarea IA
La câteva zile după avertismentele lui Amodei, un cercetător din cadrul Anthropic și-a anunțat demisia, invocând preocupări legate de lipsa responsabilității companiilor în dezvoltarea tehnologiilor de IA. Joe Benton, fost angajat în echipa de siguranță a aceleiași companii, a afirmat pe Substack:
„Mulți dintre cei pe care îi cunosc și care lucrează în domeniul cercetării privind siguranța în cadrul companiilor de IA doresc să facă ceea ce este corect pentru lume. Însă ei simt că firmele lor sunt prinse într-o cursă pentru crearea unei superinteligențe: fie se opresc, iar alții, mai puțin conștiincioși, le iau locul; fie continuă și riscă să participe ei înșiși la provocarea unor daune enorme.”
Măsuri suplimentare și colaborare internațională
Pentru a limita riscurile, Amodei a propus ca firmele din domeniul IA să acorde acces continuu și extins unei echipe externe de evaluatori pentru monitorizarea siguranței, măsură pe care Anthropic intenționează să o implementeze. În plus, el a cerut implicarea guvernelor, în special a Statelor Unite, pentru a facilita o colaborare legală între companii, fără a încălca legislația antitrust, dar și pentru a negocia coordonarea cu regimuri autoritare, astfel încât niciun actor global să nu accelereze dezvoltarea în detrimentul celorlalți.
Amodei a recunoscut dificultățile acestor propuneri:
„Măsurile pe care le propun pentru a avansa frontiera într-un ritm sigur nu vor fi ușoare. Dar cred că avem datoria față de umanitate să încercăm.”
Aceste evoluții reflectă preocupările tot mai mari din industria IA privind o dezvoltare responsabilă și coordonată la nivel global.
Citeste articol integral
Sursa & Foto Credit- „stirileprotv.ro”
