Cercetătorul Jacob Coxon avertizează asupra riscurilor pe termen lung ale inteligenței artificiale
Într-un moment marcat de dezvoltări rapide în domeniul inteligenței artificiale (IA), fostul cercetător Anthropic, Jacob Coxon, și-a exprimat îngrijorarea legată de potențialele pericole pe care le-ar putea aduce tehnologia în viitor. Deși consideră că IA este sigură pentru utilizarea curentă, Coxon avertizează asupra riscurilor ce pot apărea pe măsură ce sistemele devin tot mai avansate.
Demisia și avertismentele lui Jacob Coxon
Critici la adresa companiilor de IA
Jacob Coxon a demisionat recent de la Anthropic, compania care a creat aplicația IA Claude, acuzând atât această organizație, cât și rivalul OpenAI (dezvoltatorul ChatGPT) că participă la o cursă tehnologică care neglijează protocoalele de siguranță. În opinia sa, această competiție ar putea pune viețile oamenilor în pericol: „se joacă cu viețile noastre” prin dezvoltarea rapidă a modelelor IA avansate.
Posibile scenarii problematice
Coxon avertizează că o inteligență artificială ar putea ajunge să dețină control neîngrădit asupra unor aspecte din lumea reală, fără intervenția umană. „Oamenii conectează deja ChatGPT la, să zicem, utilitățile casnice. De exemplu, îl poți conecta într-un fel la becul tău. Acum, imaginați-vă că IA refuză să vă aprindă lumina,” a explicat el. De asemenea, IA ar putea fi folosită pentru acțiuni distructive, cum ar fi dezvoltarea de arme biologice „care ar putea ucide pe toată lumea”.
Cu toate acestea, Coxon subliniază că riscurile nu sunt imediate și că tehnologia este sigură pentru uzul zilnic, dar problema survine din presiunea competițională pentru inovație, care poate duce la sacrificarea măsurilor de siguranță.
Perspective ale altor instrumente IA privind riscurile existențiale
Scenarii comune în răspunsurile IA generative
Instrumente precum Gemini (Google), ChatGPT (OpenAI), Perplexity AI, Grok (SpaceXAI) și Claude (Anthropic) au identificat mai multe riscuri posibile, între care pierderea controlului asupra unor sisteme superinteligente, utilizarea malițioasă a IA pentru arme biologice sau atacuri cibernetice și dependența excesivă a societății de tehnologie.
De exemplu, Gemini a explicat că „inteligența artificială poate deveni o amenințare existențială nu prin conștiință sau ură față de oameni, ci prin eficiență extremă combinată cu scopuri greșit formulate.” Pe de altă parte, ChatGPT a subliniat riscul „unei AI superinteligente și nealiniate cu interesele umane” care ar putea să se reproducă și să manipuleze pentru a-și îndeplini obiectivele.
Riscurile și raportările companiilor
Anthropic a răspuns demisiei lui Coxon prin reafirmarea transparenței companiei privind beneficiile și riscurile IA, precizând că dezvoltă „unele dintre cele mai solide măsuri de protecție din industrie.”
Recent, Anthropic a anunțat că a blocat accesul unor cercetători care încercau să folosească modelele Claude pentru dezvoltarea de arme biologice, iar raportul companiei a indicat și alte activități nedorite legate de supraveghere, escrocherii și propagandă.
Rezumat
Avertismentele formulate de Jacob Coxon și analiza mai multor platforme IA evidențiază o preocupare comună privind posibila pierdere de control asupra unor sisteme extrem de inteligente, precum și riscurile generate de utilizarea abuzivă a tehnologiei. În timp ce aceste riscuri sunt evaluate diferit în comunitatea științifică, amploarea potențialelor consecințe determină cercetătorii să solicite implementarea unor măsuri riguroase de siguranță și reglementare.
Surse: CBS News, CNN, Anthropic, X
Notă: Acest articol a fost realizat cu ajutorul unor instrumente de inteligență artificială.
Citeste articol integral
Sursa & Foto Credit- „www.g4media.ro”
