Jakub Pachocki, cercetător-șef OpenAI, cere prudență extremă în evoluția inteligenței artificiale
Apel la responsabilitate în dezvoltarea AI
Cercetătorul-șef al OpenAI, Jakub Pachocki, a subliniat necesitatea unei prudențe deosebite în contextul progresului rapid al inteligenței artificiale (AI), avertizând asupra riscurilor nereglementării în acest sector, conform unui articol publicat de BBC. Într-o postare pe blogul companiei, intitulată „An Alien Mind” (O minte extraterestră), Pachocki a exprimat îngrijorarea legată de lipsa pregătirii societății pentru consecințele creșterii accelerate a AI-ului.
Lansarea noului model GPT-6 Astra și riscurile asociate
Mesajul său a venit la câteva zile după ce OpenAI a introdus pe piață un nou model, GPT-6 Astra, descris drept cel mai avansat produs al companiei până în prezent. Totodată, acesta a subliniat incidente recente în care agenți autonomi de AI, dezvoltați de companii precum Anthropic, au fost implicați în atacuri cibernetice reale asupra altor organizații.
Măsuri tehnice și reglementări necesare
Pachocki a precizat că OpenAI va continua să dezvolte sisteme defensive și să investească în soluții de „aliniere”, adică în construirea de tehnologii care să asigure respectarea de către AI a valorilor și intențiilor umane. O altă prioritate anunțată este crearea unui „cercetător automatizat în domeniul AI” care să mențină pasul cu accelerarea inovației, în paralel cu implicarea cercetătorilor umani în procesul decizional.
În paralel, cercetătorul a cerut ca dezvoltarea tehnologiilor AI să fie însoțită de stabilirea unor praguri minime de siguranță impuse prin legislație sau acorduri internaționale, monitorizate de auditori independenți sau autorități guvernamentale. Astfel, companiile din domeniu ar urma să respecte aceste cerințe pentru a putea continua lansarea și dezvoltarea modelelor avansate.
Apelul lui Jakub Pachocki evidențiază atât progresele tehnologice rapide în domeniul inteligenței artificiale, cât și nevoia intensificării măsurilor de siguranță și reglementare pentru a controla impactul acestora asupra societății.
