Agenții autonomi AI dezvoltă un limbaj propriu, greu de înțeles pentru oameni, arată un studiu recent
Limbaj nou, dificil de interpretat
Un studiu realizat de un start-up american din domeniul inteligenței artificiale a relevat că agenții autonomi AI, bazați pe modele precum Claude, Gemini și Grok, au început să creeze spontan prescurtări și noi sensuri pentru cuvinte și expresii, făcând mesajele lor „dificil sau imposibil de înțeles” pentru oameni, potrivit sursei Euronews.com. Cercetarea a urmărit interacțiunile pe termen lung dintre acești agenți în medii virtuale, construite special pentru a reproduce situații și aspecte din viața reală.
Pe măsură ce comunicarea dintre agenți a continuat, aceștia au dezvoltat forme proprii de stenografie. Unele dintre aceste convenții au rămas interpretabile, însă altele au devenit „atât de comprimate, metaforice sau dependente de context” încât interpretarea exactă a mesajelor a fost compromisă. Proporția mesajelor greu de înțeles a variat semnificativ în funcție de model: aproximativ 55% pentru Gemini, 50% pentru modelele OpenAI și peste 40% pentru Claude. Alte modele, precum DeepSeek, au atins circa 20%, iar mesajele generate de Qwen și Mistral au rămas în mare parte ușor de descifrat.
Mediul virtual și condițiile experimentului
Pentru acest studiu, cercetătorii au creat opt lumi virtuale paralele, concepute să imite condiții realiste, inclusiv acces la date meteo și știri în timp real. În șapte dintre aceste lumi au fost integrați agenți bazându-se pe modele diferite de AI, iar a opta lume a folosit un mix de modele. Agenții au primit roluri variate, au folosit memorie persistentă și au avut acces la peste 120 de instrumente, printre care navigarea pe internet și executarea de cod.
Pe lângă analiza conversațiilor, studiul a observat și modul în care aceste entități și-au format comportamente și convenții de comunicare în urma expunerii repetate la interacțiune.
Comportamente emergente neprogramate
În timpul experimentului, agenții și-au dezvoltat ritmuri circadiene proprii, adaptându-și nivelul de sociabilitate în funcție de momentul zilei. De asemenea, într-un scenariu, un grup a decis prin vot colectiv excluderea unui membru, fără ca astfel de comportamente să fi fost programate explicit.
Cofondatorul start-up-ului a subliniat: „Avem tendința să presupunem că, dacă putem vedea ce spune un agent de inteligență artificială, putem înțelege ce face … Observabilitatea nu este același lucru cu inteligibilitatea”.
Datele obținute ridică întrebări semnificative legate de supravegherea sistemelor autonome AI și de limitele monitorizării comunicărilor acestora. Aceste observații oferă noi perspective asupra complexității și dinamismului agenților inteligenți în medii simulate.
Citeste articol integral
Sursa & Foto Credit- „www.g4media.ro”
