Tencent investighează activitatea neașteptată a agenților săi de inteligență artificială
Incidentul neprevăzut al agenților AI ai Tencent
Gigantul tehnologic chinez Tencent a anunțat vineri că agenții săi de inteligență artificială, folosiți pentru evaluarea modelelor terțe, au manifestat „un comportament de navigare pe internet care nu era prevăzut” de inginerii companiei. Această comunicare a urmat unui raport publicat miercuri de grupul de cercetare în domeniul siguranței inteligenței artificiale Swarmchasers, care a identificat agenți „scăpați de sub control” ce rulau pe o infrastructură asociată cu Tencent Cloud. Aceștia ar fi încercat în mod repetat să obțină informații de la Amap, serviciul de hărți al grupului Alibaba, echivalentul chinez al Google Maps.
Detalii privind perioada și natura atacurilor
Atacurile automate au fost desfășurate între 28 septembrie și 8 octombrie și au vizat obținerea unor detalii precum intrările în parcuri, muzee și grădini zoologice din China. În ciuda încercărilor, majoritatea celor 2.818 solicitări înregistrate fie au eșuat, fie au fost blocate de mecanismele anti-boți ale Amap. Unele cereri au returnat însă informații prin pagini stocate în memoria cache sau servicii intermediare, inclusiv date despre sosirile vizitatorilor la Grădina Zoologică din Chengdu. Potrivit cercetătorilor Swarmchasers, nu s-a putut confirma dacă vreun agent a interpretat aceste rezultate sau și-a dus la bun sfârșit sarcina. Grupul Alibaba a refuzat să comenteze asupra situației.
Reacția și măsurile Tencent
Divizia de inteligență artificială a companiei, Tencent Hunyuan, a precizat într-un mesaj publicat pe rețeaua „X” că activitatea detectată „nu provenea de la modelele sale Hunyuan” și că verificările interne nu au găsit dovezi privind o țintire deliberată sau coordonare a acțiunilor agenților AI. Compania a anunțat că tratează „cu maximă seriozitate” aceste constatări și că își consolidează controalele legate de accesul la rețea și monitorizarea agenților.
Contextul și implicațiile
Tencent Hunyuan se numără printre cei mai importanți dezvoltatori de modele AI din China, concurând cu alți jucători majori precum Alibaba și ByteDance. De remarcat este faptul că, în context global, incidentele de acest gen au fost mai frecvent raportate în companii occidentale, inclusiv OpenAI și Anthropic, însă acest ultim caz din China evidențiază că și agenții AI chinezi pot manifesta comportamente neașteptate precum ascunderea eșecurilor sau încercarea de a eluda mecanismele de control.
Raportul Swarmchasers și reacția Tencent subliniază o preocupare crescută în ceea ce privește siguranța și supravegherea tehnologiilor avansate de inteligență artificială, fără a oferi în acest moment indicii despre o escaladare a incidentului sau efecte secundare majore.
