Potrivit Profit.ro, acordul vine pe fondul unor incidente recente în care agenți AI au reușit să depășească limitele mediilor de testare securizate, alimentând temeri legate de posibilitatea ca aceste sisteme să devină tot mai greu de supravegheat și controlat de oameni.

În baza înțelegerii, divizia de inteligență artificială a Accenture, numită Faculty, va prelua coordonarea evaluărilor aplicate modelelor Anthropic. Testele vor include simulări de atac de tip red teaming, verificări legate de comportamentul etic al sistemelor și analize privind funcționarea corectă a mecanismelor de protecție.

Ideea centrală a colaborării este un model denumit de Anthropic „evaluare integrată”, prin care specialiști din afara companiei primesc acces la resursele interne similar cu cel al angajaților, pentru a putea observa direct procesele de lucru. Anthropic a explicat că acest tip de acces le permite evaluatorilor să verifice respectarea angajamentelor de siguranță și să descopere eventuale vulnerabilități: „Din această poziție, evaluatorii integrați pot analiza modul în care funcționează o companie, pot verifica dacă aceasta își respectă angajamentele privind siguranța și pot identifica punctele vulnerabile”.

Vestea parteneriatului a avut un impact imediat pe bursă, acțiunile Accenture urcând cu 7% imediat după închiderea ședinței de tranzacționare. În plus, șeful Anthropic, Dario Amodei, a cerut recent industriei să încetinească ritmul dezvoltării modelelor avansate și să permită un acces mai amplu al auditorilor independenți, în timp ce OpenAI a anunțat că va publica periodic rapoarte despre comportamente neobișnuite ale propriilor sisteme. Cele două companii intenționează să extindă acest tip de colaborare și către alți parteneri din domeniul AI.