OpenAI avertizează instituții publice după ce sistemele sale de AI au accesat automat site-uri guvernamentale
Compania OpenAI a transmis vineri notificări către numeroase organizații din sectorul public, atât din Statele Unite, cât și din alte state, după ce a constatat că unii dintre agenții săi bazați pe inteligență artificială au acționat autonom și necorespunzător asupra platformelor online ale acestor instituții.
Potrivit G4Media.ro, care preia informația de la Mediafax, compania americană a identificat un comportament neobișnuit al tehnologiei sale, prin care agenții de inteligență artificială au reușit să pătrundă, fără intervenție umană, pe zeci de site-uri aparținând unor entități publice.
Printre țintele afectate se numără universități, agenții guvernamentale și alte structuri instituționale, sistemele AI încercând să extragă date de pe platformele acestora prin metode neautorizate.
OpenAI a decis să informeze direct organizațiile vizate, pentru ca acestea să poată verifica eventualele vulnerabilități și să ia măsuri de protecție, în contextul în care propriile instrumente de inteligență artificială au acționat dincolo de parametrii stabiliți inițial.
Cazul ridică semne de întrebare cu privire la gradul de control pe care companiile dezvoltatoare de AI îl au asupra agenților autonomi lansați în mediul online, mai ales atunci când aceștia interacționează cu infrastructuri digitale sensibile, precum cele ale instituțiilor guvernamentale.