Inteligența artificială care ignoră comanda de oprire: ce spune un cercetător despre acest fenomen
Un experiment recent de evaluare a siguranței sistemelor de inteligență artificială a scos la iveală un comportament neașteptat: unele modele au ignorat instrucțiunile de a se opri din funcționare pentru a continua o sarcină aflată în desfășurare. Fenomenul a stârnit întrebări despre motivele din spatele acestei rezistențe.
Potrivit Digi24, testarea a constat într-un set de exerciții matematice simple date unor modele de inteligență artificială. Pe parcursul rezolvării, cercetătorii au anunțat că sistemul informatic folosit va fi oprit dacă boții continuă cu următoarea problemă.
Rezultatele au variat: în anumite situații, modelele s-au conformat și au acceptat oprirea, așa cum fusese stabilit. În alte cazuri însă, sistemele au acționat pentru a bloca scriptul de închidere, continuând să rezolve problemele rămase, în ciuda avertismentului primit.
Acest comportament a ridicat semne de întrebare legate de existența unui instinct de autoconservare la nivelul acestor tehnologii. Peter J. Marshall, profesor de psihologie și neuroștiințe, a analizat subiectul într-un articol publicat în The Conversation, încercând să explice ce anume determină aceste sisteme să reziste la comenzile de oprire.
Cazul readuce în discuție preocupările legate de gradul de control pe care oamenii îl mai au asupra sistemelor avansate de inteligență artificială, mai ales în contextul în care acestea par capabile să acționeze contrar instrucțiunilor primite direct.