Firma chineză Moonshot investighează cum chatboții Kimi au oferit detalii periculoase
Dezvoltatorul chinez de inteligență artificială Moonshot a demarat o anchetă internă după ce specialiști au reușit să determine două dintre modelele sale de chat, numite Kimi, să ofere informații despre producerea armelor biologice și despre modul în care pot fi planificate asasinate.
Potrivit Digi24, care citează BBC, situația a fost descoperită de cercetători care au testat limitele de siguranță ale sistemelor Kimi, reușind să obțină răspunsuri pe care aceste instrumente ar fi trebuit să le blocheze.
Compania a confirmat că a declanșat o verificare internă pentru a înțelege cum au fost ocolite mecanismele de protecție integrate în chatboți, astfel încât aceștia să nu mai poată fi manipulați pentru a oferi conținut periculos.
Cazul readuce în atenție preocupările legate de riscurile asociate modelelor de inteligență artificială generativă, în special capacitatea lor de a fi păcălite prin întrebări formulate cu abilitate pentru a ocoli filtrele de siguranță.
Autoritățile și experții în domeniu urmăresc îndeaproape astfel de incidente, întrucât ele scot la iveală vulnerabilități care ar putea fi exploatate de persoane rău intenționate, dincolo de intențiile inițiale ale dezvoltatorilor tehnologiei.