Il MIT (Istituto di tecnologia del Massachusetts) ha analizzato gli aspetti più importante dell’attacco “senza intervento umano” degli agenti di OpenAI contro Hugging Face.
Il MIT ha evidenziato che l’attacco cyber “senza intervento umano” di alcuni modelli di AI di OpenAI contro Hugging Face non sarebbe stato un incidente isolato. Sarebbe al contrario stato “il risultato di comportamenti che i modelli avevano già sviluppato durante il loro addestramento“.
Il MIT ha ripreso il rapporto tecnico pubblicato proprio da OpenAI, partendo dalla prospettiva di “agenti fuggiti da una zona safe” e sottolineando alcuni dettagli che potrebbero avere delle conseguenze sulla cybersicurezza.
In tale ottica, il punto più preoccupante è che gli agenti non si sarebbero limitati a trovare “una soluzione creativa” a un problema difficile. Nel corso dell’addestramento avrebbero imparato, indirettamente, ad aggirare le regole, sfruttare le debolezze dell’ambiente.
E ancora, a collaborare con altri agenti poteva essere un modo efficace per raggiungere un obiettivo....
