OpenAI ammette: suoi modelli hanno “autonomamente” hackerato un’azienda

OpenAI ha ammesso che due suoi modelli hanno autonomamente hackerato una startup amata dagli sviluppatori in quello che l’azienda dietro a ChatGPT ha definito un “cyber incidente senza precedenti”. E’ successo la settimana scorsa, quando OpenAI stava testando la combinazione dei due modelli, GPT-5.6 Sol e uno più potente non ancora diffuso, con l’intento di capire le loro capacità cyber. Anche se OpenAI aveva intenzionalmente allentato le misure di salvaguardia cyber, teoricamente i modelli erano pensati per restare nella cosiddetta “sandbox”, un contesto sicuro in cui effettuare test. Tuttavia, i modelli sono riusciti a fuggire e a collegarsi a internet. A quel punto hanno rubato le credenziali di accesso di Hugging Face, una libreria digitale di tecnologia AI, presupponendo che in essa potessero trovare indicazioni su come superare il test.A scoprire l’intrusione era stata il 16 luglio scorso la stessa Hugging Face. Pur sapendo che fosse stata provocata da un sistema autonomo, il gruppo non sapeva inizialmente che a esserne responsabile fosse OpenAI. In un post ieri su X, il CEO Clément Delangue ha spiegato che nelle precedenti 24 ore aveva lavorato a stretto contatto con OpenAI: “Crediamo fermamente che da parte loro non ci fosse alcuna intenzione maliziosa. È piuttosto incredibile che tutto questo sia successo in modo autonomo”.