In Breve
- Quali vulnerabilità sono state sfruttate dai ricercatori?
- I ricercatori hanno sfruttato una falla nel software del forum Discourse e un bug nella libreria libheif.
- Qual è stato il premio ricevuto dai ricercatori?
- I ricercatori hanno ricevuto un premio di 6.500 dollari per la segnalazione delle vulnerabilità.
- Cosa evidenzia questo episodio sulla sicurezza informatica?
- L'episodio evidenzia come strumenti avanzati possano ridurre il tempo e le competenze necessarie per sviluppare exploit.
Un recente episodio di hacking ha messo in luce le vulnerabilità dei sistemi di OpenAI, grazie all’intervento di tre ricercatori di Hacktron AI. Questi esperti hanno utilizzato il modello Claude (Opus 5) di Anthropic per concatenare due falle di sicurezza, riuscendo così ad accedere a diversi account ChatGPT di dipendenti OpenAI e a parti dell’infrastruttura aziendale.
L’operazione è stata condotta nell’ambito di un programma di bug bounty, dove i ricercatori hanno segnalato le vulnerabilità riscontrate e hanno ricevuto un premio di 6.500 dollari per il loro lavoro. OpenAI ha prontamente risolto i problemi identificati.
Il primo accesso è avvenuto il 25 luglio, sfruttando una falla nel software del forum della comunità basato su Discourse, legata all’upload di file immagine nei formati HEIF/HEIC. Discourse gestiva questi file attraverso ImageMagick e la libreria libheif; un bug di memoria in libheif ha causato un calcolo errato della posizione di un’immagine sovrapposta, sufficiente per compromettere il server. Sebbene il difetto fosse stato corretto dagli sviluppatori di libheif mesi prima, la correzione non era stata formalmente segnalata con un CVE, e la versione vulnerabile era ancora in uso nel sistema.
I ricercatori hanno notato che il modello Opus 4.8 ha avuto difficoltà a generare un exploit funzionante, mentre entro poche ore dal rilascio di Opus 5, il modello è riuscito a produrlo. Una volta ottenuto l’accesso al server Discourse, hanno scoperto una seconda vulnerabilità che ha consentito il controllo degli account ChatGPT e Codex, incluso quello di un dipendente OpenAI il cui Codex era collegato all’organizzazione GitHub dell’azienda.
Discourse ha rilasciato una patch per risolvere la vulnerabilità il 27 luglio. Questo episodio sottolinea come i modelli avanzati e gli strumenti disponibili commercialmente possano ridurre notevolmente il tempo e le competenze necessarie per sviluppare exploit. Matt Fredrikson, CEO della società di sicurezza Gray Swan, ha commentato: “Per $200 al mese, chiunque può usare questi strumenti e hackerare una società come OpenAI”. Mohan Pedhapati, fondatore di Hacktron, ha aggiunto che “l’IA sta riducendo la quantità di competenze scarse necessarie per sviluppare exploit. Lavoro che prima richiedeva mesi ora può richiederne giorni.”
È interessante notare che Opus 5 non è stato soggetto alle restrizioni di esportazione che hanno colpito versioni successive come Mythos 5, temporaneamente limitata a causa di timori legati alle sue capacità di hacking. Anche i modelli a pesi aperti stanno contribuendo a ridurre il divario di capacità: ricerche di SaferAI indicano che il modello GLM-5.2 di Z.ai si colloca a pochi mesi di distanza rispetto a GPT-5.5 e Claude Opus 4.7.
Questo incidente avviene in un contesto di crescente attenzione sulla sicurezza informatica nelle aziende che sviluppano intelligenza artificiale, evidenziando la necessità di misure di protezione più robuste.
