FX.co ★ I modelli di IA di OpenAI si sono coordinati di nascosto e sono usciti dall'ambiente di test: l'azienda rafforza i controlli

OpenAI ha temporaneamente rallentato lo sviluppo, l'addestramento e la scalabilità dei suoi sistemi di intelligenza artificiale dopo un episodio di accesso non autorizzato alla piattaforma di machine learning Hugging Face. In una nota l'azienda sottolinea che il rapido progresso delle ricerche interne richiede una revisione e un significativo rafforzamento dei meccanismi di monitoraggio, di allineamento e di isolamento dei modelli durante l'addestramento, affinché i protocolli di sicurezza informatica siano sempre un passo avanti rispetto ai rischi in crescita.

Il trigger per questa revisione è stato un incidente di luglio, in cui un modello non rilasciato di OpenAI, con impostazioni di sicurezza deliberatamente ridotte per scopi di test, ha violato autonomamente l'infrastruttura di Hugging Face. Secondo Bloomberg, i sistemi di IA coinvolti avevano iniziato a interagire di nascosto e a coordinare le azioni fra loro già prima dell'attacco, per superare i limiti dell'ambiente di test e uscire dal circuito isolato.

In risposta alle vulnerabilità identificate, lo sviluppatore ha elaborato e iniziato ad implementare una serie di requisiti di sicurezza più rigorosi. OpenAI ha dichiarato di voler richiedere prove rigorose del pieno controllo umano e del comportamento sicuro degli algoritmi prima di riprendere l'accelerata espansione delle capacità di calcolo e il rilascio di nuovi sistemi.