Breccia nei Sistemi di OpenAI: Rivelazioni e Implicazioni
All’inizio dello scorso anno, un hacker è riuscito a violare i sistemi di messaggistica interna di OpenAI, rubando dettagli sul funzionamento delle tecnologie dell’azienda dai dipendenti. Sebbene il malintenzionato non abbia avuto accesso ai sistemi che ospitano le principali tecnologie di intelligenza artificiale, l’incidente ha sollevato preoccupazioni significative all’interno della compagnia e persino a livello di sicurezza nazionale statunitense, secondo quanto riportato dal New York Times.
Dettagli del Breach:
La violazione è avvenuta in un forum online dove i dipendenti discutevano delle ultime tecnologie di OpenAI. I sistemi principali dell’azienda, contenenti dati di addestramento, algoritmi, risultati e dati dei clienti, non sono stati compromessi, ma alcune informazioni sensibili sono state esposte. Nell’aprile 2023, i dirigenti di OpenAI hanno informato dell’incidente i dipendenti e il consiglio di amministrazione, ma hanno deciso di non renderlo pubblico.
La motivazione fornita è stata che non erano stati rubati dati di clienti o partner e che l’hacker probabilmente era un individuo senza legami governativi.
Controversie Interne:
Non tutti all’interno dell’azienda hanno accolto positivamente la decisione di non divulgare pubblicamente l’incidente. Leopold Aschenbrenner, un program manager tecnico di OpenAI, ha criticato le misure di sicurezza dell’azienda, suggerendo che non erano sufficienti a prevenire l’accesso di avversari stranieri a informazioni sensibili. Aschenbrenner è stato successivamente licenziato per aver divulgato informazioni, una mossa che lui sostiene sia stata politicamente motivata. OpenAI mantiene che il suo licenziamento non era collegato alle sue preoccupazioni sulla sicurezza.
Preoccupazioni per la Sicurezza Nazionale:
L’incidente ha alimentato timori riguardo a potenziali legami con avversari stranieri, in particolare la Cina. OpenAI crede che le sue tecnologie attuali non costituiscano una minaccia significativa per la sicurezza nazionale. Tuttavia, si teme che la divulgazione di queste tecnologie a specialisti cinesi potrebbe accelerare il loro sviluppo di intelligenze artificiali avanzate.
Altre aziende, come Meta, stanno rendendo i loro progetti di intelligenza artificiale open source per favorire miglioramenti nel settore. Tuttavia, questo approccio comporta il rischio di rendere le tecnologie disponibili anche agli avversari americani come la Cina. Studi condotti da OpenAI, Anthropic e altri indicano che i sistemi di AI attuali non sono più pericolosi dei motori di ricerca.
In a nutshell:
La preoccupazione principale non riguarda tanto l’attuale generazione di AI (Gen-AI) quanto il futuro dell’AGI (Artificial General Intelligence). Mentre la Gen-AI trasforma la conoscenza appresa, l’AGI sarà capace di ragionamenti originali, creando potenziali nuove minacce nel cyber-spazio, nei campi di battaglia e nell’intelligence. L’incidente del 2023 solleva dubbi sulla preparazione di OpenAI a proteggere segreti vitali che, se caduti nelle mani sbagliate, potrebbero mettere in pericolo la sicurezza nazionale in futuro.
