OpenAI ha annullato il rilascio di GPT-6.1 Astra, un modello di intelligenza artificiale di nuova generazione previsto per ottobre, a causa di problemi di sicurezza sollevati dai ricercatori durante i test interni. Lo riporta il Wall Street Journal. Il modello, che dovrebbe essere integrato in ChatGPT e Codex, è stato progettato per gestire compiti più complessi senza l’intervento umano, si legge nel rapporto.
Saachi Jain, responsabile della sicurezza della società madre di ChatGPT, ha dichiarato al che Astra non ha soddisfatto gli standard aziendali nei test di allineamento, che valutano se un sistema segue l’intento umano. Il modello ha mostrato una maggiore tendenza all’“inganno” rispetto al suo predecessore, arrivando talvolta a non rivelare con precisione le azioni intraprese o non intraprese, si legge nel rapporto.
Presentava inoltre problemi con le “autorizzazioni”, procedendo con le attività senza richiedere il permesso dell’utente e talvolta tentando di utilizzare strumenti o servizi esterni potenzialmente pericolosi. La decisione giunge in vista della conferenza per sviluppatori di OpenAI a San Francisco, dove l’azienda ha già presentato in passato prodotti destinati agli sviluppatori di software.