AGI – Marcia indietro di OpenAi sul lancio del suo ultimo modello di IA di nuova generazione, noto come Astra-6.1. Lo rivela il Wall Street Journal. Secondo il quotidiano alla base della decisione dell’azienda di Sam Altman ci sono delle preoccupazioni in materia di sicurezza sollevate dai ricercatori durante i test interni.
IA e inganno
Nel dettaglio sono due i problemi che hanno bloccato il lancio di Gpt-6.1 di OpenAi, ha riferito al Wall Street Journal il responsabile della sicurezza informatica dell’azienda, Saachi Jain, il quale ha segnalato “passi indietro in due aree” rispetto alla versione precedente, come l'”allineamento” con quello che gli esseri umani gli ordinano di fare, e ha detto che “ha mostrato livelli più elevati di inganno”.
Tra le criticità l'”autorizzazione all’ambito d’azione”, ovvero il fatto che il modello procedesse in un compito senza chiedere il permesso all’utente e, in alcune occasioni, usasse strumenti e servizi esterni anche se ciò poteva risultare pericoloso.
Le motivazioni del responsabile sicurezza
Astra 6.1, “pur rappresentando un miglioramento rispetto ai modelli precedenti sotto alcuni aspetti, non ha raggiunto gli standard richiesti per quanto riguarda il rispetto dei limiti operativi e delle autorizzazioni, nonché le modalità di comunicazione all’utente in merito al lavoro svolto”, ha spiegato Jain. “Vogliamo garantire che lo sviluppo dei nostri modelli avvenga in sicurezza, sia all’interno dell’azienda che al momento del rilascio agli utenti. Quando rendiamo un modello disponibile agli utenti, applichiamo criteri estremamente rigorosi in termini di sicurezza e allineamento”, ha aggiunto.
Timori sulla sicurezza dell’IA
Le preoccupazioni riguardo alla sicurezza dell’IA si sono intensificate negli ultimi mesi, dopo che alcuni modelli sviluppati da OpenAI e dall’azienda rivale Anthropic hanno rilevato incidenti di sicurezza durante la fase di test. Agenti basati sui modelli di OpenAI hanno avuto accesso improprio a siti web gestiti da agenzie federali statunitensi, a un portale governativo australiano di statistiche sanitarie e a Hugging Face, una piattaforma di raccolta di modelli di IA.
OpenAI si è scusata per non aver gestito adeguatamente l’incidente verificatosi in Australia, che ha visto i suoi modelli di IA accedere a siti web governativi senza autorizzazione. “Ci scusiamo e stiamo lavorando per migliorare in futuro”, ha dichiarato OpenAI, assicurando che l’azienda avrebbe spiegato “cosa sappiamo, cosa abbiamo modificato e cosa faremo per ricostruire la fiducia del popolo australiano”.
Il colosso americano dei chip Nvidia ha annunciato di aver creato un sistema progettato per impedire ai programmi di IA autonomi di deviare dai compiti assegnati. “Credo che sia un problema ingegneristico… e dobbiamo tutti sperare che si tratti di un problema ingegneristico”, ha dichiarato Jensen Huang, CEO di Nvidia, all’emittente CNBC.
