OpenAI sostiene che la sicurezza dei progressi nell’AI richiede ricerca sull’allineamento e standard condivisi tra aziende, paesi e istituzioni.

La proposta sposta il confronto sull’AI di frontiera dal solo sviluppo dei modelli verso metriche comuni, report degli incidenti e cooperazione internazionale, lasciando aperta la scelta normativa dei singoli governi.

Confrontare la proposta con le iniziative degli istituti nazionali di sicurezza AI e con gli standard tecnici già in sviluppo.

OpenAI descrive un progetto per costruire un ricercatore AI automatizzato capace di svolgere compiti definiti sotto direzione umana.

L annuncio collega l automazione del lavoro di ricerca a un possibile aumento della velocità di sviluppo e alla necessità di mantenere allineamento, monitoraggio e controllo umano.

Seguire i metodi pubblicati da OpenAI e verificare come cambiano i controlli di sicurezza con l aumento dell autonomia degli agenti.