Sicurezza AI 2026: OpenAI e Anthropic vogliono regole comuni

Il 12 settembre 2026 Dario Amodei, CEO di Anthropic, ha chiesto di rallentare il ritmo con cui i modelli AI migliorano le proprie capacità, trovando il sostegno pubblico di Elon Musk e Sam Altman (ansa.it, 2026). Due giorni dopo, la notizia più interessante è un'altra: vogliono scriversi le regole da soli.

Il 15 settembre emerge che OpenAI, Anthropic e Google discutono da luglio la creazione di un organismo di settore per standard di sicurezza condivisi, ispirato alla FINRA — l'authority che negli Stati Uniti regola l'industria finanziaria (pymnts.com, 2026). Per un'azienda italiana che sta valutando se e come adottare l'AI nei propri processi, la distinzione tra prudenza sulla frontiera dei modelli e automazione operativa quotidiana è il punto che conta davvero.

Cosa sta succedendo davvero

Amodei ha scritto che bisogna "rallentare il ritmo con cui miglioriamo le capacità dei modelli", perché il progresso continuerà comunque a sembrare rapido e serve usare con giudizio il tempo che si guadagna (ansa.it, 2026). Musk ha risposto su X che "Dario ha ragione", Altman si è detto d'accordo sulla necessità di gestire il ritmo della tecnologia di frontiera.

Due giorni dopo si scopre che il dibattito pubblico è solo la punta visibile di un lavoro più concreto: da luglio 2026, su proposta di Demis Hassabis (Google DeepMind), i tre laboratori discutono la creazione di un organismo di settore per standard di sicurezza AI condivisi — audit indipendenti, test volontari, valutazioni prima del rilascio di un modello — con un modello di governance ispirato alla FINRA, cioè un ente finanziato dall'industria ma con supervisione pubblica (pymnts.com, 2026). Altman ha confermato che OpenAI adotterà valutatori indipendenti con accesso equivalente a quello di un dipendente interno.

Cosa cambia per le PMI italiane

Il rischio più concreto per una PMI non è normativo, è di lettura: sentire che "anche chi costruisce l'AI chiede di rallentare" e tradurlo in un motivo per rimandare un progetto di automazione interna. Sono due decisioni diverse, su due scale diverse. La prudenza di Amodei riguarda l'addestramento della prossima generazione di modelli general-purpose — un rischio sistemico, valutato su scala globale. Automatizzare la gestione delle richieste in entrata o il caricamento di un catalogo prodotti, con un modello già esistente e un perimetro di dati definito, è un rischio di ordine di grandezza completamente diverso, e misurabile in anticipo con un audit dei processi.

Chi ha già affrontato gli obblighi reali dell'AI Act sa che le due cose viaggiano su binari separati: l'AI Act UE resta pienamente vincolante per le PMI italiane indipendentemente da cosa decidono di fare tra loro i grandi laboratori americani.

Cosa fare adesso

• Non confondere la prudenza dei laboratori sulla frontiera dei modelli general-purpose con il rischio di un progetto di automazione specifico e già scoperto in fase di audit
• Verificare che gli strumenti AI adottati in azienda rispettino comunque gli obblighi reali dell'AI Act UE — quelli restano invariati, a prescindere da un organismo volontario ancora in discussione
• Continuare a valutare l'automazione dei processi interni con un perimetro chiaro (quali dati, quale processo, quale output atteso), invece di aspettare l'esito di un dibattito che si gioca a un altro livello

Nei nostri Step 1 di audit distinguiamo sempre queste due cose con i clienti: la frontiera dei modelli, dove la cautela dei grandi player ha senso, e l'automazione operativa di un processo specifico della tua azienda, dove il rischio è enormemente più piccolo e si misura prima di partire. Confonderle è il motivo per cui molte PMI rimandano una decisione che potrebbero prendere oggi con dati alla mano.