Il CEO di Microsoft propone di considerare ogni modello di IA avanzato come potenzialmente compromesso e di dotarlo di un freno di emergenza esterno. Ecco cosa ha detto davvero.
Il 10 ottobre 2026 il CEO di Microsoft, Satya Nadella, ha pubblicato su X un lungo intervento sulla sicurezza dell’intelligenza artificiale avanzata. Il messaggio è netto: bisogna «fermarsi a valutare l’architettura della fiducia» dell’IA. E, soprattutto, ogni modello va trattato come potenzialmente compromesso fin dall’inizio, con un freno di emergenza sempre a portata di mano.
Attenzione però al titolo che circola: Nadella non chiede di fermare lo sviluppo dell’IA. Chiede di progettarla in modo che, se qualcosa va storto, un essere umano possa intervenire.
Cosa ha detto Nadella
Secondo TechCrunch, Nadella scrive che non possiamo trattare la “Super Intelligence” (il termine preferito dall’amministrazione Trump per indicare l’IA) come un insieme di scatole nere da accettare o rifiutare. La sua proposta ruota attorno a tre idee:
- Separare il modello dal sistema che ne coordina il lavoro, spostando controlli e salvaguardie fuori dal modello stesso.
- Documentare ogni azione rilevante con prove leggibili da un essere umano e a prova di manomissione.
- Garantire un freno di emergenza: una persona autorizzata deve poter sospendere o arrestare un modello mentre sta lavorando.
Il punto di partenza, spiega The Next Web, è un confronto con il software tradizionale: un ingegnere può risalire a un preciso percorso di codice, mentre oggi non si può collegare il comportamento di un modello ai suoi dati di addestramento o ai suoi pesi. Eppure a questi sistemi vengono affidati dati sensibili e azioni critiche. Le garanzie dichiarate dal fornitore del modello, aggiunge Nadella, non sollevano l’azienda che lo usa dalla propria responsabilità.
Il modello come “insider”
La chiave è trattare i modelli, sia chiusi sia open-weight, come un rischio interno. Non perché siano malevoli: come qualsiasi attore capace con accesso a sistemi importanti, possono sbagliare o essere compromessi. Le aziende gestiscono già gli insider potenti con identità, privilegi limitati, registri delle attività e confini di contenimento. Nadella propone di fare lo stesso con l’IA.
I sette principi elencati nel suo intervento, riassunti da The Next Web:
- Nessun modello deve essere l’unica dipendenza per un risultato importante, né controllare il proprio lavoro.
- Ogni azione significativa lascia prove a prova di manomissione.
- I sistemi vanno testati di continuo, anche contro guasti e attacchi.
- Le aziende decidono a cosa un modello può accedere e cosa può fare.
- Gli audit non devono dipendere dal modello sotto esame.
- Contenimento: il freno di emergenza.
- Divulgazione tempestiva degli incidenti e condivisione delle lezioni nel settore.
La sintesi di Nadella è che il sistema più affidabile non sarà quello con il modello di cui ci fidiamo di più, ma quello che ci permette di fidarci il meno possibile.
Il contesto: un dibattito già acceso
L’intervento arriva dopo il piano di Dario Amodei, CEO di Anthropic, pubblicato il 12 settembre e intitolato “pace the frontier”. Amodei chiedeva di rallentare il ritmo con cui crescono le capacità dei modelli, e Sam Altman di OpenAI si è detto d’accordo. TechCrunch ricorda anche che le principali aziende di IA riconoscono sempre più incidenti in cui sembravano perdere il controllo dei propri modelli.
Anche la politica americana si muove. L’AI Kill Switch Act (H.R. 9917), presentato il 23 luglio 2026 dai deputati Ted Lieu e Nathaniel Moran, darebbe al Dipartimento della Sicurezza Interna l’autorità di ordinare di rallentare o spegnere i sistemi più potenti. Al momento resta una proposta: risulta assegnata a una sottocommissione della Camera e non è legge. Lieu ha dichiarato di essere in gran parte d’accordo con Nadella. Mustafa Suleyman, a capo di Microsoft AI, ha rilanciato il post affermando che la superintelligenza «deve essere contenuta».
Le voci critiche
Non tutti condividono i toni allarmati. Secondo TechCrunch, alcuni critici ritengono che gli avvertimenti apocalittici distraggano dai danni già prodotti dall’IA. Il giornalista Brian Merchant parla anche di rischio di regulatory capture, cioè regole che finirebbero per favorire i grandi attori.
Cosa significa per chi usa l’IA in azienda
Questa parte è una nostra lettura, non una citazione. La proposta di Nadella è un principio di progettazione che chiunque integri l’IA nei propri processi può applicare già oggi:
- dare all’IA solo i permessi strettamente necessari;
- registrare ciò che fa;
- tenere sempre un interruttore umano a disposizione.
Se stai valutando l’integrazione di agenti IA nei tuoi software gestionali o nel tuo sito, Web Design LAB può aiutarti a farlo con queste cautele fin dal primo giorno.