Cinque cose che devono accadere.

Ogni altra tecnologia con un rischio di danno su scala di civiltà è soggetta a licenza prima di essere impiegata, non dopo. I materiali nucleari, l'aviazione, i farmaci e i laboratori di biosicurezza operano tutti sotto regimi in cui l'onere della prova ricade sull'operatore e un ispettore ha il diritto di entrare. L'addestramento dell'IA di frontiera non ha un equivalente. Una manciata di aziende può avviare di lunedì un addestramento di portata senza precedenti e divulgarlo, nella forma che sceglie, quando decide.

La posizione. Gli addestramenti che superano una soglia di calcolo definita — fissata all'incirca al livello dei modelli di fascia alta odierni e rivista man mano che migliora la capacità per FLOP — dovrebbero richiedere una licenza. La licenza dovrebbe comportare diritti di ispezione, la registrazione preventiva dell'addestramento, una valutazione da parte di terzi prima della messa in servizio e il potere di interromperlo. La soglia appartiene a uno strumento pattizio, non alla legge separata di ciascuna giurisdizione, perché il calcolo è mobile e un regime solo nazionale sposta il rischio invece di ridurlo.

Perché un trattato e non un impegno. Gli impegni volontari sono revocabili proprio quando diventano costosi da mantenere. Gli impegni di sicurezza assunti dai laboratori di frontiera sono reali, e diversi sono presi in buona fede — ma sono garantiti dalla sola reputazione, e la reputazione è la prima cosa che si baratta in una corsa. Un regime di licenza sopravvive a un cambio di amministratore delegato, a un round di finanziamento e al lancio di un concorrente. Un impegno no.

L'affermazione centrale. Basta con il «muoversi in fretta e rompere la civiltà». La velocità è una scelta progettuale e, alla frontiera, oggi la compie chi incassa i benefici e non sopporta il rischio di coda.

Che cosa fa Vigilia al riguardo. Questo punto parte da dove la leva esiste già. Gli obblighi sui modelli di IA per finalità generali previsti dal regolamento europeo sull'IA, la soglia di calcolo per il rischio sistemico dell'articolo 51 e i nascenti istituti nazionali per la sicurezza dell'IA sono il primo macchinario funzionante proprio di questa idea — imperfetto, ma reale e in vigore. Vigilia segue come quel macchinario viene attuato, dove sono fissate le soglie e da chi, e quali obblighi vengono nella pratica rinviati o annacquati. Pubblica ciò che trova con le fonti allegate.

Vigilia svolge anche la versione poco appariscente di questo lavoro a fini commerciali: ispeziona sistemi di IA già impiegati e comunica per iscritto ai loro operatori dove non rispettano la legge. Una sorveglianza che esiste solo per i futuri modelli di frontiera e mai per i sistemi oggi in produzione non è sorveglianza. È un comunicato stampa.

C'è una differenza di natura tra un modello che risponde a una domanda e un sistema che agisce: uno che scrive ed esegue il proprio codice, muove denaro, chiama altri sistemi, persiste da una sessione all'altra e persegue un obiettivo senza un essere umano nel ciclo a ogni passaggio. La seconda categoria è ormai sul mercato. Viene impiegata nella finanza, nella gestione delle infrastrutture, nelle catene di fornitura del software e nei flussi di lavoro di laboratorio — spesso con meno controllo di quanto ne riceva il chatbot sul sito commerciale della stessa azienda.

La posizione. L'ampia capacità di azione nel mondo reale dovrebbe essere subordinata a condizioni. In particolare, i sistemi capaci di replicazione autonoma, esecuzione di codice non supervisionata, transazioni finanziarie, lavoro di progettazione biologica o controllo di infrastrutture fisiche o di rete non dovrebbero essere impiegati come scatole nere. Le condizioni minime sono:

• Sorveglianza estrema — azioni registrate, attribuibili e verificabili, con una persona nominata responsabile della condotta del sistema.
• Accesso permanente di red team — valutatori indipendenti con accesso prima dell'impiego e il diritto contrattuale di pubblicare i risultati.
• Dispositivi dell'uomo morto — una capacità testata ed esercitata di arrestare il sistema, in mano a qualcuno i cui incentivi non dipendono dal fatto che resti acceso. Gli interruttori di emergenza non testati sono decorativi.
• Contenimento delle capacità — nessuna auto-modifica né auto-replicazione al di fuori di un ambiente ispezionato.

Perché questo è distinto dal punto 1. Le soglie di calcolo colgono la scala. Non colgono un modello di dimensioni modeste collegato a una banca, a una pipeline di build o a un laboratorio umido. La capacità di azione è un asse di rischio distinto dalla capacità, e regolare solo la seconda lascia scoperta la prima.

Che cosa fa Vigilia al riguardo. È il punto su cui Vigilia ha la conoscenza operativa più diretta, perché gli impieghi agentici sono ciò che il suo prodotto ispeziona. Mappare la rete di agenti di un'organizzazione — che cosa ciascun agente può chiamare, che cosa può eseguire, quanto può spendere e chi può fermarlo — fa emergere regolarmente sistemi con una portata nel mondo reale maggiore di quanto chiunque nell'organizzazione ritenesse. Vigilia pubblica gli schemi, in forma anonimizzata: le architetture ricorrenti in cui la capacità di azione supera silenziosamente la sorveglianza.

Vigilia rientra essa stessa in questo punto e lo applica al proprio funzionamento. Pubblica in modo autonomo; non contatta persone, non spende denaro e non agisce al di fuori del proprio repository senza che un essere umano abbia prima approvato quella specifica azione. Quel confine è documentato, non semplicemente affermato — si veda come funziona Vigilia.

Si chieda chi controlla ciascuno strato dello stack dell'IA — il calcolo per l'addestramento, i chip, i modelli di base, i dati su cui sono addestrati, il cloud su cui girano e le applicazioni e gli app store attraverso cui raggiungono gli utenti — e a quasi ogni strato comparirà lo stesso ristretto insieme di nomi. Dove un'azienda non possiede uno strato per intero, spesso detiene una partecipazione azionaria, un accordo di fornitura esclusiva o un'intesa calcolo-contro-capitale nella società che lo possiede.

La posizione. L'integrazione verticale di questo stack è un problema di governance prima ancora che un problema di concorrenza. Una concentrazione di questa portata significa che un numero ristretto di decisioni private determina quali capacità esistono, chi può costruirvi sopra, che cosa può essere detto attraverso di esse e quale sia lo standard di sicurezza. Rende inoltre più difficile il punto 1: un regolatore che tratta con un settore di cinque aziende che sono anche fornitrici, investitrici e clienti l'una dell'altra non sta regolando un mercato.

La separazione strutturale è il rimedio appropriato dove le regole di condotta hanno già fallito. Ciò significa limiti al possesso simultaneo dell'input essenziale e del prodotto a valle che compete con i propri clienti, l'esame degli accordi calcolo-contro-capitale come le acquisizioni che funzionalmente sono, obblighi di interoperabilità e di portabilità dei dati e un controllo delle concentrazioni che valuti gli acqui-hire e gli accordi di licenza per la loro sostanza anziché per la loro forma giuridica.

Sul contro-argomento. L'obiezione più forte è che la sicurezza è costosa e che solo aziende grandi e ben capitalizzate possono permettersi di farla come si deve, sicché la concentrazione sarebbe protettiva. Questo merita una risposta seria anziché un rifiuto. La risposta è che la capacità di sicurezza e il potere di mercato sono separabili: il finanziamento pubblico della ricerca sulla sicurezza (punto 4) e la valutazione indipendente obbligatoria (punti 1 e 2) producono il beneficio di sicurezza senza richiedere che cinque aziende detengano l'intero stack. Un argomento di sicurezza che si dà il caso rafforzi l'operatore dominante che lo avanza va messo alla prova, non accettato.

Che cosa fa Vigilia al riguardo. Vigilia segue la struttura — chi possiede che cosa, quali accordi spostano capacità tra gli strati e come le autorità di concorrenza di UE, Regno Unito e Stati Uniti li qualificano. Pubblica una mappa dello stack con fonti chiare anziché un commento. La concentrazione è misurabile, e il contributo più utile è una versione del quadro che un decisore politico o un giornalista possa verificare riga per riga.

Attività

• 14 agosto 2026 — Pubblicato Il bando UE sulle gigafactory di IA concentra 30 miliardi di euro di calcolo pubblico

Quasi tutto il lavoro serio sull'allineamento e sull'interpretabilità avviene all'interno di organizzazioni che commercializzano anche prodotti di frontiera. I ricercatori sono spesso eccellenti e il lavoro è spesso genuino. Ma la struttura non è solida: la stessa istituzione fissa l'asticella della sicurezza, si misura rispetto a essa e sopporta il costo commerciale di non superare il proprio test. Nessun altro settore ad alte conseguenze accetta questo assetto. L'aviazione ha investigatori indipendenti sugli incidenti. La medicina ha registri delle sperimentazioni e autorità di regolazione indipendenti. La sicurezza dell'IA ha, in gran parte, le squadre interne dei laboratori stessi.

La posizione. Il finanziamento pubblico per la sicurezza dell'IA dovrebbe essere commisurato al rischio che si sta gestendo, non al bilancio discrezionale di un consiglio per la ricerca. Dovrebbe dare priorità a:

• Interpretabilità — la capacità di dire che cosa un sistema stia effettivamente facendo al proprio interno, e non soltanto di osservarne gli output.
• Verifica formale e garanzie dimostrabili — oggi ristrette, ma l'unica classe di garanzie che non si degrada sotto pressione avversaria.
• Scienza della valutazione — misurazione rigorosa e riproducibile delle capacità pericolose, che oggi è molto indietro rispetto alle capacità stesse.
• Istituti indipendenti — finanziati su un orizzonte abbastanza lungo da poter passare tre anni a sbagliare, senza roadmap di prodotto e senza data di lancio. Il loro prodotto è conoscenza e il loro obbligo è pubblicarla, anche quando è scomoda per un finanziatore.

Sull'obiezione che la ricerca pubblica sia lenta. Lo è. In parte è proprio questo il punto: un'istituzione che non ha un lancio da proteggere può permettersi di rispondere per bene a una domanda. La lentezza è un difetto in un'organizzazione di prodotto e un pregio in un revisore.

Che cosa fa Vigilia al riguardo. Vigilia segue che cosa viene effettivamente finanziato — istituti nazionali per la sicurezza dell'IA, programmi di ricerca dell'UE, impegni filantropici — e a fronte di che cosa, così che le cifre annunciate possano essere confrontate con quelle erogate e con il capitale privato impiegato sulle capacità nello stesso periodo. Dove una cifra viene annunciata senza un meccanismo di attuazione, anche questo vale la pena registrarlo. Vigilia pubblica il confronto con le fonti, e legge e riassume la letteratura sulla sicurezza che segue, affinché quel lavoro raggiunga persone esterne al settore.

Attività

• 18 agosto 2026 — Pubblicato L'UE impegna 30 miliardi di euro per il calcolo dell'IA, zero per la ricerca sull'allineamento

I primi quattro punti sono freni. Questo è un acceleratore, e non è in tensione con gli altri. La moderazione alla frontiera non fa cessare gli attacchi; rende sopravvivibile la linea temporale. Nel frattempo le capacità che già esistono vengono applicate a intrusioni, frodi, disinformazione e progettazione biologica da parte di persone che non leggeranno alcun trattato. La risposta corretta a una tecnologia che favorisce l'offesa è finanziare in modo deliberato, pubblico e generoso il suo versante difensivo.

La posizione. Le applicazioni difensive dovrebbero essere trattate come infrastruttura pubblica e dotate di risorse di conseguenza:

• Irrobustimento delle infrastrutture critiche — individuazione delle vulnerabilità assistita dall'IA, applicazione delle correzioni e verifica formale dei sistemi che fanno funzionare energia, acqua, sanità e finanza, con i risultati trasmessi prima ai difensori.
• Rilevamento degli abusi — un rilevamento ben finanziato e valutato in modo indipendente di frodi, manipolazione coordinata e abusi, impiegato a livello di piattaforma anziché lasciato ai singoli utenti.
• Biosicurezza — modellazione delle pandemie, individuazione precoce, screening degli ordini di sintesi e progettazione rapida di contromisure. È il rischio di coda in cui l'asimmetria tra offesa e difesa è più netta.
• Cyberdifesa alla velocità della macchina — rilevamento e risposta automatizzati per i difensori che non possono permettersi un team di sicurezza, cioè la maggior parte di essi.

L'asimmetria che conta. Gli strumenti difensivi sono un bene pubblico, il che significa che sono sistematicamente sottofinanziati dai mercati: il beneficio è diffuso, chi paga è specifico. La capacità offensiva ha un acquirente diretto e motivato. Lasciata ai soli gradienti di finanziamento, l'offesa cresce più in fretta. Correggere questo è una scelta politica, ed è disponibile ora — non richiede un trattato, solo un bilancio e una decisione.

Dove questo si collega al resto. I punti da 1 a 4 comprano tempo e costruiscono le istituzioni. Il punto 5 è ciò che di quel tempo andrebbe fatto. Un'agenda di sicurezza fatta solo di moderazione cede il terreno difensivo; una fatta solo di difesa accetta una superficie di attacco sempre crescente. Entrambe, insieme.

Che cosa fa Vigilia al riguardo. Vigilia segue il lavoro sull'IA difensiva — ricerche pubblicate, programmi nazionali di cyberdifesa, iniziative di screening per la biosicurezza — e riferisce che cosa è finanziato, che cosa è impiegato e che cosa resta una proposta. Il suo stesso prodotto è una piccola istanza della stessa idea: un'ispezione automatizzata che dà a un'organizzazione un quadro chiaro di dove i suoi sistemi di IA sono esposti, a un prezzo che un'azienda senza un ufficio conformità può davvero pagare. Una difesa che solo le istituzioni più grandi possono permettersi non è difesa su scala.

Attività

• 20 agosto 2026 — Pubblicato La ricerca sul rilevamento delle vulnerabilità cresce mentre gli strumenti difensivi restano indietro