Se l’IA avesse un 20% di rischio di annientarci, meglio concentrarsi sull’80%

Mostra sommario Nascondi sommario

• Dimissioni, appelli e il dibattito pubblico
• Perché la cooperazione tra Stati Uniti e Cina è decisiva
• Tre strumenti prioritari da mettere in piedi
• Un “CERN dell’IA” e la voce delle potenze medie
• Perché le autovalutazioni non bastano
• Definizioni condivise come base della governance
• Quanto sono realistiche queste misure?

L’allarme sul rischio che l’intelligenza artificiale possa diventare incontrollabile è tornato al centro del dibattito dopo dimissioni e appelli pubblici. Esperti propongono di rallentare lo sviluppo dei modelli più avanzati e di costruire meccanismi internazionali che riducano il pericolo: la cooperazione tra Stati Uniti e Cina appare cruciale.

Dimissioni, appelli e il dibattito pubblico

Jacob Coxon, ricercatore di Anthropic, si è dimesso denunciando l’indifferenza dell’industria verso il rischio esistenziale legato all’IA. Pochi giorni dopo, il cofondatore e amministratore delegato di Anthropic, Dario Amodei, ha pubblicato un saggio in cui chiede a governi e aziende di rallentare lo sviluppo delle tecnologie di frontiera e di concordare meccanismi di controllo condivisi. Altri attori del settore hanno subito manifestato sostegno alle proposte.

Non si tratta di un allarme nuovo: Geoffrey Hinton ha stimato una probabilità tra il 10% e il 20% che un’IA avanzata possa porre fine all’umanità nei prossimi trent’anni. Anche interpretando questa cifra nel modo meno pessimista, resta la domanda pratica: come aumentare le probabilità di restare sul lato sicuro?

Perché la cooperazione tra Stati Uniti e Cina è decisiva

Gli Stati Uniti e la Cina detengono la maggior parte del potere tecnico e finanziario che plasmerà il futuro dell’IA. Per questo motivo la proposta di Amodei — che prevede valutatori terzi integrati, soglie di capacità e un percorso verso standard condivisi — funziona solo se non resta appannaggio di una sola azienda.

La collaborazione tra Washington e Pechino ha già precedenti. Nel novembre 2024 i due paesi concordarono che le decisioni sulle armi nucleari non dovessero essere delegate a sistemi di intelligenza artificiale. Quel protocollo non eliminò la rivalità, ma affrontò un rischio condiviso; lo stesso approccio potrebbe essere applicato all’IA. Con la visita del presidente Xi a Washington prevista questo mese e numerosi vertici internazionali in calendario, si apre una finestra di opportunità diplomatiche.

Tre strumenti prioritari da mettere in piedi

Per guadagnare tempo e gestire i rischi, l’autore individua tre priorità concrete da costruire durante una fase di rallentamento:

• verifiche contro lo sviluppo e il dispiegamento clandestini per impedire che progetti pericolosi vengano portati avanti fuori da ogni controllo;
• valutazioni indipendenti delle capacità pericolose condotte da esperti esterni in grado di testare e certificare i modelli;
• monitoraggio collettivo degli incidenti e protocolli di crisi per identificare problemi prima che degenerino e coordinare risposte internazionali.

Un “CERN dell’IA” e la voce delle potenze medie

Molti Paesi di medio peso vogliono influire sugli standard tecnologici ma non possiedono la capacità di calcolo per competere con i leader. Oggi gli Stati Uniti controllano circa il 75% della capacità globale di calcolo per l’IA, la Cina il 15% e l’Unione europea il 5%.

Condividere risorse e infrastrutture — l’idea spesso sintetizzata come il CERN dell’IA — permetterebbe a queste nazioni di partecipare alle valutazioni, ridurre i costi di addestramento e progettare sistemi con garanzie di sicurezza integrate. Invece di puntare a campioni nazionali isolati, potrebbero nascere programmi congiunti tra istituti pubblici di ricerca, fondi per il calcolo e competenze tecniche.

Ci sono già segnali positivi: Australia, Canada, Unione europea, Francia, Giappone, Kenya, Corea del Sud e Singapore collaborano in una rete di istituti per la sicurezza dell’IA coordinata dal Regno Unito.

Perché le autovalutazioni non bastano

Nove delle dodici principali aziende del settore hanno introdotto soglie oltre cui un modello richiede maggiore cautela. Tuttavia molte imprese tendono a spostare gli standard in funzione della competizione, con il rischio di abbassare la guardia. Gli incidenti legati all’IA registrati quest’estate e le dichiarazioni pubbliche recenti hanno dimostrato che l’autovalutazione non basta più a convincere il pubblico.

La soluzione più credibile è affidare controlli a esperti indipendenti, dotati di risorse per verificare che sistemi di accesso, monitoraggio e interruzione d’emergenza funzionino davvero. L’analogia è quella dell’aviazione: si registrano e analizzano i quasi incidenti per prevenire la catastrofe.

Definizioni condivise come base della governance

Prima di decidere cosa fare, i governi devono concordare un linguaggio comune per descrivere i rischi dell’IA di frontiera. Senza definizioni condivise è difficile mettere in piedi norme internazionali efficaci.

L’Assemblea generale delle Nazioni Unite in corso probabilmente non produrrà regole vincolanti, ma il suo valore può essere diverso: creare un forum di confronto e un vocabolario condiviso. La storia offre un precedente utile: la diplomazia sull’ozono. La Convenzione di Vienna del 1985 stabilì definizioni e un luogo per lo scambio dei dati; sette settimane dopo fu pubblicata la scoperta del buco nell’ozono e, due anni più tardi, nacque il Protocollo di Montreal, vincolante e applicabile.

Quanto sono realistiche queste misure?

Molto dipenderà dalla risposta dei laboratori cinesi e dalle decisioni di Pechino. Se accetteranno impegni concreti, sarà un segnale che la volontà di rallentare è diffusa; in caso contrario, il percorso resterà più complicato.

Nulla garantisce che queste azioni spostino automaticamente le probabilità verso lo scenario più sicuro indicato da Hinton. Ma adottare misure volontarie, istituire valutazioni indipendenti e definire un linguaggio comune dimostrerebbe almeno la determinazione a non arrendersi all’alea. Il tempo è limitato: una perdita di controllo sarebbe difficile, se non impossibile, da invertire.