Quando ho letto che Dario Amodei, Sam Altman e altri leader dell’AI hanno chiesto quasi contemporaneamente di rallentare lo sviluppo dei sistemi più avanzati, la prima reazione è stata: finalmente si sono accorti del problema. La seconda reazione, invece, a mente fredda è stata: ma scusa, prima non stavano già correndo?
Dopo le dichiarazioni dell’ex ricercatore di Anthropic Jacob Coxon, Amodei ha proposto di “rallentare la frontiera”: valutatori esterni inseriti stabilmente nei laboratori, standard condivisi tra aziende e, nel tempo, un coordinamento tra governi, ecc… E Altman ha appoggiato pubblicamente l’idea (tra l’altro è raro che i due siano d’accordo).
Io sono favorevole a un organismo indipendente che controlli i modelli più potenti prima del loro rilascio. Non so come e non quando, ma se un sistema può produrre conseguenze su lavoro, sicurezza, informazione e infrastrutture, non possiamo affidarci soltanto alla parola di chi lo costruisce.
Indipendente da chi?
Ma indipendente da chi? Riconosciuto da quali Paesi? Un controllo applicato soltanto negli Stati Uniti rischierebbe di rallentare le imprese americane senza fermare la corsa globale. La Cina accetterebbe regole capaci di ostacolarla nella competizione per diventare la prima potenza tecnologica mondiale? Ne dubito. E senza un accordo verificabile tra le principali potenze, il rischio è una corsa agli armamenti nella quale tutti riconoscono il pericolo, ma nessuno vuole frenare per primo.
Sicurezza e mercato
Altra cosa: OpenAI e Anthropic hanno avviato l’iter preliminare per possibili quotazioni in Borsa, anche se tempi e condizioni non sono definiti e OpenAI ha escluso un debutto nel 2026. Allo stesso tempo, addestrare modelli sempre più avanzati richiede investimenti enormi, mentre i concorrenti cinesi riescono ad avvicinarsi alla frontiera con costi inferiori. Questo non dimostra che gli allarmi di Amodei e Altman siano falsi o strumentali, ma è ingenuo leggerli soltanto come un atto di protezione verso l’umanità. La richiesta di rallentare arriva anche mentre diventa più difficile sostenere economicamente la corsa, difendere il vantaggio tecnologico e soddisfare le aspettative del mercato.
Sicurezza e interesse industriale possono essere veri nello stesso momento. Ed è proprio per questo che le regole non possono essere progettate soltanto dalle aziende che dovranno rispettarle, altrimenti il controllo rischia di diventare una barriera all’ingresso per i concorrenti, una forma di protezione del mercato o semplicemente una promessa impossibile da verificare. La sicurezza non dovrebbe diventare né un ostacolo di facciata né un linguaggio scritto dalle aziende che devono essere controllate.
Come costruiamo un controllo globale quando i Paesi coinvolti considerano l’AI uno strumento di potere economico e militare?
Pubblicato anche su LinkedIn: leggi il post e i commenti.