Riflessione in un giorno di ferie. Oggi non si parla più di chatbot ma di “agenti”, e proprio in quanto agenti, questi sistemi non “scrivono” ma “fanno”. Ecco, queste azioni, probabilmente fra qualche anno, saranno alla base della nostra quotidianità, delegando loro sempre più attività che noi non ci “sprecheremo più a fare”. Ma come possiamo essere sicuri che le decisioni suggerite o prese da questi sistemi siano in linea con la nostra etica e i nostri valori?
Non è una domanda retorica. Ed è il motivo per cui, sempre più spesso, si parla della necessità di un “giudice di terze parti”: un ente indipendente che testi i modelli più potenti prima che vengano rilasciati sul mercato, un po’ come succede già in un settore che conosciamo bene tutti. Pensate a un farmaco. Prima che arrivi in farmacia, non basta che l’azienda produttrice dichiari che è sicuro: servono studi clinici, controlli di un ente regolatorio indipendente, verifiche su effetti collaterali e reazioni impreviste.
La posizione di Anthropic
Leggevo stamattina la posizione di Dario Amodei, CEO di Anthropic, in un post di qualche giorno fa: oltre venti aziende, tra cui Meta, Microsoft, OpenAI e Google, avevano firmato una lettera aperta a favore della diffusione libera dei cosiddetti modelli “open-weights” (quelli di cui vengono rilasciati pubblicamente i parametri addestrati, anche se non tutto il resto: dati, codice, processo di training).
Anthropic non aveva firmato, e questo aveva fatto pensare a una sua posizione contraria a prescindere. Amodei ha chiarito che non è così: non chiede un divieto, ma tre cose più mirate: tenere i chip più avanzati fuori dalla portata di regimi autoritari, fermare la distillazione su scala industriale (copiare le capacità di un modello altrui in modo economico), e soprattutto test di sicurezza obbligatori per tutti i modelli davvero potenti, aperti o chiusi che siano.
Sicurezza o innovazione?
E qui il discorso si allarga, perché il tema sicurezza-vs-innovazione è al centro della partita per capire chi sarà il player definitivo di questa fase storica. Un po’ come è successo con la corsa all’atomica: chi arriva prima ottiene un vantaggio tecnologico, economico e militare difficile da recuperare. E infatti l’intelligenza artificiale ha già applicazioni dirette in ambiti come cyber, intelligence, droni autonomi, comando e controllo — terreno dove la competizione tra Stati Uniti e Cina si gioca ogni giorno.
Le big tech, va detto, hanno tutto l’interesse a correre veloci: le applicazioni più redditizie sono anche quelle più delicate, e questo alimenta una pressione che rischia di trasformarsi in una vera corsa agli armamenti, dove la sicurezza diventa un costo da rimandare invece che un requisito.
Maggior sicurezza o libertà di innovazione? 🤷🏻♂️
Pubblicato anche su LinkedIn: leggi il post e i commenti.