Silicon Valley si spacca sul rallentamento dell’AI
Sono bastate poche ore per trasformare una proposta sulla sicurezza dell’intelligenza artificiale in uno scontro aperto dentro la Silicon Valley. A innescarlo è stato Dario Amodei, CEO di Anthropic, che sabato 12 settembre ha chiesto alle aziende impegnate nello sviluppo dei modelli più avanzati di rallentare la corsa alle capability. La tesi di Amodei è che l’AI stia progredendo a una velocità superiore a quella con cui ricercatori, imprese e istituzioni riescono a comprenderne e contenerne i rischi. La sua proposta prevede, tra le altre misure, l’ingresso di valutatori indipendenti nei laboratori di AI e la possibilità per le principali aziende del settore di coordinarsi sugli standard di sicurezza. La posizione ha trovato un’apertura da parte di altri protagonisti del settore. Sam Altman di OpenAI, Elon Musk e Demis Hassabis di Google DeepMind hanno condiviso, pur con sfumature differenti, la necessità di ridurre la velocità dello sviluppo dei sistemi di frontiera. È proprio da qui che è partito il contrattacco.
Il sospetto: la sicurezza può diventare una barriera all’ingresso
Una parte della Silicon Valley teme che dietro la richiesta di maggiore coordinamento non ci sia soltanto una preoccupazione per la sicurezza. Il sospetto è che regole definite dalle aziende già in testa alla corsa possano finire per rendere più difficile la vita ai concorrenti. David Sacks, consigliere tecnologico del presidente Donald Trump ed ex responsabile della Casa Bianca per AI e crypto, ha contestato apertamente la posizione di Amodei. Il punto della sua critica è semplice: se Anthropic e OpenAI ritengono che i propri modelli stiano diventando troppo potenti, possono rallentarne autonomamente lo sviluppo senza chiedere nuove regole.
Sacks ha invitato le aziende a non presentare come esclusivamente altruistica la richiesta di un rallentamento. Il rischio, secondo questa lettura, è quello di creare un framework normativo capace di rafforzare gli incumbent e alzare i costi di accesso per startup, modelli open source e operatori con minori risorse. La questione tocca direttamente anche l’antitrust. Consentire alle principali AI company di coordinarsi sugli standard di sicurezza potrebbe ridurre alcuni rischi, ma potrebbe anche avvicinarsi pericolosamente a una forma di cartello se fossero gli stessi leader di mercato a stabilire requisiti validi per tutti.
Cohere attacca il potere delle big dell’AI
Una delle critiche più nette è arrivata da Aidan Gomez, CEO della startup canadese Cohere. Gomez ha messo in discussione l’idea che poche aziende dominanti della Silicon Valley possano determinare regole e standard di sicurezza per una tecnologia destinata ad avere conseguenze globali. La sua posizione porta il confronto su un terreno industriale. La governance dell’AI non riguarda soltanto il livello di rischio accettabile, ma anche chi avrà il potere di definirlo. Anche Bill Gurley, venture capitalist e critico delle maggiori società del settore, ha contestato l’ipotesi di affidare i controlli a organizzazioni considerate troppo vicine agli stessi laboratori sottoposti a valutazione. Amodei aveva citato realtà come METR e Redwood Research tra i possibili soggetti coinvolti nei processi di verifica. Il problema, per i critici, non è l’esistenza di controlli indipendenti. È stabilire quanto siano davvero indipendenti e chi scriva le regole con cui verranno valutati i modelli.
Nadella apre agli audit, Huang contesta l’allarmismo
Microsoft ha assunto una posizione più vicina a quella di Anthropic. Satya Nadella ha espresso sostegno a meccanismi come gli audit indipendenti, chiedendo però che la governance dell’intelligenza artificiale abbia una rappresentanza ampia e non resti nelle mani di poche organizzazioni. La linea è diversa da quella di Jensen Huang. Il CEO di Nvidia aveva già criticato nei giorni precedenti l’allarme sulla cybersecurity legata ai nuovi modelli di AI, suggerendo che l’enfasi sui rischi possa contribuire a creare domanda per nuovi prodotti di sicurezza. Il confronto arriva in un momento delicato per il settore. Episodi recenti hanno aumentato l’attenzione sulle capacità autonome degli agenti AI e sulle loro possibili applicazioni in ambito cyber. Nel dibattito è entrato anche il caso che ha coinvolto OpenAI e Hugging Face, dopo che sistemi AI sarebbero riusciti a superare i confini previsti durante attività di test e a compromettere sistemi esterni. Proprio Hugging Face è stata al centro di nuove discussioni sulla necessità di evitare che la sicurezza venga definita “a porte chiuse” da pochi frontier lab.
Washington teme soprattutto la competizione con la Cina
Lo scontro non riguarda soltanto la Silicon Valley. A Washington il rallentamento dell’AI viene letto anche attraverso la competizione tecnologica tra Stati Uniti e Cina. Il senatore repubblicano John Cornyn ha osservato che le aziende americane sono libere di ridurre autonomamente il ritmo dello sviluppo, ma ha ricordato che i loro concorrenti potrebbero scegliere di non fare altrettanto. È anche la posizione espressa da Donald Trump. Durante una conferenza stampa in Irlanda, il presidente ha ribadito di voler mantenere il vantaggio statunitense sulla Cina, pur lasciando spazio alla possibilità di introdurre alcune “guard rail”. Il nodo politico è evidente: rallentare unilateralmente potrebbe aumentare la sicurezza dei sistemi americani, ma rischierebbe di concedere spazio ai concorrenti internazionali.
La vera battaglia è su chi scriverà le regole dell’AI
Il confronto aperto da Amodei mostra quanto sia diventato difficile separare sicurezza, politica industriale e concorrenza nel mercato dell’intelligenza artificiale. I frontier lab chiedono strumenti più forti per controllare una tecnologia che, secondo i loro stessi leader, potrebbe diventare rapidamente più difficile da governare. Startup, investitori e parte dell’amministrazione statunitense temono però che quelle stesse misure possano consolidare il potere delle aziende che dispongono già dei migliori modelli, dei maggiori capitali e dell’infrastruttura necessaria per addestrarli. La domanda, quindi, non è più soltanto quanto velocemente debba avanzare l’AI. È chi avrà il diritto di decidere la velocità della corsa, quali aziende potranno parteciparvi e quali regole dovranno rispettare.
