Zuckerberg contro il rallentamento dell’AI proposto da Amodei
Mark Zuckerberg interviene nel dibattito sul rallentamento dell’AI e prende le distanze dalla proposta di una pausa coordinata nello sviluppo dei sistemi più avanzati. Il CEO di Meta sostiene che ogni laboratorio debba decidere autonomamente quando rallentare, in base ai rischi legati ai propri modelli e ai propri prodotti. La posizione arriva pochi giorni dopo l’intervento di Dario Amodei, CEO di Anthropic, che ha chiesto un rallentamento globale nello sviluppo dell’intelligenza artificiale a causa della rapida crescita delle capacità dei modelli. Zuckerberg non ha citato direttamente né Amodei né Anthropic nel suo post, ma ha contestato apertamente l’idea che tutti i principali laboratori debbano fermarsi o ridurre contemporaneamente la velocità dello sviluppo. “Ogni laboratorio ha la responsabilità e l’incentivo a procedere alla velocità necessaria per addestrare i propri modelli in sicurezza”, ha scritto Zuckerberg. “Meta ha preso questo impegno e anche gli altri laboratori possono farlo”.
Zuckerberg sul rallentamento dell’AI: ogni laboratorio deve gestire i propri rischi
Per Zuckerberg, il problema della sicurezza non richiede necessariamente un accordo tra tutte le aziende del settore. La sua tesi è che i laboratori abbiano già incentivi sufficienti per evitare il rilascio di sistemi pericolosi o non adeguatamente testati. Se un prodotto presenta rischi concreti, l’azienda che lo sviluppa dovrebbe rallentare, rimandarne il lancio o intervenire sul modello senza aspettare una decisione collettiva dell’industria.
Per Zuckerberg, il problema della sicurezza non richiede necessariamente un accordo tra tutte le aziende del settore.
Il CEO di Meta ha citato come esempio Muse, il nuovo agente AI dell’azienda capace di utilizzare software in autonomia. Meta avrebbe rimandato il rilascio del prodotto di alcuni mesi per effettuare ulteriori verifiche di sicurezza. “Non abbiamo chiesto a tutti gli altri di fare lo stesso prima di farlo noi”, ha scritto Zuckerberg. “Lo abbiamo semplicemente fatto come parte del nostro lavoro quotidiano, perché era chiaramente la cosa giusta per le persone e per noi”. È qui che emerge la differenza principale rispetto alla posizione di Amodei. Anthropic propone un rallentamento coordinato per affrontare rischi che potrebbero riguardare l’intero settore. Zuckerberg preferisce invece un modello nel quale ogni laboratorio resta responsabile delle proprie decisioni.
Lo scontro sulla velocità dello sviluppo dell’intelligenza artificiale
Il confronto arriva dopo giorni particolarmente tesi per il settore AI. La scorsa settimana un ricercatore di Anthropic si è dimesso avvertendo che le aziende di intelligenza artificiale stavano “giocando con le nostre vite”. Poco dopo, Amodei è intervenuto chiedendo un rallentamento globale nello sviluppo dei sistemi più avanzati. Nel dibattito sono entrati anche Sam Altman, CEO di OpenAI, Elon Musk e Demis Hassabis, presidente di Google DeepMind. Altri esponenti della Silicon Valley hanno invece contestato la proposta. David Sacks, venture capitalist e adviser del presidente Donald Trump, ha messo in discussione le motivazioni di Amodei, sostenendo che l’enfasi sui rischi dell’AI possa finire per rendere più difficile la competizione contro Anthropic e gli altri laboratori già ai vertici del mercato. Il confronto sulla sicurezza si sovrappone quindi a una questione industriale: rallentare lo sviluppo significa anche intervenire sulla competizione tra aziende che stanno investendo miliardi per costruire modelli più potenti.
Zuckerberg critica la corsa alla recursive self-improvement
Nel suo intervento, Zuckerberg ha preso posizione anche contro la cosiddetta “recursive self-improvement”. Con questa espressione si indica uno scenario nel quale sistemi di intelligenza artificiale vengono utilizzati per contribuire direttamente allo sviluppo di versioni successive e più avanzate dell’AI. Zuckerberg sostiene che i laboratori dovrebbero concentrarsi maggiormente sulla costruzione di prodotti utili alle persone, invece di indirizzare la competizione verso sistemi capaci di accelerare autonomamente il proprio sviluppo. È un passaggio rilevante perché separa due discussioni che spesso vengono trattate insieme. Da una parte c’è la velocità con cui vengono sviluppati i modelli. Dall’altra c’è la direzione verso cui quelle capacità vengono indirizzate. Per Meta, quindi, il problema non sembra essere lo sviluppo rapido dell’AI in sé. Il punto è quali sistemi vengono costruiti, quali rischi introducono e quali controlli vengono applicati prima della distribuzione.
Meta prepara Watermelon mentre cerca di recuperare su Anthropic e OpenAI
La posizione di Zuckerberg arriva mentre Meta sta cercando di ridurre il divario accumulato nei confronti di Anthropic e OpenAI. La società prevede di presentare nelle prossime settimane il modello AI più potente sviluppato finora dal gruppo. Internamente il progetto è conosciuto con il nome Watermelon.
La società prevede di presentare nelle prossime settimane il modello AI più potente sviluppato finora dal gruppo. Internamente il progetto è conosciuto con il nome Watermelon.
Il lancio arriva dopo un periodo nel quale Meta ha cercato di rafforzare la propria posizione nella corsa ai foundation model e agli agenti AI. Il dibattito sul rallentamento dell’intelligenza artificiale si inserisce quindi in una fase nella quale sicurezza e competizione sono sempre più difficili da separare. Amodei propone che l’industria riduca collettivamente la velocità. Zuckerberg sostiene invece che ogni laboratorio debba assumersi direttamente la responsabilità di rallentare quando i propri sistemi lo richiedono.
La differenza tra le due posizioni non riguarda soltanto la sicurezza dell’AI. Riguarda anche il modo in cui i principali player intendono continuare a competere mentre i modelli diventano più potenti.
