Anthropic contro il Pentagono: lo scontro sull’IA militare

Nel pieno della corsa globale all’intelligenza artificiale, si apre una frattura senza precedenti tra una delle aziende più avanzate nel campo dei foundation model e l’amministrazione federale statunitense. Protagonista è Anthropic, guidata dal CEO Dario Amodei, che in un’intervista a CBS News ha delineato un perimetro etico chiaro sull’utilizzo dell’IA in ambito militare e di sicurezza nazionale. Un perimetro che, secondo l’azienda, il Pentagono avrebbe tentato di superare imponendo condizioni contrattuali senza restrizioni operative.

Le due red lines sull’uso dell’IA

Anthropic non si è mai posizionata come un player ostile alla collaborazione con il settore pubblico. Al contrario, Amodei rivendica una postura proattiva: disponibilità dei modelli su cloud classificati, custom deployment per ambienti governativi e integrazione in contesti ad alta sensibilità. Tuttavia, la società ha stabilito due “red lines” non negoziabili che toccano aspetti sistemici della governance dell’intelligenza artificiale.

Secondo Amodei, la capacità degli LLM e dei sistemi di data analytics potenziati dall’IA di elaborare dataset su larga scala ha superato il ritmo dell’evoluzione normativa

La prima riguarda la sorveglianza di massa domestica. Secondo Amodei, la capacità degli LLM e dei sistemi di data analytics potenziati dall’IA di elaborare dataset su larga scala – inclusi dati acquistati da data broker privati – ha superato il ritmo dell’evoluzione normativa. Il rischio non è solo tecnologico ma istituzionale: strumenti capaci di correlare informazioni personali con granularità senza precedenti possono alterare l’equilibrio tra sicurezza e libertà civile. La questione non è l’illegalità immediata della pratica, bensì il mismatch tra capacità tecnica e framework regolatorio, un tema che richiama da vicino il dibattito su AI governance, compliance e accountability.

La seconda linea rossa concerne le armi completamente autonome. Amodei distingue tra sistemi “human-in-the-loop” o “human-on-the-loop”, già impiegati in diversi teatri operativi, e piattaforme in grado di prendere decisioni letali senza supervisione umana diretta. In questo scenario, il problema non è solo etico ma tecnico: l’affidabilità dei modelli, la gestione delle edge case, l’interpretabilità delle decisioni e il rischio di allucinazioni algoritmiche rappresentano variabili critiche in un contesto dove l’errore può tradursi in vittime civili o fuoco amico. Dal punto di vista dell’ingegneria dei sistemi, l’assenza di explainability robusta e di meccanismi di fail-safe certificati rende prematura l’adozione su larga scala di fully autonomous weapons.

L’ultimatum del governo e la designazione di rischio

La risposta dell’amministrazione guidata da Donald Trump è stata immediata e radicale. Dopo un ultimatum di tre giorni per accettare condizioni contrattuali prive di limitazioni sull’uso dei modelli, il Pentagono avrebbe classificato Anthropic come “rischio per la catena di approvvigionamento”. Una misura solitamente riservata a entità straniere considerate potenziali minacce alla sicurezza nazionale, come Kaspersky.

La designazione, secondo quanto riportato, limita l’utilizzo dei modelli Anthropic nei contratti militari, pur non estendendosi automaticamente a tutti i partner commerciali. Amodei ha definito la misura “punitiva e inappropriata”, sottolineando che le comunicazioni ufficiali sarebbero state precedute da attacchi pubblici sui social, inclusa la piattaforma X. La tensione ha assunto anche una dimensione politica, con accuse di orientamento ideologico rivolte all’azienda, respinte dal CEO come infondate e distorsive rispetto alla mission aziendale.

Fino a che punto il governo può esercitare leverage contrattuale su fornitori strategici di tecnologia avanzata?

Dal punto di vista industriale, il caso apre un precedente rilevante: fino a che punto il governo può esercitare leverage contrattuale su fornitori strategici di tecnologia avanzata? E quali sono le implicazioni per l’ecosistema delle startup deep tech che operano in settori dual use, dove la linea tra applicazione civile e militare è sempre più sottile?

Difesa dei valori democratici e rischio corsa al ribasso

Nel suo intervento, Amodei ha ancorato la posizione di Anthropic a un principio di coerenza con i valori democratici. La tesi è che competere con potenze autocratiche non debba tradursi in un abbassamento degli standard etici. L’analogia proposta è netta: il fatto che un avversario possa violare norme o principi non giustifica una replica speculare.

Il fatto che un avversario possa violare norme o principi non giustifica una replica speculare

Applicato all’IA, questo ragionamento implica il rifiuto di una “race to the bottom” tecnologica, dove la velocità di deployment prevale sulla valutazione di impatti sistemici. In un contesto di proliferazione di droni coordinati da sistemi centralizzati di decision-making algoritmico, la questione della catena di comando diventa cruciale. Delegare l’ultima decisione letale a un modello statistico comporta una ridefinizione della responsabilità che il diritto internazionale umanitario non ha ancora metabolizzato pienamente.

Per l’ecosistema startup, il tema è di natura strategica: la reputazione, il risk management e la fiducia degli stakeholder (investitori, partner, utenti) sono asset intangibili ma determinanti. Una scelta di posizionamento etico può comportare tensioni di breve periodo con il settore pubblico, ma consolidare nel medio-lungo termine la brand equity e la credibilità sul mercato globale.

Il vuoto normativo e il ruolo del Congresso

Un punto chiave emerso nell’intervista riguarda l’asimmetria tra innovazione tecnologica e produzione normativa. Amodei ha riconosciuto che non dovrebbe spettare a una singola azienda privata definire i limiti operativi del Pentagono. Tuttavia, in assenza di un intervento tempestivo del Congresso, Anthropic ritiene di avere una responsabilità fiduciaria nell’evitare utilizzi che giudica prematuri o pericolosi.

Il tema è centrale per chi opera in ambito AI: la mancanza di standard condivisi su auditing, certification e red teaming dei modelli destinati a usi critici espone aziende e istituzioni a rischi legali e reputazionali. L’auspicio espresso è che il legislatore federale colmi rapidamente il gap, definendo linee guida chiare su armi autonome, data governance e limiti alla sorveglianza algoritmica.

Un caso studio per l’industria globale

La vicenda potrebbe ora spostarsi sul piano legale, con Anthropic pronta a contestare formalmente eventuali atti amministrativi una volta ricevute comunicazioni ufficiali. Al di là dell’esito giudiziario, il caso rappresenta un benchmark per l’intero settore dell’intelligenza artificiale.

Chi detiene il potere di definire i confini etici dell’IA applicata alla difesa?

Chi detiene il potere di definire i confini etici dell’IA applicata alla difesa? I developer che conoscono in profondità limiti e failure mode dei modelli, o le istituzioni che ne richiedono l’implementazione in nome della sicurezza nazionale? Per le startup deep tech, il messaggio è chiaro: la governance dell’innovazione non è più un tema accessorio ma una variabile strategica. In un contesto di crescente integrazione tra AI, cybersecurity e difesa, la capacità di coniugare performance tecnologica e responsabilità etica sarà un fattore differenziante tanto quanto l’accuratezza dei modelli o la scalabilità dell’infrastruttura.