Satya Nadella: l’AI fa pagare due volte le imprese

Le aziende che utilizzano modelli di intelligenza artificiale proprietari potrebbero pagare un prezzo molto più alto rispetto a quello indicato nella fattura del provider. A lanciare l’allarme è Satya Nadella, CEO di Microsoft, che in un recente intervento ha invitato imprese e sviluppatori a valutare con maggiore attenzione il valore dei dati condivisi durante l’utilizzo dei sistemi AI.

Secondo Nadella, chi acquista servizi basati su large language model paga due volte. La prima attraverso il consumo di token, calcolato in base alla quantità di testo elaborato. La seconda cedendo informazioni proprietarie necessarie per rendere il modello davvero utile all’interno dei processi aziendali.

“Si paga l’intelligenza una volta con il denaro e una seconda volta con qualcosa di ancora più prezioso: la conoscenza proprietaria”

“Si paga l’intelligenza una volta con il denaro e una seconda volta con qualcosa di ancora più prezioso: la conoscenza proprietaria”, ha scritto il CEO di Microsoft.

Prompt e correzioni diventano know-how aziendale

Il problema non riguarda soltanto i documenti caricati nei sistemi o le informazioni inserite esplicitamente nei prompt. Nadella richiama l’attenzione anche sui dati prodotti durante il normale utilizzo dei modelli: richieste, feedback, strumenti attivati dagli agenti AI e correzioni fornite dagli utenti.

Quando un dipendente corregge una risposta errata, spiega al sistema come interpretare una procedura, una policy interna o una particolare esigenza commerciale. Quella correzione contiene una parte della competenza accumulata dall’organizzazione.

Ripetuto su migliaia di conversazioni, questo processo può trasformare le interazioni con il modello in una mappa dettagliata del funzionamento dell’impresa. Il provider potrebbe conoscere flussi operativi, regole decisionali, eccezioni contrattuali e modalità di gestione dei clienti difficili da ricostruire dall’esterno.

Per Nadella si tratta del tipo di conoscenza che un concorrente non potrebbe acquistare facilmente, ma che molte aziende consegnano senza una valutazione economica adeguata.

La disputa sulla distillazione dei modelli

Nel suo intervento, il CEO di Microsoft collega la gestione dei dati aziendali al dibattito sulla distillazione dei modelli. La distillation è una tecnica con cui gli output di un modello vengono utilizzati per comprenderne il comportamento e addestrare un sistema più piccolo, economico o specializzato.

I principali AI lab limitano spesso questa pratica nei termini di servizio. Nadella considera contraddittoria una situazione in cui i provider possono addestrare i propri modelli su grandi quantità di contenuti pubblici, invocando il fair use, ma impediscono ai clienti di studiare gli output acquistati.

Il tema ha assunto anche una dimensione geopolitica. Anthropic ha accusato alcuni sviluppatori cinesi di aver inviato milioni di richieste a Claude per affinare modelli concorrenti e ha chiesto alle autorità statunitensi controlli più rigidi.

La posizione di Nadella è netta: chi beneficia dell’accesso ai dati altrui non può pretendere un controllo assoluto sulle informazioni generate dai propri sistemi.

I termini contrattuali sotto osservazione

Una delle maggiori fonti di rischio è contenuta nelle clausole che consentono ai provider di apprendere dai dati di utilizzo e dalle interazioni dei clienti. Per un’impresa, la differenza tra elaborazione tecnica, conservazione temporanea e utilizzo per il training può avere conseguenze rilevanti.

Prima di integrare un modello in un processo operativo, le aziende devono verificare data retention, localizzazione delle informazioni, modalità di opt-out, policy di training e responsabilità in caso di esposizione dei dati. Il controllo non può limitarsi all’ufficio IT. Servono competenze legali, cybersecurity, procurement e data governance.

Il rischio cresce con gli agenti AI, capaci di accedere a CRM, repository di codice, documentazione tecnica e sistemi finanziari. In questo scenario, un prompt non è più una semplice domanda: può contenere una parte consistente del contesto aziendale.

La proposta di Nadella favorisce il cloud

La soluzione suggerita dal CEO di Microsoft parte dalla proprietà dei dati. Le imprese dovrebbero conservare il controllo su prompt, feedback, correzioni e output generati durante l’utilizzo dei modelli.

Nadella propone la creazione di “proprietary learning environments”, ambienti privati nei quali l’organizzazione possa raccogliere e utilizzare le proprie interazioni senza trasferire il relativo valore al provider del modello. Il luogo naturale per costruire questi ambienti, secondo la sua impostazione, è il cloud.

La proposta coincide con gli interessi di Microsoft Azure, che offre infrastrutture per l’esecuzione, il fine-tuning e l’orchestrazione dei modelli. L’avvertimento resta però rilevante anche al di là della strategia commerciale di Microsoft: il controllo del learning loop sta diventando un tema centrale per l’AI enterprise.

Orchestrazione e libertà di cambiare modello

Nadella invita le aziende a introdurre un orchestration layer tra le applicazioni e i provider AI. Questo livello software consente di instradare le richieste verso modelli differenti, applicare policy di sicurezza, monitorare costi e performance e sostituire un fornitore senza riscrivere l’intera applicazione.

Gli AI gateway rispondono proprio a questa esigenza. Un gateway può selezionare il modello in base al tipo di task, al livello di riservatezza, alla latenza richiesta o al costo per token. Può anche impedire che determinate informazioni escano dall’infrastruttura aziendale.

Per startup ed enterprise, l’orchestrazione riduce il vendor lock-in. Affidare tutti i flussi a un unico provider significa accettarne prezzi, condizioni contrattuali e roadmap. Un’architettura multi-modello lascia invece aperta la possibilità di adottare soluzioni più adatte a ciascun carico di lavoro.

La crescita dei modelli open source on-premise

Nadella non indica esplicitamente l’open source come soluzione, ma il riferimento è evidente. Molte aziende stanno valutando modelli open-weight installati nei propri data center o in cloud privati, soprattutto per attività che coinvolgono dati sensibili.

Idit Levine, fondatrice e CEO di Solo.io, ha osservato questo passaggio tra i clienti della società. Dopo una prima fase di sperimentazione con i modelli proprietari, le imprese iniziano a chiedersi se un sistema open source possa raggiungere una qualità sufficiente con costi inferiori e un controllo maggiore.

Solo.io, che collabora con aziende come T-Mobile, ADP e SAP, è stata scelta per fornire la tecnologia alla base del progetto Agentgateway della Linux Foundation. Secondo Levine, l’adozione di modelli on-premise sarà una delle prossime fasi dell’AI aziendale.

Il mercato si prepara a un’AI più aperta

Anche i dati delle piattaforme di routing mostrano una crescita dell’interesse. Vercel e OpenRouter stanno registrando più traffico verso modelli open source. Nel gateway di Vercel, questi sistemi hanno rappresentato il 29% delle richieste instradate nell’ultimo mese citato dalla società.

Il messaggio di Nadella arriva da una posizione particolare. Microsoft ha investito nei principali provider di modelli proprietari, tra cui OpenAI e Anthropic, ma allo stesso tempo vende l’infrastruttura necessaria alle imprese per costruire ambienti indipendenti.

La competizione non riguarda più soltanto chi possiede il modello più potente. Riguarda chi controlla i dati prodotti durante il suo utilizzo. Come sintetizza Nadella, consumare intelligenza significa anche crearne di nuova. Per le aziende, la domanda decisiva è chi ne conserverà la proprietà.