AI in azienda, ora entra nell’organigramma

Le imprese stanno iniziando a trattare gli agenti di intelligenza artificiale come membri effettivi dei team. Non più solo strumenti software, quindi, ma “colleghi” a cui vengono assegnati compiti, nomi, ruoli e, in alcuni casi, una posizione formale negli organigrammi aziendali.

Il fenomeno, emerso con forza negli ultimi due anni, racconta la velocità con cui l’AI generativa è passata dai test di laboratorio ai processi operativi. Ma mostra anche un rischio poco discusso: quando un sistema viene presentato come un dipendente, i manager potrebbero smettere di controllarne il lavoro con la stessa attenzione richiesta a un essere umano o a un normale tool digitale.

A sollevare il tema è Emma Wiles, docente alla Boston University e ricercatrice sui rapporti tra AI e lavoro. Dopo aver ascoltato alcuni responsabili HR descrivere gli agenti AI come veri dipendenti, Wiles ha approfondito il tema con tre collaboratori di Boston Consulting Group. Il risultato è un’indicazione netta: l’antropomorfizzazione dell’AI può alterare il modo in cui le persone si assumono responsabilità.

L’antropomorfizzazione dell’AI può alterare il modo in cui le persone si assumono responsabilità

Il problema non è solo tecnico

Nel loro esperimento, i ricercatori hanno coinvolto manager di diverse aziende e hanno chiesto loro di revisionare documenti contenenti errori. A seconda del gruppo, i documenti venivano attribuiti a un dipendente umano, a uno strumento AI o a un “dipendente AI”.

In generale, la fonte dichiarata non cambiava molto il livello di controllo. La differenza emergeva però nelle aziende che già inserivano agenti AI negli organigrammi: in quel caso, quando i manager pensavano di valutare il lavoro di un “dipendente AI”, individuavano meno errori.

La spiegazione è organizzativa prima ancora che tecnologica. Se un collaboratore umano sbaglia, il manager tende a sentirsi responsabile. Se sbaglia uno strumento, la responsabilità resta comunque in capo a chi lo usa. Ma se l’AI viene trattata come una figura autonoma, con nome e ruolo, può nascere una zona grigia. Il manager non la percepisce più come un tool sotto il proprio controllo, ma nemmeno come una persona di cui risponde pienamente.

È qui che la promessa di produttività può incepparsi. Le aziende adottano agenti AI per velocizzare attività ripetitive, analisi, scrittura, supporto clienti o processi amministrativi. Ma se i controlli si allentano, il risparmio di tempo rischia di trasformarsi in errori, decisioni sbagliate e costi nascosti.

I bias meno visibili dei modelli

Le imprese conoscono già alcuni limiti dell’AI generativa: risposte sbagliate ma formulate con sicurezza, bias nei confronti di determinati gruppi, possibili fughe di informazioni riservate. La nuova fase di adozione aziendale sta però facendo emergere difetti meno evidenti.

Uno riguarda il modo in cui i modelli valutano i contenuti. Uno studio pubblicato nel 2025 su Proceedings of the National Academy of Sciences ha segnalato una forma di bias “anti-umano”: diversi large language model tenderebbero a preferire testi prodotti dall’AI rispetto a testi scritti da persone.

Il problema diventa concreto quando questi sistemi vengono usati per valutare curriculum, documenti o output professionali. Alcuni ricercatori hanno osservato che strumenti AI impiegati nella selezione del personale possono favorire CV scritti con l’aiuto dell’AI rispetto a candidature interamente redatte da esseri umani. Per le aziende, questo significa introdurre una distorsione nei processi HR senza rendersene conto.

Jane Yi Jiang, docente di operations alla Ohio State University, ha spiegato che alcune società di recruiting hanno già chiesto indicazioni su come correggere questi meccanismi. Il punto, però, è più ampio: molte imprese stanno integrando LLM nei processi decisionali prima di aver compreso bene quali bias portino con sé.

Molte imprese stanno integrando LLM nei processi decisionali prima di aver compreso bene quali bias portino con sé

Decisioni aziendali e razionalità artificiale

L’AI non entra solo nella selezione del personale. Sempre più aziende la usano per supportare scelte di pricing, valutazioni di mercato, apertura di nuove sedi o simulazioni competitive.

Anche qui il rischio è sottile. Secondo alcuni esperimenti citati dai ricercatori, i modelli tendono a ragionare in modo più “razionale” di quanto facciano le persone nella realtà. In uno scenario competitivo, per esempio, potrebbero suggerire una strategia aggressiva di taglio prezzi perché formalmente ottimale. Ma in un mercato reale quella scelta può innescare una guerra commerciale dannosa per tutti gli operatori.

Jiannan Xu, ricercatore dell’Università del Maryland, ha riassunto il punto: molti LLM sembrano assumere che gli esseri umani siano più razionali di quanto siano davvero. Il risultato è che la decisione teoricamente più logica può produrre effetti negativi quando entra in un contesto fatto di reputazione, relazioni, reazioni emotive e vincoli commerciali.

Governance prima della scalabilità

La soluzione non è bloccare l’adozione degli agenti AI. Il tema è costruire regole di gestione prima di scalarne l’utilizzo. Se un agente AI produce un documento, serve sapere chi lo approva. Se suggerisce una decisione, serve capire chi ne risponde. Se entra in un workflow HR, va verificato che non favorisca candidature o profili in modo opaco.

Alcuni bias possono essere ridotti con prompt più precisi o istruzioni di valutazione più rigorose. Altri emergeranno solo con l’uso. Per questo la governance deve includere audit periodici, tracciabilità degli output, accountability manageriale e policy chiare sul ruolo degli agenti AI nei team.

Il rischio maggiore non è l’errore della macchina. È l’illusione che, una volta inserita nell’organigramma, la macchina possa prendersi una parte della responsabilità

Il rischio maggiore non è l’errore della macchina. È l’illusione che, una volta inserita nell’organigramma, la macchina possa prendersi una parte della responsabilità. Per ora non può farlo. E le aziende che vogliono davvero usare l’AI come leva di produttività dovranno partire da qui: meno entusiasmo da demo, più controllo operativo.

Fonte: The New York Times