Dove finisce ciò che le persone insegnano all’intelligenza artificiale
Quando un impiegato corregge la risposta di uno strumento di intelligenza artificiale, mette in gioco una conoscenza utile all’azienda: sa quale risposta era sbagliata, perché lo era e quale sarebbe stata giusta. Spesso, correggendola, rende esplicito un criterio che fino a quel momento applicava senza doverlo spiegare. Raramente qualcuno si chiede dove vada a finire questa conoscenza. In una piccola impresa finisce di solito in due posti, e in nessuno dei due l’azienda può ritrovarla.
Il primo è il fornitore del sistema. Correzioni, documenti caricati e istruzioni affinate possono servire ad addestrare il sistema stesso. Dipende dalle condizioni d’uso, che cambiano da un fornitore all’altro, tra versione gratuita e aziendale, e secondo le impostazioni scelte. Stanno in poche righe che quasi nessuno legge prima di cliccare “accetto”. Spesso nessuno ha nemmeno deciso quale strumento usare: ognuno si è scelto il suo, come una volta ci si sceglieva la calcolatrice.
Il secondo sono le persone. È il problema più serio, perché resta anche quando il contratto con il fornitore è scritto bene. Qualche mese fa ho esaminato il programma di un corso sull’IA per i dipendenti di un mio cliente. Insegnava bene a usare gli strumenti, ma non diceva nulla su un punto. Se ogni dipendente costruisce da solo le proprie istruzioni e il proprio modo di lavorare con la macchina, dopo sei mesi l’azienda si ritrova con cento metodi diversi, che nessuno ha confrontato e che nessun altro può riusare. Quando un dipendente se ne va, il suo metodo se ne va con lui. Nelle PMI il rischio pesa di più, perché le persone sono poche e ognuna sa cose che nessun altro sa.
Per cominciare non serve un nuovo dirigente. Servono due cose più modeste. La prima è una persona con un mandato preciso: sapere quali strumenti si usano, con quali dati e a quali condizioni, e portarlo a chi decide. In un’azienda di trenta persone sarà quasi sempre il titolare, o uno dei due o tre che sono lì da vent’anni e fanno già tre mestieri. Per questo il mandato deve essere piccolo, scritto e accompagnato dal tempo per svolgerlo. La seconda è un archivio dei criteri con cui si giudica giusta una risposta.
Morgan Stanley, prima di dare un assistente basato sull’IA ai propri consulenti finanziari, ha fatto stabilire ai suoi esperti che cosa fosse una buona risposta. Ne è nato un insieme di circa quattrocento domande con le risposte corrette, su cui il sistema viene verificato ogni giorno.¹ Una PMI può cominciare con venti, su un’attività sola.
Per ogni domanda non basta la risposta: servono il caso, il motivo e le eccezioni. Per una consegna fuori zona conta il prezzo, ma contano anche i costi che lo compongono, le condizioni a cui si applica e chi può autorizzare uno sconto. E il criterio del collega più esperto non diventa da solo il criterio dell’azienda. Qualcuno con la responsabilità di quel lavoro deve confrontarlo con gli altri e approvarlo. Le domande vanno riprese quando cambia lo strumento, ma anche quando cambiano i prezzi o le procedure, o quando compare un errore nuovo.
C’è però un ostacolo, e conviene vederlo prima. Chiedere a un dipendente di mettere per iscritto i criteri che usa può significare chiedergli di rinunciare a una parte di ciò che lo rende difficile da sostituire. Crozier lo spiegava con le zone di incertezza: chi controlla qualcosa da cui gli altri dipendono ha potere, e non lo cede in cambio di una richiesta generica. Perché l’archivio funzioni, chi lo scrive deve averne un vantaggio sostanziale: tempo riconosciuto per scriverlo e per formare i nuovi, e voce nelle decisioni sul metodo. Questo non significa che ogni reticenza sia una difesa di potere. Spesso mancano semplicemente il tempo, o l’abitudine a spiegare ciò che si sa fare.
Un archivio così serve due volte. Permette di confrontare i fornitori e di accorgersi quando un aggiornamento peggiora le risposte. E serve a formare chi arriva, perché mette per iscritto ciò che prima si imparava stando accanto al collega anziano. È la parte di ciò che le persone hanno imparato usando la macchina che resta all’azienda quando cambia il fornitore, o quando se ne va chi l’aveva imparata.
¹ Sangeet Paul Choudary, “The ‘Human-in-the-Loop’ Fallacy”, Harvard Business Review, 2 novembre 2026.