Houston: il centro di controllo missione durante la trasmissione televisiva poco prima dell’incidente.
Disclaimer – Questo pezzo fotografa il presente, un presente che viaggia a una velocità mai vista prima. Se invece siete curiosi di esplorare il futuro e capire l’impatto di un’IA più intelligente di noi, vi consiglio di leggere il saggio di Dario Amodei “The Adolescence of Technology“.
Ogni tanto esco dai confini della tossicologia regolatoria per ragionare su questioni che toccano chi, come me, svolge una professione d’ufficio. L’intelligenza artificiale è una di queste. Il discorso pubblico quando la affronta oscilla fra due posizioni entrambe poco utili: l’entusiasmo di chi la presenta come l’imminente sostituto di qualunque lavoro intellettuale e la liquidazione di chi si limita a ridicolizzarne gli errori più vistosi. La realtà del consulente che usa questi strumenti è meno romanzesca, ma probabilmente più interessante. Mi limiterò a osservare due cambiamenti che emergono da vicino nel lavoro di oggi: la possibilità di disporre di una ridondanza sui propri controlli e la possibilità di confrontarsi con un interlocutore competente in qualunque momento.
Entrambi i cambiamenti, come cercherò di spiegare, producono valore solo in presenza di un’altra cosa, che non scompare: la competenza di chi guida lo strumento.
Partiamo dalla ridondanza. C’è una scena di Apollo 13 che mi torna in mente parlando di questo argomento. Quando l’equipaggio dell’Aquarius detta a Houston le coordinate per la manovra di rientro, alla NASA quattro ingegneri eseguono in parallelo gli stessi calcoli, e la procedura viene autorizzata solo quando tutti arrivano al medesimo risultato. È un dettaglio apparentemente banale, ma racchiude un concetto che lo psicologo inglese James Reason, scomparso nel 2025, aveva codificato nel suo celebre modello del formaggio svizzero: in ogni sistema complesso ogni livello di difesa contiene dei buchi, cioè delle vulnerabilità, e l’incidente accade quando i buchi di più livelli si allineano permettendo all’errore di attraversare l’intero sistema.
La ridondanza non serve a garantire che nessuno sbagli, serve a rendere statisticamente improbabile che gli errori di più persone o di più livelli si sovrappongano esattamente nello stesso punto. Per questa ragione la si ritrova, consapevolmente o meno, nelle poche professioni in cui il costo dell’errore è così elevato da giustificare il costo del doppio controllo: l’aviazione civile, dove ogni azione critica segue un protocollo di challenge and response fra pilota e copilota; la chirurgia, dove la checklist dell’Organizzazione Mondiale della Sanità prevede verifiche incrociate prima, durante e dopo ogni intervento; il settore bancario, dove il four-eyes principle richiede una seconda firma sulle operazioni rilevanti.
Invece per il consulente regolatorio, per il revisore contabile, per l’analista che redige un parere tecnico, quella ridondanza semplicemente non è mai esistita. La ragione è economica prima ancora che culturale: duplicare il lavoro di un professionista richiede un altro professionista e il mercato non ha quasi mai giudicato il costo dell’errore, nella gran parte delle professioni d’ufficio, tale da giustificare quella spesa.
Il controllo eventualmente arrivava a settimane di distanza, e quasi sempre soltanto perché qualcuno, a valle, contestava una conclusione. A questa asimmetria se ne aggiunge un’altra, più sottile, che la psicologia cognitiva conosce bene: quando una persona rilegge un proprio testo, lo rilegge attraverso il modello mentale con cui lo ha scritto. I passaggi oscuri a un lettore esterno sono spesso chiari all’autore, proprio perché è stato l’autore a costruirli. Ne consegue che gli errori di coerenza interna, i calcoli sbagliati, le interpretazioni normative forzate tendono a sfuggire allo stesso occhio che li ha prodotti. In questo senso la verifica indipendente non è un lusso retorico, ma è lo strumento più efficace che esista per intercettare l’errore latente, quello che rimane dormiente finché una condizione successiva non lo rende visibile, spesso in ritardo. L’intelligenza artificiale nei compiti per cui è adatta introduce per la prima volta una verifica parallela a costo marginale. Un consulente può far ricontrollare un calcolo di esposizione, chiedere se l’interpretazione di un articolo di legge regge a una determinata lettura, far rileggere un dossier di centinaia di pagine alla ricerca di numeri che non tornano tra capitoli diversi, incoerenze fra premesse e conclusioni, richiami mancanti. Non è una garanzia, perché il modello può sbagliare, e può farlo in modo sistematico.
Ma la probabilità che due percorsi di ragionamento indipendenti incappino esattamente nello stesso errore è strutturalmente inferiore alla probabilità che ne sbagli uno solo, ed è su questo semplice fatto statistico che si regge qualunque sistema di difesa in profondità.
Il guadagno qui non è la velocità, ma è la riduzione del rischio di un errore non intercettato. Nelle professioni intellettuali solitarie si tratta di un’importazione silenziosa dei protocolli di controllo incrociato che fino a ieri restavano confinati ai contesti ad altissima criticità.
“Un marine nel corpo di un Avatar è un mix potentissimo.” — Colonnello Miles Quaritch, Avatar (2009)
Veniamo al secondo cambiamento. Il consulente che dispone di uno strumento del genere ha la possibilità, ogni volta che gli serve, di farsi affiancare da un interlocutore competente.
Allora la domanda che conta è: quanto questo avvicina chi ha una competenza a svolgere compiti che appartengono a competenze diverse? La risposta, secondo le ricerche più recenti, è meno rassicurante di quanto le narrazioni divulgative lascino intendere. Un gruppo di ricercatori di Harvard Business School e della Stanford Graduate School of Business, guidato da Iavor Bojinov ed Edward McFowland III, ha pubblicato nel 2025 un lavoro intitolato “The GenAI Wall Effect“, l’effetto muro dell’intelligenza artificiale generativa. L’esperimento ha coinvolto 78 dipendenti di un gruppo finanziario internazionale: a specialisti di marketing e a sviluppatori software è stato chiesto di svolgere, con l’aiuto di un modello generativo, compiti tipici degli analisti web dedicati alla redazione di articoli sugli investimenti. Il risultato è stato doppio. Da un lato, lo strumento ha permesso agli “outsider” – cioè a chi di quel lavoro non si occupava – di ottenere risultati molto migliori di quelli che avrebbero raggiunto senza. Dall’altro, e questo è il punto decisivo, nonostante il miglioramento gli outsider non hanno raggiunto il livello qualitativo degli “insider”, degli analisti web la cui competenza specifica era proprio quella. Gli autori parlano di “wall effect”, effetto muro: oltre una certa distanza di conoscenza dal compito, lo strumento non riesce a portare chi lo usa. Migliora tutti, ma non annulla il vantaggio dell’esperto.
Credo che questa sia la cornice in cui va letto il valore dell’intelligenza artificiale per il consulente. Non è un sostituto dell’esperienza che cancella le barriere di competenza, ma piuttosto è un moltiplicatore di ciò che il professionista già sa fare. Un tossicologo regolatorio che chiede a un modello di mettere alla prova una propria giustificazione per un’impurezza, di simulare le obiezioni di un valutatore scettico, di esplorare impostazioni alternative prima di scegliere la più difendibile, sta usando lo strumento nel modo in cui produce più valore: come sparring partner qualificato, non come oracolo.
Il non-esperto che chiede la stessa cosa ottiene una risposta plausibile, ma non è nelle condizioni di riconoscere gli errori concettuali, le semplificazioni indebite, i passaggi in cui il modello ha scelto la strada più comoda anziché quella corretta. Ed è qui che la metafora di Avatar, il film di James Cameron, mi sembra calzante: un marine nel corpo di un Avatar è un mix potentissimo, come dice il film.
Da questa cornice discende anche il punto forse più fraintendibile. Molti continuano a usare l’intelligenza artificiale come se fosse una chat in cui si pone una domanda e si aspetta una risposta, cioè come un motore di ricerca più loquace. Non è questo il tipo di interazione per cui l’AI produce risultati interessanti e una parte di chi rimane deluso dopo qualche settimana ha semplicemente ragione perché quel modo di usarla è effettivamente deludente. Un motore di ricerca serve a recuperare informazioni che qualcun altro ha già formulato, invece uno strumento generativo serve a costruire qualcosa insieme, iterando, contestando, aggiustando.
Anche un interlocutore competente in carne e ossa, messo davanti a una domanda secca, raramente dà la risposta migliore al primo colpo: il valore emerge nella conversazione, nei chiarimenti, nelle obiezioni, nel contesto che si deposita strada facendo. Trattare questi strumenti come oracoli significa sprecarli, trattarli come un collega a cui spiegare il problema, a cui porre dubbi, a cui chiedere una seconda opinione su una prima risposta insoddisfacente, significa metterli nelle condizioni per cui sono stati costruiti. Lo scarto tra i due approcci è ampio ed è probabilmente la vera linea di demarcazione tra i professionisti che trovano questi strumenti utili e quelli che li considerano un giocattolo passeggero.
Il quadro complessivo mi sembra allora più sobrio di quanto le retoriche correnti suggeriscano. L’intelligenza artificiale non produce competenza dove non c’era. Il marine senza l’Avatar resta un buon marine; l’Avatar senza il marine resta un organismo senza intenzione. Il consulente esperto che rifiuta questi strumenti continua a essere un buon consulente, ma rinuncia a una ridondanza e a un interlocutore che fino a ieri non erano disponibili per ragioni economiche banali.
Il consulente non esperto che vi si affida credendo di supplire a ciò che non sa, prima o poi, scopre che il muro della competenza specifica è ancora lì, meno alto di prima ma non abbattuto. Il professionista esperto che impara a integrare i giusti strumenti nel proprio lavoro diventa qualcosa di diverso: più rapido, più rigoroso, con un margine di sicurezza sul proprio prodotto finale che in passato era riservato a chi operava in strutture enormi e in discipline ad altissima criticità. Nel complesso non cambia la natura del lavoro, ne cambia – con discrezione – la qualità.
Sono Fabio Lunghi, Chimico con Master in ‘Valutazione e controllo del rischio tossicologico’ all’Università di Pavia. Aiuto le aziende a navigare il complesso mondo della conformità normativa (REACH, CLP, Biocidi) attraverso consulenze mirate, valutazioni del rischio e formazione.