Si delegano alle macchine decisioni che incidono sulla vita, spesso senza che nessuno se ne accorga e senza sapere chi risponderà degli errori. Il confine tra affidarsi e rinunciare a scegliere si è fatto sottile, e riguarda da vicino chi lavora con le scelte degli altri. A cura di Annunziata Di Lecce, Direttrice CTS Asnor, Psicologa del Lavoro, Design Thinker e Coach Neurocognitivo.
Indice dei contenuti
Un gruppo di gastroenterologi tra i più esperti, dopo tre mesi di colonscopie condotte con il supporto dell’intelligenza artificiale, ha perso qualcosa. Quando lo strumento veniva spento, la loro capacità di riconoscere le lesioni precancerose calava di sei punti percentuali(Budzyń et al., 2025, primo caso osservato sul campo di deskilling clinico da IA). La causa non era la stanchezza. Avevano smesso di allenare uno sguardo che la macchina esercitava al posto loro.
Un gesto antico: il cognitive offloading
Il caso porta con sé un meccanismo che le neuroscienze cognitive studiano da decenni. Si chiama cognitive offloading, la tendenza del cervello a trasferire fuori di sé parte del carico mentale, alla scrittura, a un appunto, a un calcolatore (Risko e Gilbert, 2016). Un gesto antico e sensato, che libera risorse e permette di pensare ad altro. Diventa qualcosa di diverso quando ciò a cui affidiamo il compito smette di conservare e comincia a scegliere.
Quando la delega diventa un rischio
La parola che tiene insieme questi casi è delega. È un atto che compiamo di continuo, e a ragione, come si firma una procura a chi ci rappresenta quando non possiamo esserci. Firmare una delega è ragionevole finché restano chiare tre condizioni: a chi la concediamo, per quali atti vale, se possiamo revocarla. Una delega diventa un rischio quando queste risposte si perdono, quando l’autorizzazione passa senza che ce ne accorgiamo e nessuno sa più chi risponde di cosa.
Chi lavora nell’orientamento conosce questa soglia meglio di molti, perché il suo mestiere si gioca proprio lì, nel punto in cui una persona decide se autorizzare altri a scegliere per lei o riprendere in mano la scelta.
La delega, per l’orientatore, è la materia quotidiana del lavoro.
Una delega mai firmata
È qui che il dibattito pubblico si complica, lungo una linea che pare tecnica e riguarda invece la responsabilità. Si obietta che i sistemi incorporati nelle infrastrutture critiche, il credito, il segnalamento ferroviario, il triage al pronto soccorso, sono architetture deterministiche e certificate, altra cosa rispetto ai modelli generativi con cui conversiamo.
L’osservazione è corretta sul piano ingegneristico. Da essa, però, si ricava talvolta una conclusione affrettata, quella per cui il problema del governo sarebbe già risolto perché la responsabilità è formalmente assegnata.
Un caso mostra dove quel ragionamento si incrina, la vicenda del Boeing 737 MAX. Il suo sistema di controllo era automazione fondata su regole fisse, un livello precedente all’intelligenza artificiale odierna, ed è questo a renderlo istruttivo, perché dimostra che la questione del governo precede l’IA. Deterministico, certificato dai regolatori, tracciabile per chi l’aveva scritto.
L’aereo aveva due sensori di assetto, ma il sistema ne ascoltava uno solo, senza confrontarli. Quando quel sensore trasmise un dato errato, nessuno lo smentì, e il sistema spinse due aerei verso il basso fino allo schianto, 346 vittime, mentre i piloti ignoravano l’esistenza stessa di quel sistema e non potevano disinserirlo, come ricostruiscono i rapporti d’inchiesta. Una delega che nessuno a bordo aveva firmato, e che nessuno poteva revocare.
Chi ha scritto il criterio. Una distorsione che parte dai dati
Il nodo, dunque, non riguarda se la macchina ragioni per probabilità o per regole fisse, ma se resti, per chi la attraversa, un margine per capire e opporsi.
Un algoritmo che nega un prestito applica un criterio come qualunque procedura, e lo stesso fa il software di selezione, gli ATS (Applicant Tracking System), che filtra i curricula prima di ogni sguardo umano.
Il sistema di selezione sperimentato da Amazon dal 2014, addestrato su dieci anni di candidature in prevalenza maschili, imparò a penalizzare i curricula che contenevano la parola “women’s” e a preferire gli uomini per i ruoli tecnici, finché l’azienda lo abbandonò non riuscendo a renderlo neutrale (Dastin, 2018).
La distorsione nasceva dai dati, non da una regola voluta. La domanda vera è chi ha scritto quel criterio, su quali dati storici, e quali strade abbia chi si vede rifiutare senza spiegazione.
Torniamo così al lavoro dell’orientatore, che di questa domanda fa il proprio centro. Aiutare una persona a riconoscere quando sta firmando una delega, e a chiedersi se voglia davvero concederla, è la funzione che nessun sistema svolge al suo posto. Il discernimento umano resta il punto in cui qualcuno verifica a chi sta consegnando la propria scelta, prima che l’autorizzazione diventi silenziosa e irrevocabile.
Bibliografia
- Budzyń, K., Romańczyk, M., Kitala, D., et al. (2025). Endoscopist deskilling risk after exposure to artificial intelligence in colonoscopy: a multicentre, observational study. The Lancet Gastroenterology & Hepatology, 10(10), 896-903.
- Dastin, J. (2018, 10 ottobre). Amazon scraps secret AI recruiting tool that showed bias against women. Reuters.
- EAIB, Aircraft Accident Investigation Bureau, Ministry of Transport and Communications (2022). Aircraft accident investigation report, Boeing 737-8 (MAX), ET-AVJ, Ethiopian Airlines flight 302. Addis Abeba, 23 dicembre 2022.
- KNKT, Komite Nasional Keselamatan Transportasi (2019). Aircraft accident investigation report, KNKT.18.10.35.04, PT. Lion Mentari Airlines, Boeing 737-8 (MAX), Lion Air flight 610. Giacarta, 25 ottobre 2019.
- Risko, E. F., Gilbert, S. J. (2016). Cognitive offloading. Trends in Cognitive Sciences, 20(9), 676-688.