Sì, lo fa: si chiama “Ironies of automation”, ed è stato descritto da un ricercatore britannico:
Bainbridge, Lisanne: “Ironie dell’automazione”. Analisi, Progettazione e Valutazione dei Sistemi Uomo-Macchina 1982. 129-135.
Difinizione ironia dell’automazione:
quando si aggiunge un sistema di controllo a un processo, lo si fa partendo dal presupposto che il sistema di controllo sarà più veloce, affidabile e preciso di un operatore umano. Ma quanto più avanzato è il sistema di controllo tanto più determinante può essere il contributo dell’operatore quando accade qualcosa di imprevisto.
Un’ironia è che gli errori degli sviluppatori di software e hardware possono essere una delle principali fonti di problemi operativi.
Così l’ingegnere lascia che l’operatore svolga compiti che l’ingegnere non riesce a pensare come automatizzare. Questi includono il monitoraggio del corretto funzionamento del sistema di automazione.
Ma in caso contrario, l’operatore potrebbe dover assumere il controllo manuale o chiamare un supervisore più esperto. Tuttavia:
Il controllo manuale richiede abilità di controllo che si degrada molto rapidamente se non ripetute spesso. Maggiore è il grado di automazione e minore è la probabilità che l’operatore lo faccia.
Affinché il supervisore sia in grado di prendere decisioni efficaci, deve comprendere qual era il comportamento passato del sistema, cosa è successo e perché, e quale potrebbe essere la possibile linea di condotta. Questo deve essere fatto rapidamente e in una situazione in cui il supervisore non era preparato a farlo e di solito queste situazioni richiedono un livello molto alto di carico cognitivo.
Inoltre, l’operatore deve sapere quale dovrebbe essere il comportamento corretto del processo. Poiché il sistema informatizzato utilizza molte informazioni per prendere le sue decisioni, non c’è modo che un operatore umano possa verificare in tempo reale che il sistema stia seguendo correttamente le sue regole.
Anche piccole anomalie in sistemi complessi e strettamente accoppiati possono aumentare la gravità delle potenziali conseguenze delle azioni degli operatori. La vigilanza degli operatori si degrada molto rapidamente e le scorciatoie facili non sono efficaci, come chiedere agli operatori di tenere un registro di ciò che osservano e fanno.
I fattori che influenzano positivamente la salute soggettiva degli operatori e la sensazione di realizzazione sono l’elevata coerenza delle informazioni di processo, l’elevata complessità del processo, l’elevata controllabilità del processo, ricchi modelli di attività che gli operatori possono svolgere. D’altro canto, fattori come la rapida dinamica del processo e la scarsa fruibilità dell’interfaccia utente hanno un’influenza negativa.
Una recente revisione mostra che questi problemi sono al centro di molti incidenti avvenuti negli ultimi 3 decenni, nel settore aerospaziale, nelle navi da crociera, nel controllo degli oleodotti:
Strauch, B. (2017). Ironie dell’automazione: ancora irrisolte dopo tutti questi anni. Transazioni IEEE su sistemi uomo-macchina.
