Governance umana

Glossario a cura di Domenico NATALE e Videoglossario a cura di Maria Chiara LORENZELLI

La Governance si propone di coordinare la progettazione a priori e la supervisione a posteriori dell’applicazione dell’IA. E’ un tema sentito sia in ambiti di standardizzazione internazionale tecnologica [5.1] sia in ambiti nazionali che prestano attenzione a fattori organizzativi e di coordinamento [5.2]. 
In ogni caso la cultura della Governance fa parte di un atteggiamento culturale che richiede collaborazione, condivisione trasversale integrata di competenze e infrastrutture adeguate. In mancanza di queste difficilmente si ritroverà la Governance in generale e nel mondo dell’IA, che altro non è che una proiezione nel digitale di azioni, comportamenti, regolamentazioni e funzionamenti esistenti nel mondo reale. 
Il verticalismo storico della realizzazione di applicazioni informatiche, dal 1950 ad oggi in tutto il mondo, non ha aiutato a realizzare l’interoperabilità orizzontale dei sistemi e l’interscambio dati in un’ottica inter-amministrativa, necessari per una Governance completa, oculata e trasparente.
Per attuare una Governance non serve solo il rispetto di orientamenti tecnologici e organizzativi, servono anche dati appropriati e pertinenti, relativi ai contenuti che alimentano le applicazioni di Intelligenza artificiale. Così come servono anche dati sintetici per monitorare l’andamento degli sviluppi e delle progettazioni che si sviluppano nella realtà.
Interessante l’osservazione di Benanti in Macchine pensanti: una mappa può essere una copia esatta della realtà? Il virtuale digitale è una mappa del reale, ma semplificata al punto giusto che consente l’orientamento nell’universo, troppo esteso, delle cose. Gli atomi essenziali della mappa sono i dati, rispondenti a criteri di qualità. In un epoca di “infodemia” l’orientamento non è facile, anzi rischia di soccombere tra tante informazioni. I modelli di qualità dei dati possono essere di orientamento e di utile comprensione dei fatti che si intende coordinare.
Ma la preoccupazione latente per una Govenance umana è quella di non lasciare alle macchine, all’automazione, o al cosidetto calcolo automatico, un arbitrio decisionale indipendente dalla persona umana, sia a livello progettuale che operativo. Occorrerebbe instaurare una capacità di regolamentazione dei contenuti che si stanno automatizzando ed una supervisione degli algoritmi di intelligenza artificiale, una sorta di osservatorio “super partes”. Il tema della Governance è sentito anche a livello europeo, quindi tra Stati. In prospettiva si sta discutendo anche di estendere sistemi di qualità che comprendano la possibilità di certificazione della applicazioni di IA partendo da principi etici trasparenti, alla conseguente conformità degli algoritmi, ai test, alla qualità nell’uso reale delle applicazioni secondo i principi etici ispiratori.

Inoltre può rientrare nel tema della Governance anche quella del “comando” diretto dell’uomo rispetto alla macchina in un contesto specifico. Ad esempio una circolarità decisionale nel campo medico-chirurgico farebbe spettare la decisione finale al medico, pur in presenza di sistemi ausiliari di Intelligenza Artificiale: medico, responso IA, decisione del medico, memorizzazione della esperienza. Analogamente in un’ottica “human in the loop” il “comando” potrebbe riguardare molti contesti: giudice-sentenza, professore-studente, pilota-auto, ecc..

________
Riferimenti bibliografici

[5.1] ISO/IEC JTC 1/SC 42/JWG 1 Secretariat: DIN Information Technology — Governance of IT — Governance implications of the use of  Artificial Intelligence by organizations

[5.2] Proposte per una Strategia italiana per l’intelligenza artificiale, Elaborata dal Gruppo di Esperti MISE – Ministro dello sviluppo economico, 2 luglio 2020

[5.3] CEN CENELEC, Focus Group sull’Intelligenza artificiale