La qualità in uso nella serie di standard ISO/IEC 25000 [14.1] si aggiunge alla qualità del prodotto/sistema, dei dati e dei servizi IT, definite da appositi modelli alcuni dei quali si stanno adattando alle esigenze di qualità dell’IA [14.2].
Tra i fattori che determinano la qualità nell’uso ha un ruolo importante la fiducia come elemento di soddisfazione percepita dall’utente che prende confidenza col sistema che si comporterà come era atteso, tenendo sempre presente la mitigazione dei rischi economici, sulla vita e l’ambiente.
Tornando alla fiducia (trust, trustworhty, trustworthiness) essa si può verificare se i risultati ottenuti coincidono con i requisiti attesi, esplicitamente dichiarati prima di realizzare il prodotto/sistema, spesso anche facilmente testabili prima di rilasciare il prodotto.
Nel campo dell’Intelligenza artificiale la problematica è più complessa, in quanto l’analisi e la misurazione della fiducia può essere in molti casi valutata solo dopo l’operatività in ambiente reale del prodotto, i cui algoritmi di funzionamento possono mutare autonomamente secondo accomodamenti indotti da fattori esperienziali, già resi tecnicamente e consapevolmente possibili e non determinabili a priori tutti in modo deterministico.
Sarebbe infatti un controsenso parlare della esigenza e utilità di una Intelligenza artificiale realmente operativa per sopperire alle difficoltà di calcolo, comprensione e decisione da parte dell’essere umano, se poi il suo funzionamento fosse del tutto programmabile , oggettivo e prevedibile a priori.
E’ questo aspetto operativo dell’IA che può creare preoccupazioni e portare a rendere essenziale l’indirizzo etico e la governance umana non solo relativamente alla progettazione dei sistemi di IA in domini critici e di interesse sociale, ma anche della qualità delle ricadute nell’uso empirico e dell’influenza sulle condizioni della qualità della vita.
Forse alcune prassi di valutazione e assessment, possibili dopo che i fatti accadono, dovrebbe essere previste esplicitamente nei principi etici e dalla governance umana.
Glossario a cura di Domenico NATALE e Videoglossario a cura di Maria Chiara LORENZELLI
______
Riferimenti bibliografici
[14.1] www.iso25000.it Concetti e misure: qualità del software, dati, servizi e in uso.
[14.2] D. Natale, Orientamenti sul modello di qualità per l’IA, Approfondimenti dell’evento 25-26 settembre 2020 organizzato dall’Università Pontificia Salesiana in Roma https://intelligenzartificiale.unisal.it/orientamenti-sul-modello-di-qualita-dellintelligenza-artificiale/
