EO_507

DIGITAL EXPLAINABLE AI aspetti dei concetti alla base di xAI, mentre per i lettori che desiderano maggiori informazioni sull’argomento sono disponibili i white paper di NXP , azienda produttri- ce di semiconduttori e di PWC , società specializzata nella consulenza gestionale. La figura 1 illustra un approccio olistico proposto da NXP per sviluppare un sistema di intelligenza artificiale etico e affidabile. Per illustrare i requisiti di xAI è utile prendere in conside- razione i due scenari applicativi di seguito descritti. Automotive – controllo di veicoli autonomi: si immagini un passeggero di un taxi. Nel caso il conducente guidasse troppo lentamente, potrebbe chiederne il motivo. Il con- ducente a sua volta potrebbe spiegare che a causa delle basse temperature il fondo stradale è ghiacciato per cui è necessario guidare con estrema attenzione per evitare di perdere il controllo del mezzo. In un taxi a guida auto- noma, ovviamente, non è possibile chiedere all’autista di spiegare le sue decisioni. La decisione di procedere a bassa velocità deriva da diversi sistemi di apprendimento auto- matico interdipendenti (che prendono in considerazione le condizioni ambientali, la trazione e così via) i quali, ope- rando in stretta sinergia tra di loro, hanno tratto la con- clusione che quella a bassa velocità è la modalità di guida più adatta. Altri sistemi presenti su questo veicolo a guida autonoma dovrebbero avere il compito di comunicare in modo sonoro e visivo le ragioni alla base di tale decisione per mantenere il passeggero informato (e rassicurato) du- rante l’intero tragitto. Assistenza sanitaria – diagnosi delle condizioni di un paziente: si consideri un sistema automatizzato il cui obiettivo è ac- celerare l’identificazione di differenti tipologie di malat- tie della pelle. Una fotografia dell’anomalia cutanea di un paziente viene immessa nell’applicazione e il risultato in uscita trasferito a un dermatologo a cui spetta il compito di proporre un adeguato trattamento. Esiste un gran numero di differenti malattie della pelle: alcune sono temporanee, altre invece croniche e altre ancora dolorose. Anche la gravità delle malattie della pelle varia considerevolmente, dalle forme lievi a quelle che mettono in pericolo la vita del paziente. A causa della gamma particolarmente ampia di disturbi, un dermatologo potrebbe valutare l’opportu- nità di compiere ulteriori analisi prima di prescrivere un ciclo di cura. Se l’applicazione dell’intelligenza artificia- le fosse in grado di mostrare la probabilità dell’esattezza della sua diagnosi e gli altri risultati dedotti che hanno ot- tenuti i punteggi più alti, lo specialista potrebbe prendere una decisione con maggior cognizione di causa. Questi due scenari, pur nella loro semplicità, evidenziano i motivi per cui xAI debba essere presa in seria considera- zione. Vi sono molti altri dilemmi, di natura etica e socia- le, da valutare nel momento in cui le tecnologie AI e ML vengono utilizzate da entità che operano nel settore dei servizi finanziario e governativi. Nel momento in cui si progettano sistemi di apprendi- mento automatico, vi sono alcuni aspetti che gli svilup- patori di sistemi embedded dovrebbero valutare, tra cui: • I dati di addestramento forniscono una rappresenta- zione sufficientemente ampia e diversificata dell’ele- mento oggetto di inferenza? • I dati di test prevedono tutti i gruppi di classificazione identificati rappresentati equamente in quantità suf- ficiente? • I risultati che vengono dedotti dall’algoritmo richie- dono una spiegazione? • La rete neurale è in grado di fornire una risposta circa le probabilità dei risultati che sono stati esclusi? • Esistono vincoli di natura legale o normativa relativi ai dati elaborati dall’applicazione di apprendimento automatico? • L’applicazione ML è protetta contro elementi o feno- meni che potrebbero comprometterla? • L’applicazione ML può essere considerata attendibile? Sviluppo di applicazioni di apprendimento automatico Parecchi sviluppatori di sistemi embedded stanno ora la- vorando su progetti che prevedono il ricorso all’apprendi- mento automatico, come mostrato nell’esempio di TinyML citato all’inizio dell’articolo. In ogni caso, il ricorso all’ap- prendimento automatico non è limitato alle piattaforme ubicate alla periferia della rete: i concetti possono essere estesi a installazioni industriali su larga scala. Visione ar- Fig. 1 – L’approccio olistico adottato da NXP per un’intelligenza artificiale etica e affidabile (Fonte: NXP) ELETTRONICA OGGI 507 - GENNAIO/FEBBRAIO 2023 47