PO 444

progettare 444 • marzo 2022 43 nuovi sistemi sono in grado di collaborare e condividere con l’uomo le sue attività. Questo grazie all’evoluzione dell’hardware e del software che lo gestisce. “Una prima distinzione da fare, che sta alla base di ogni etica delle tecnologie, è il fatto che nell’interazione uomo-robot la macchina funziona, mentre l’uomo vive e prova qual- cosa in questa interazione - spiega Padre PaoloBenanti -. Noi siamo infatti esseri non solo razionali ma anche emotivi, il che fa dell’uomo la parte fragile che può restare ferita anche emotivamente nell’interazione col robot, e va quindi protetta. Entra qui in gioco la user experience, diversa dalla semplice user interface che predispone le funzioni per un utente che deve azionare la macchina, ma che studia, progetta e mini- mizza i possibili effetti negativi che posso- no derivare dall’interazione uomo-robot”. L’esperienza della persona che interagisce con il robot può infatti essere sia positi- va che negativa, e il problema in questa coesistenza si amplifica ulteriormente nel momento in cui i robot acquistano au- tonomia, che a lungo andare influenza e modifica gli stessi nostri comportamenti. In questa chiave, nello spazio di problema- tizzazione della roboetica rientrano anche le piattaforme che oggi raccolgono dati, non solo in fabbrica ma anche e ben più diffusamentedagli smartphone cheusiamo ogni giorno. Accade poi che algoritmi sofi- sticati vengono sviluppati per creare valore dai dati che gli utenti forniscono in cambio di servizi che non pagano. Il problema di natura etica sorge nel momento in cui dalla aggregazione di questi dati gli operatori delle piattaforme estraggono un valore che i dati singolarmente non possiedono, ge- nerando una sorta di capitalismo dei dati. Gli algoritmi traggono quindi dei risultati che portano a decisioni, orientando di fatto i nostri comportamenti. “Ciò avvicina gli algoritmi alle Leggi, che sonodefinite come dei ‘dispositivi fatti da un’istituzione per orientare il comportamento delle persone’ - dice Benanti -. Vi è qui però una tensione tra questa nascente società algoritmica e lo Stato di diritto in cui vorremmo vivere, le cui basi sono la conoscibilità, l’univer- salità e la generalità della Legge. Laddove invece il modo in cui un algoritmo opera nelle piattaforme non è conoscibile - e su questo punto oggi è forte il trend verso una explainable AI -, né è universale il suo funzionamento nel momento in cui profila, e nemmeno generale dato che obbedisce solo ai padroni del server”. Nuova narrazione dei robot Serve quindi un giusto bilanciamento tra le istanze dell’ottimizzazione dei processi e del profitto e il rispetto dei diritti fonda- mentali delle persone. È infatti evidente quanto i robot e le piattaforme con cui interagiamo ogni giorno siano invasivi nelle nostre vite. Se quindi da un lato è necessaria una discussione interdiscipli- nare sullo sviluppo etico della tecnologia, che coinvolga imprese tecnologiche, filo- sofi, psicologi, giuristi e tutte le figure del caso, è però altresì importante avere un atteggiamento positivo e ottimistico verso di essa. “Guardando nelle nostre imprese, Padre Paolo Benanti è docente di teologia morale ed etica delle tecnologie alla Pontificia Università Gregoriana : “La differenza essenziale nell’interazione uomo-robot è che la macchina funziona, l’uomo vive e ha un’esperienza dell’interazione”. Marco Bentivogli è co-fondatore Base Italia : “Serve una nuova narrazione dei robot per far conoscere alla gente la seconda età delle macchine, il cui elemento principale è che i robot oggi possono collaborare al processo con l’uomo”. I PRO TA GO NISTI