Se, come scrive Kant nella Critica della ragion pratica, ai fini di una progettazione tecnologica che tenga in conto la legge morale – o immaginazione, come nella formulazione di B. Friedman e D.G. Hendry in Value sensitive design: Shaping Technology with moral imagination –, ognuno deve agire in modo che la massima che regola la nostra volontà, deve sempre «valere in ogni tempo come principio di una legislazione universale», le sfide, e gli interrogativi, che ci vengono posti oggi dal progresso nel campo della Intelligenza Artificiale e delle nuove tecnologie, necessitano di un nuovo approccio etico capace di rispettare una serie di valori inalienabili.
Oggetti buoni. Per una tecnologia sensibile ai valori (Fandango, 2023) di Steven Umbrello, direttore dell’Institute for Ethics and Emerging Technologies del Connecticut, è un testo di filosofia applicata alla progettazione delle nuove tecnologie come l’AI, l’Industria 4.0, affinché si delinei una visione di insieme in grado di coniugare i diversi modelli di progettazione con l’etica della responsabilità.
L’assunto di base, il presupposto da cui partire per provare a orientarsi nella complessità dei dispositivi tecnologici sempre più invadenti e innovativi, è che le tecnologie incarnano i valori condivisi dei loro creatori e determinano parte dell’insieme delle possibili scelte dei progettisti futuri: «Per noi per esempio sono importanti la privacy, la salute, la sostenibilità, l’efficienza, l’equità, la sicurezza, la responsabilità e trasparenza». Un nuovo approccio è possibile, che tenga conto delle conseguenze per le generazioni future, le quali dovranno farsi carico delle scorie nucleari prodotte dai rifiuti industriali non smaltiti, e dei possibili disastri ambientali che si configurano in virtù del cambiamento climatico in atto. Questa concezione di un futuro più sostenibile, per Umbrello, si chiama Value Sensitive Design (VSD), inteso come design sensibile ai valori morali. L’integrazioni dei valori sociali, come la promozione del benessere di una comunità intera – e non del singolo gruppo industriale di riferimento –, ma nello specifico all’interno del processo di progettazione dei sistemi tecnologici. Affinché questo sia possibile è necessario muoversi all’interno di tre direttrici principali, e queste riguardano la tripartizione delle indagini in empiriche, concettuali e tecniche: gli stakeholders, progettisti diretti e indiretti, sono i gruppi di individui e/o gruppi che interagiscono con il sistema e i suoi effetti possibili. Le indagini empiriche consentono di determinare l’applicabilità delle definizioni operative partendo da un nucleo concettuale di base, e, infine, applicare l’insieme dei risultati raggiunti in un dispositivo che tenga conto di tutto il processo che ha alla sua creazione.
All’interno del testo è possibile riscontrare una serie di esempi di progettazione intelligente, come il Bosco Verticale di Milano: le coppie di torri condominiali gemelle che presentano oltre novecento alberi e undicimila piante, che fornisce uno spazio abitativo verticale e capaci di fornire ossigeno in una città particolarmente inquinata. All’avanguardia, rispetto ai risultati ottenuti sul versante della sostenibilità tecnologica, i Paesi Bassi sono la nazione al primo posto per investimenti: «Gli olandesi hanno progettato e costruito barriere contro le mareggiate e le inondazioni che però non svolgono soltanto questa funzione, in quanto sono anche modi per gestire e valorizzare gli ecosistemi naturali e allo stesso tempo generare l’energia direttamente dalle maree». O ancora, l’esempio del Fairphone: una società, fondata dall’imprenditore olandese Bas van Abel, che mira a fabbricare smartphone sostenibili che riduca al minimo l’impatto ambientale, per rompere il ciclo dello sfruttamento predatorio delle risorse di oro e rame nei paesi africani.
Se siamo messi nella condizione di non poter fare a meno dell’intelligenza artificiale, intesa come strumento impiegato dai sistemi di mercato azionario globale di commercio rapido, passando per le piattaforme dei social media ai nostri smartphone, Umbrello si interroga su «come possiamo progettare tecnologie in sintonia con i valori umani, invece di aspettare che qualcosa vada storto?». I valori guida possono incarnare visioni eticamente incompatibili con gli obiettivi di sviluppo sostenibile delle Nazioni Unite – in tutto diciassette: dalla sconfitta della povertà, al raggiungimento del benessere e della salute, all’istruzione per tutti, contro ogni discriminazione di genere, la riduzione delle disuguaglianze, alla pace e alla giustizia affinché sia garantito per tutti un lavoro dignitoso e un’energia pulita e accessibile –. È il caso dei cavalcavia bassi costruiti a Long Island, New York, all’inizio del ventesimo secolo: progettati intenzionalmente dall’urbanista Robert Moses affinché gli autobus di New York, sulle strade panoramiche di Long Island, non potessero accedere alle sue spiagge incantevoli. L’obiettivo non dichiarato, ma nei fatti comprovato, era impedire ai poveri della città, con particolare riguardo per gli afroamericani, di raggiungere le spiagge, perché dipendevano principalmente dal trasporto pubblico, e in questo modo l’accesso veniva riservato ai bianchi delle case medie e alte.
Partendo da casi come questo è necessario confrontarsi all’interno di una comunità con uno sfondo comune importante, come i casi delle recenti emergenze sanitarie hanno dimostrato. Infatti, partendo dall’ultima epidemia di Sars–CoV–2, Umbrello analizza l’efficienza di alcune app utilizzate per il tracciamento degli individui e limitare il contagio: il Robert Koch Institute (RKI), una struttura di ricerca federale tedesca responsabile per il controllo e la prevenzione delle malattie, ha incoraggiato i cittadini a condividere volontariamente i propri dati sanitari a fini di monitorare, e contenere, la diffusione del virus – attraverso una app chiamata Corona Datenspende –. Le difficoltà che si presentano sono dettate principalmente dalla possibilità di vedere ridotta la propria privacy, in caso di strumentalizzazione delle informazioni personali degli utenti a fini economici o politici. In questo contesto si inserisce il VSD come risposta etica e filosofica: ogni tecnologia, infatti, deve sempre tenere in conto il rispetto dell’autonomia umana, «per limitare l’abdicazione eccessiva del potere decisionale»; deve prevenire ogni danno possibile, e, per questo, garantire l’equità, o giustizia sociale, tra i suoi membri: l’AI deve garantire e creare «effettivamente vantaggi condivisi»; inoltre, ai fini di una comprensione chiara e distinta, per usare una celebre formulazione del metodo scientifico cartesiano, deve essere garantita l’esplicabilità, essere intelligibile è necessario per non cadere vittima di manipolazioni di vario genere, e veicolare un utilizzo responsabile di ogni tecnologia applicata.
In conclusione, i problemi più scottanti sono derivati dalla possibilità per l’AI dell’apprendimento automatico, o del cosiddetto Machine Learning (ML), in quanto questi sistemi presentano una intrinseca opacità, e affinché siano rispettati i valori come la trasparenza, l’esplicabilità e la responsabilità, ogni artefatto deve essere l’incarnazione a priori di questi presupposti etici, proprio per impedire a ogni costo il ripresentarsi di casi simili a quello dei ponti di Moses a Long Island.
Di Omar Suboh
Poetarum Silva 
Una replica a “È possibile progettare un futuro sostenibile? La ricerca di Steven Umbrello (di Omar Suboh)”
Buon giorno,
chiedo l’autorizzazione a pubblicare su Ticonzero http://www.ticonzero.name/ (in precedenza pubblicavo Anna Maria Curci) il testo di Omar Suboh; naturalmente inserirò il link di riferimento a PoetarumSilva
Rimango in attesa, grazie
PierLuigi Albini
"Mi piace""Mi piace"