AI: Ageismo Indiscriminato

In un breve documento, l’Organizzazione Mondiale della Sanità fa alcune considerazioni su come bilanciare il rapporto tra i benefici indotti dall’Artificial Intelligence e il rischio di ageismo. Ancora una volta, la risposta è nella sostenibilità digitale

Immagine distribuita da Pexels

Il settore dell’Healthcare si serve sempre di più delle tecnologie digitali. L’intelligenza artificiale è una di queste e il suo ruolo sembra diventare sempre più centrale nelle pratiche della salute pubblica e nel campo della medicina. Non bisogna dimenticare però, che è necessario prendere in considerazione anche i rischi e le sfide che nascono dall’applicazione di questa tecnologia. Professionisti del settore sanitario, medici, pazienti e sviluppatori devono saper prendere atto dei bias che possono aumentare il rischio di ageismo. Il report dell’OMS Ageism in Artificial Intelligence for Health – Who policy brief, analizzando le correlazioni tra AI, progettazione, uso e consapevolezza si sta occupando inevitabilmente delle correlazioni tra trasformazione digitale e sostenibilità, guardando alla dimensione sociale.

AA: Ageismo Artificiale

L’intelligenza artificiale nel settore sanitario può essere utilizzata principalmente per prevedere con largo anticipo malattie cardiovascolari e diabete e valutarne i rischi, o per identificare persone affette da tubercolosi. Tutto ciò è possibile grazie all’apprendimento automatico utilizzato per definire e analizzare i dati che vengono raccolti, permettendo a modelli matematici di eseguire e guidare determinati compiti e fare delle previsioni. Questa raccolta ed elaborazione dei dati permette di eseguire un’analisi predittiva della progressione della malattia e dei rischi per la salute anche e soprattutto nelle persone anziane. Nonostante questo però, a differenza di altre tecnologie digitali, l’intelligenza artificiale non rientra tra le gerontecnologie: tutti quegli strumenti e metodi digitali di assistenza domiciliare per anziani. L’AI in realtà può essere utilizzata, ad esempio, nel monitoraggio da remoto per agevolare l’assistenza a lungo termine e nell’analisi e sviluppo di farmaci correlati all’invecchiamento. Il fatto di non inserire questa tecnologia all’interno di questo ambito interdisciplinare rischia di diminuire l’attenzione sull’uso dell’AI rispetto alla fascia di popolazione presa in considerazione, aumentando il rischio di riflettere gli stereotipi basati sull’età delle persone più anziane. Il termine inglese ageism, infatti, indica proprio gli stereotipi, i pregiudizi, le discriminazioni che sorgono nei confronti di chi è in età avanzata.

Questo problema colpisce le persone per tutta la vita e pervade molte istituzioni e settori della società, tra cui la salute e l’assistenza sociale

In questo senso, sebbene le tecnologie di intelligenza artificiale possano essere in grado di migliorare l’assistenza sanitaria per le persone anziane “affrontare l’ageismo è fondamentale per il benessere e i diritti umani”. Si potrebbe parlare – in maniera provocatoria – di “ageismo artificiale” per ricordare che la trasformazione digitale avviene solo quando le tecnologie non introducono o acuiscono le discriminazioni. In realtà non è l’AI in sé ad aumentare questo rischio, motivo per cui l’ageismo, così come qualsiasi altra tendenza discriminatoria nei confronti degli altri, non può essere “artificiale” o meglio lo è in quanto siamo noi essere umani a codificare stereotipi e pregiudizi e a trasferirli all’interno delle tecnologie. Il report dell’OMS, infatti, si focalizza soprattutto sulla progettazione e le modalità d’uso: perché se da un lato l’AI può portare benefici riuscendo a prevenire, grazie a degli algoritmi, ricadute o emergenze, dall’altro il suo utilizzo “potrebbe minare, ad esempio, la qualità dell’assistenza sanitaria, ridurre l’impegno intergenerazionale” limitando l’uso sostenibile dell’intelligenza artificiale “a causa di ipotesi preconcette, spesso imperfette, su come le persone anziane desiderano vivere o interagire con la tecnologia nella loro vita quotidiana”.

La sostenibilità digitale nell’intelligenza artificiale invece ha come obiettivo sociale quello di costruire una società nella quale gli anziani possano vivere al meglio delle loro possibilità massimizzando i benefici delle tecnologie. I big data biomedici sono eticamente e scientificamente importanti ma bisogna agire a livello sistemico per fare in modo che essi non ci portino a vedere una rappresentazione del mondo affine a quella che noi vorremmo fosse il mondo. Spesso infatti, secondo il documento, “i set di dati utilizzati per addestrare i modelli di intelligenza artificiale escludono persone anziane, che sono classificate come ‘minoranza’”; il che è un paradosso se si pensa che questa fascia di persone è quella che più necessita di servizi e assistenza sanitaria. Un programma di supporto decisionale basato su di un sistema che, ad esempio, attribuisce meno valore al salvataggio delle persone anziane e incoraggia l’uso delle risorse a favore di soggetti più giovani non è sostenibile.

È proprio per questo motivo che la definizione del ruolo del digitale nella società deve passare necessariamente da due elementi: la direzione che si può imprimere agli sviluppi delle tecnologie e la retroazione che queste producono su persone, economia e ambiente nel processo di cambiamento sociale generato. Il rapporto dell’Organizzazione Mondiale della Sanità è un chiaro esempio di quanto detto: ragionando su come sono le tecnologie di intelligenza artificiale usate da e per le persone anziane, infatti, si sta anche interrogando su quali siano gli impatti negativi per minimizzarli e su quelli positivi per valorizzarli.

Senza una partecipazione sufficiente all’uso dell’IA, le persone anziane potrebbero non essere pienamente rappresentate nei set di dati utilizzati per addestrare e convalidare algoritmi di intelligenza artificiale, rendendo così le tecnologie meno specifiche per le caratteristiche e le esigenze individuali

Questa mancanza di partecipazione potrebbe anche indicare che le persone anziane sono viste come meno rilevanti per il settore privato che sviluppa e implementa tecnologie digitali, e poiché è la tecnologia che deve essere funzionale all’uomo (all’anziano in questo caso) e non viceversa, bisogna orientarne gli sviluppi affinché possa configurarsi come un vero strumento di sviluppo sostenibile.

Il concetto di sostenibilità digitale emerge nel momento in cui gli autori del report dimostrano un certo livello di consapevolezza e di azione:

“I team di progettazione potrebbero non includere persone anziane o potrebbero non riconoscere pratiche o pregiudizi dell’età che possono essere emulati e introdotti nella tecnologia AI. Tale esclusione è causata dall’ageismo e in particolare dello stereotipo secondo cui le persone anziane sono dimenticanti, più rigide nel pensiero, meno motivate, meno dinamiche delle loro controparti più giovani; fragili, malate, dipendenti e incompetenti.”

Spunti di riflessione e sfide concrete da dover affrontare dimostrano – anche senza parlarne in questi termini – che affinché una tecnologia sia sostenibile deve implicare necessariamente la trasformazione sociale, e non è un caso che si parli di “challenge of governance” che devono stabilire meccanismi in grado di garantire che le persone anziane siano incluse nella supervisione dell’AI, o per lavorare al fine di rendere trasparente il fatto che quest’ultima sia utilizzata per prendere decisioni prima o dopo l’incontro medico-paziente.

Se le persone anziane non sanno che gli algoritmi possono essere utilizzati sempre più per formulare politiche o decisioni sanitarie individuali, potrebbero non riconoscere che tali tecnologie e la loro supervisione, progettazione e utilizzo sono una preoccupazione da affrontare collettivamente

Per far sì che l’intelligenza artificiale sia digitalmente sostenibile per le persone anziane si deve fare appello al cooperativismo tecnologico. Sulla scia del concetto di cooperativismo di piattaforma di Trebor Scholz, gli sviluppatori di AI dovrebbero garantire che questa tecnologia non utilizzi le persone anziane per estrarne valore – prendendole in considerazione solo apparentemente in quanto target principale di riferimento – ma restituendo loro anche un servizio che non li pensi come un gruppo sottorappresentato:

“In un set di dati, quel gruppo potrebbe essere sovracampionato rispetto alle sue dimensioni per garantire che la tecnologia AI fornisca per quella popolazione la stessa qualità dei risultati dei gruppi meglio rappresentati. Gli hub di dati sponsorizzati dal governo dovrebbero garantire che i dati raccolti siano adeguatamente rappresentativi, anche per età”

Inoltre, parlare di cooperative di dati che consentano di stabilire standard etici comuni così da utilizzare i dati in modo vantaggioso, o di un “solido processo etico” richiama nuovamente quella visione sistemica necessaria: investire e coinvolgere la società – dalle università, agli sviluppatori, passando per le relazioni intergenerazionali dimostra, ancora una volta, che sta a noi capire quale vogliamo che sia il futuro che ci aspetta e se questo discrimini o meno gli anziani. Per far ciò dobbiamo saper interpretare la trasformazione digitale come strumento di sostenibilità sociale guidando lo sviluppo e l’applicazione dei sistemi di AI facendo in modo non di “progettare per conto delle persone anziane” ma con le persone anziane, fornendo loro informazioni tecniche sulle conseguenze e i rischi, migliorando il processo decisionale tramite la loro partecipazione.

Infine, non bisogna dimenticare che se la sostenibilità sociale è intesa come la capacità di garantire condizioni di benessere umano equamente distribuite per classi, genere ed età, il fatto che l’uso di una tecnologia non rispetti queste condizioni, non la rende sostenibile e non permette di parlare di un modello di senso. È il caso di dire allora che la sostenibilità digitale – in quanto elemento di supporto – deve fare della tecnologia il “bastone della vecchiaia” atto ad arricchire le tre dimensioni della sostenibilità.

Facebook Comments

LEAVE A REPLY

Please enter your comment!
Please enter your name here