Siamo nell’era dell’algocrazia, anche se non ce ne siamo accorti. Cos’è l’algocrazia? È la decisione presa tramite algoritmi (o con la loro assistenza, se vogliamo credere agli eufemismi). E l’algocrazia è cosa buona o cattiva? Come tutti i sistemi umani, dipende da come la metti in pratica.
Ci sono molti modi per decidere: si può imporre la propria opinione, facendo valere la propria forza o posizione; si può discutere fino a raggiungere un compromesso; si possono definire delle regole condivise e basarsi su quelle; ci si può affidare al caso. O ci si può affidare a un’autorità metafisica, assoluta, indiscutibile, e ai suoi sacerdoti, che però segretamente controlliamo, quando addirittura non lo siamo noi.
Per qualcuno, l’uso di un algoritmo ricade in quest’ultima categoria, che offre alcune caratteristiche interessanti:
- la parola algoritmo evoca l’autorità della matematica
- il pubblico non ha idea di cosa significhi in pratica
- l’algoritmo viene quindi percepito come un dato di fatto, quindi neutrale, ed è semplice mantenerne un controllo assoluto.
Le caratteristiche che ho detto permettono, ad esempio, di mascherare una decisione arbitraria dietro l’apparente neutralità e insindacabilità della matematica che, come tutti sanno, non è un’opinione.
Ricordate prima delle ferie, quel tal Governatore delle Marche che riguardo alla scelta sulla collocazione di un ospedale diceva più o meno “se la politica non arriva a un consenso useremo un algoritmo”, come se la scelta e l’uso di un algoritmo non fossero comunque una scelta politica di cui rispondere? Ecco. Quell’algoritmo ha parlato, e ha scelto… l’ipotesi preferita dal Governatore, che da anni cercava di farla digerire alle parti interessate, tutte contrarissime.
Quello che mi interessa oggi però non è la storia dell’ospedale di Pesaro (ma state certi che ci saranno presto novità degne di nota) ma il concetto generale, che è questo: la politica ha scoperto che può nascondersi dietro il software e questo è un male assoluto, perché il software oggi è dovunque.
Quello che un tempo era il diktat della “scienza” economica (come il famoso “tetto del 3%” che oggi sappiamo essere stato una sparata a caso, o le misure di austerità recentemente abiurati dallo stesso FMI) oggi è, con più efficacia e sempre più pervasività, il responso oracolare di un algoritmo costruito non si sa come, non si sa da chi, alimentato con dati di provenienza e validità sconosciute. O meglio noi, il pubblico, i cittadini, coloro che subiranno gli effetti della scelta, non lo sappiamo. Ma chi “deve” sapere sa, eccome.
Non c’è nulla di intrinsecamente sbagliato nell’affidare a un algoritmo a una decisione: si tratta, in fondo, solo di decidere sulla base di determinate regole. Ma è necessario che le regole e l’algoritmo che le formalizza rispondano a tre requisiti:
- essere condivise
- essere accettate da tutti
- essere verificabili
perché chi controlla l’algoritmo controlla la decisione. Gli interessi a favore di un’algocrazia priva di trasparenza, strumento di disuguaglianza e favoritismi anziché di equità e razionalità sono immensi, e la battaglia perché non prevalgano è già cominciata. L’algoritmico è politico.
Facebook Comments