La non neutralità dell’algoritmo

Come le macchine in generale, l’intelligenza artificiale e gli algoritmi in particolare sono in sé al di qua del bene e del male, determinante resta l’uso che se ne fa.


La non neutralità dell’algoritmo Credits: https://www.lastampa.it/rubriche/public-editor/2019/03/05/news/gli-algoritmi-in-redazione-1.33685587

Partiamo dal dato di fatto, dimostrato tecnicamente, che un algoritmoalla base dell'intelligenza artificiale – non può essere obiettivo, in quanto non può che dipendere da chi lo programma, dal proprietario e dai dati che gli sono stati caricati e che deve, sulla base di una logica stabilita dall’uomo fondata su determinati interessi, ordinare [1]. Proprio perciò nessun algoritmo o intelligenza artificiale può e deve sostituire la valutazione finale che non può che essere affidata a un essere umano, o meglio a un collettivo di esseri umani, mentre la valutazione fornita da una macchina potrà al massimo essere uno strumento di supporto di quest’ultima [2]. Anche perché l’algoritmo può azzardare una previsione statistica, ma non può autonomamente prendere decisioni, né assumersene la responsabilità.

Decisioni e responsabilità spettano necessariamente all’uomo che possiede la libertà necessaria ad assumerle e a farsene carico. Tale valutazione e decisione umana soggettiva resta decisiva, ad esempio, per stabilire quanto traffico potrà sostenere un determinato ponte prima di divenire insicuro per le persone che lo attraversano o che ci vivono sotto e, dunque, per scegliere i materiali da usare che lo renderanno solido e stabile, presumibilmente, per un certo arco temporale. La decisione soggettiva non significa arbitraria o casuale, alla sua base in effetti c’è generalmente una certa politica sociale, dei determinati interessi economici, delle posizioni politiche e ideologiche, tutte cose che sono anche alla base della creazione umana di una macchina, intelligenza artificiale o algoritmo, ma che non possono divenire autonome una volta incorporate al loro interno.

Inoltre, in particolare quando trattano dati sensibili gli algoritmi dovrebbero essere di necessità sottoposti periodicamente a un controllo pubblico. Anche se, per non mettere in questione i profitti dei privati e il loro predominio tramite il controllo del funzionamento degli algoritmi, ciò spesso e volentieri non avviene. Così si rischia spesso e volentieri (per i padroni) che gli algoritmi finiscano con il perpetuare forme di discriminazione sociale o semplicemente a coprire gli abituali soprusi e ingiustizie [3]. Così, ad esempio, gli strumenti di riconoscimento facciale commercializzati, che dovrebbero distinguere gli uomini dalle donne, sono molto poco affidabili quando si tratta di riconoscere donne “nere”. In tal modo un dipendente maschio o una donna caucasica sarebbe facilitato nell’ingresso, mentre un’impiegata donna afroamericana sarebbe discriminata. Anche perché i “giudizi” che gli algoritmi formulano sono non solo generalmente dipendenti dall’ideologia dominante, che esprime gli interessi della classe dirigente, ma tendono spesso a riprodurre i pregiudizi generalmente diffusi e accettati.

Proprio perciò, anche da questo punto di vista, diviene necessario il conflitto sociale per poter negoziare sindacalmente o politicamente con chi controlla le valutazioni che sono incorporate – sulla base di opinioni necessariamente soggettive e, quindi, partigiane – negli algoritmi, ossia in sistemi matematici per la previsione statistica a loro volta basata sui Big data che sono stati immessi da esseri umani, dati comunque selezionati su delle direttive imposte dai dirigenti [4]. Tale negoziazione, necessariamente fondata sui rapporti di forza determinati dalla lotta di classe, potrebbe mettere in discussione i contenuti delle valutazioni incorporate negli algoritmi, la modalità in cui sono espresse e cosa è codificato nei dati di training.

La lotta di classe dal basso soltanto può pretendere, una volta accumulate le forze necessarie a modificare i rapporti di forza con i padroni della macchine, dei programmatori e del general intellect, cosa debba essere considerato un successo dall’algoritmo. In caso contrario, a deciderlo resterà l’ideologia dominante al servizio della classe dirigente e questi strumenti non faranno che perpetuare un sistema economico fondato sull’ingiustizia sociale, su irrazionali privilegi e sulla discriminazione dei subalterni. Ad esempio fino a non troppi anni fa negli Usa si progettavano spesso ponti con le arcate basse, per impedire ai mezzi pubblici di raggiungere le spiagge che si volevano riservare ai soli ricchi, generalmente caucasici, escludendo i subalterni e, in particolare, i gruppi sociali maggiormente discriminati, come nel caso specifico gli afroamericani. Questi ultimi, non avendo generalmente il reddito necessario ad acquistare un mezzo di locomozione privato, non potevano avere accesso alle spiagge per quanto pubbliche [5].

Tanto più che la tecnologia, che secondo i neopositivisti risolverebbe progressivamente tutti i problemi del genere umano, non può essere considerata come una scienza che ha, in quanto tale, a che fare con come stanno le cose nella realtà – pur con tutti i limiti connessi al suo modo di procedere induttivo per cui ogni generalizzazione e universalizzazione è sempre a rischio di venir falsificata – in quanto niente può assicurarci che un certo trend determinato statisticamente sui dati del passato debba confermarsi immutato anche in futuro. La tecnologia, in effetti, piuttosto che descrivere come fa la scienza, mira a prescrivere come deve configurarsi il reale affinché i suoi dispositivi abbiano successo. Tale funzione performativa e trasformativa della tecnica sulla realtà avviene sulla base del suo metodo e, quindi, resta decisivo chi lo stabilisce e a quale scopo dal punto di vista economico, sociale, politico e ideologico.

Tornando agli algoritmi, alla base della cosiddetta intelligenza artificiale vi è necessariamente un determinato sistema di valutazione, una certa definizione di successo, il modello attraverso cui si astraggono dei dati piuttosto che altri, il modo in cui i dati selezionati vengono definiti in funzione dell’auto-addestramento del sistema. In tutto ciò evidentemente non vi è nulla di obiettivo, di neutrale, come l’ideologia dominante vorrebbe farci credere, ma vi sono delle decisioni che solo esseri liberi come gli umani possono prendere. D’altra parte a prendere tali decisioni, sino a che la società sarà divisa in classi sociali, non sarà certo la volontà generale, ma i soggetti economici e sociali che hanno il potere, innanzitutto economico, per farlo. In altri termini, nella società capitalistica oggi dominante, i detentori dei mezzi di produzione e riproduzione della forza-lavoro di ingegneri e programmatori, che di fatto assumono tali decisioni, non lo fanno indipendentemente su basi etiche, ma funzionali agli interessi di chi ne controlla la capacità di lavoro [6].

Come è evidente, la stessa presunta superiorità obiettiva di un governo tecnico, su un governo politico democraticamente eletto, dipende, essenzialmente, dal modo di valutare e considerare tale superiorità. Se questa si basa, ad esempio, sulla capacità di limitare la spesa pubblica non destinata ad assicurare il godimento della proprietà privata, sarà riconosciuta superiore da parte di determinate classi sociali e da alcuni partiti politici e ideologici piuttosto che da altri.

Ancora una volta il conflitto di classe, sociale e politico che si era voluto cacciare dalla porta, sulla base della meritocrazia tecnocratica e di metodi di misurazione “oggettivi”, finisce per essere reintrodotta, surrettiziamente, dalla finestra. Così i governi tecnici, in un primo momento accettati dal popolo bue subalterno all’egemonia ideologica della classe dominante, si renderà ben presto conto, sulla propria pelle, di quale sia il criterio meritocratico per selezionare il gruppo dirigente e sarà, ovviamente, il criterio maggiormente funzionale agli interessi della classe dominante e contrario agli obiettivi dei subalterni.

Allo stesso modo, anche gli strumenti tecnologici sono solo apparentemente neutrali, in quanto la questione essenziale resta chi li controlla, li regola e li governa e a quale fine. Come è evidente tale potere è generalmente nelle mani delle classi economicamente dominanti e politicamente dirigenti che in linea di massima tendono a coincidere. Quindi, più che di strumenti puramente tecnici si dovrebbe parlare di sistemi sociotecnici che hanno necessariamente un impatto normativo sulla società. Quest’ultimo, in una società come le attuali divisa in classi, con interessi necessariamente antagonistici, non potrà che divenire funzione del conflitto sociale.

Dunque, tornando agli algoritmi, lungi da essere uno strumento scientifico per misurare obiettivamente la realtà, hanno al contrario una funzione regolativa e normativa, che gli è imposta dal proprietario delle macchine e della forza lavoro necessaria a produrle, programmarle e farle funzionare. Costui, in quanto appartenente alla classe dominante, è generalmente comproprietario dello stesso general intellect sussunto al capitale, come denunciava già Marx un secolo e mezzo fa. In effetti, gli algoritmi con le loro capacità “predittive”, più o meno affidabili, sulla base dei dati del passato che sono in grado di controllare, tendono a regolare normativamente la realtà esterna e, soprattutto, a produrre un contesto che diviene obbligatorio per gli individui che saranno soggetti alla valutazione, secondo i criteri stabiliti da chi controlla i programmatori e il general intellect. Quindi, l’effetto di queste valutazioni e opinioni è quello di istituire surrettiziamente e definire arbitrariamente il futuro che pretendono di anticipare, sulla base del meccanismo delle profezie che tendono ad auto-avverarsi. Un futuro che, essendo principalmente determinabile dalle classi dominanti e dirigenti, non potrà che tendere a perpetuare un modo di produzione fondato su certi rapporti di proprietà, per quanto irrazionali e ingiusti possano essere divenuti.


Note:

[1] Da questo punto di vista, il nome più indicato per quello che noi chiamiamo computer, in quanto subalterni ideologicamente e linguisticamente agli statunitensi, è certamente il francese ordinateur.
[2] Come sappiamo bene quando usiamo un navigatore artificiale. Tanto che le persone sagge si affidano nelle sue mani solo quando non hanno nessuna altra risorsa personale cui ricorrere, o semplicemente quando non hanno voglia di consultare una carta o semplicemente di riflettere su un percorso, o di dover scegliere fra percorsi diversi che hanno tempi di percorrenza generalmente analoghi.
[3] Ad esempio vive proteste ha suscitato recentemente la scelta del ministero dell’istruzione di non rendere pubblico l’algoritmo sulla base del quale erano stati collocati i docenti neoassunti nelle scuole. Tali scelte, che per legge avrebbero dovuto rispettare tutta una serie di criteri, di anzianità, meritocratici etc., divenivano così nei fatti insindacabili.
[4] Per cui l’uomo o meglio gli interessi di certi gruppi sociali restano il fine e sono questi interessi umani, troppo umani che stabiliscono lo scopo della macchina che, per quanto evoluta, resta uno strumento, un mezzo in sé né buono, né cattivo. La macchina non può essere imputata moralmente per le proprie “azioni”, ma solo l’uomo o meglio il gruppo sociale che la usa o la costruisce per uno scopo più o meno etico.
[5] Del resto gli stessi mezzi pubblici, in una società capitalistica, tendono a funzionare bene nei quartieri del blocco sociale dominante e a divenire sempre più scarsi ed inefficaci nelle periferie abitate dai subalterni, talvolta completamente tagliati fuori dai pubblici servizi.
[6] Resta, in effetti, il dato di fatto per cui nella società capitalistica solo apparentemente siamo tutti liberi. In realtà la maggioranza degli essere umani espropriati dei mezzi di produzione e riproduzione della loro forza lavoro e del general intellect e, perciò, generalmente espropriati della maggioranza del proprio tempo e della propria forza lavoro vede la propria libertà costantemente limitata o artificialmente sospesa.

10/11/2019 | Copyleft © Tutto il materiale è liberamente riproducibile ed è richiesta soltanto la menzione della fonte.
Credits: https://www.lastampa.it/rubriche/public-editor/2019/03/05/news/gli-algoritmi-in-redazione-1.33685587

Condividi

L'Autore

Renato Caputo

La città futura

“Sono partigiano, vivo, sento nelle coscienze della mia parte già pulsare l’attività della città futura che la mia parte sta costruendo. E in essa la catena sociale non pesa su pochi, in essa ogni cosa che succede non è dovuta al caso, alla fatalità, ma è intelligente opera dei cittadini. Non c’è in essa nessuno che stia alla finestra a guardare mentre i pochi si sacrificano, si svenano. Vivo, sono partigiano. Perciò odio chi non parteggia, odio gli indifferenti.”

Antonio Gramsci

APPUNTAMENTI

Newsletter

Iscrivi alla nostra newsletter per essere sempre aggiornato sulle notizie.

Contattaci: