I libri che si interrogano su come difendere autonomia, responsabilità e fiducia nell’era dell’influenza permanente. 

Eva fu manipolata dal serpente e mangiò il frutto proibito. Oggi siamo manipolati da supermercati, venditori di automobili, banche e società di investimento, truffatori online e non, dalla politica e dai governi, dai Paesi amici e da quelli nemici, dai social e dall’intelligenza artificiale, che ha reso infinito il potenziale universo dei deep fake. È il momento di replicare quanto hanno fatto negli Stati Uniti Louis Brandeis e Samuel Warren nel 1890 proponendo il diritto alla privacy, e affermare che deve esistere il diritto a non essere manipolati?

A porre l’interrogativo, e a rispondere, è Cass R. Sunstein, fra i pionieri dell’economia comportamentale, in Manipolazione, pubblicato in Italia da Raffaello Cortina Editore. Il libro è uscito in contemporanea con un testo che affronta il problema da una diversa angolatura, e cioè partendo dal concetto di fiducia, fondamentale per valutare l’affidabilità dei soggetti che operano sul web e che possono essere (anche involontariamente) promotori e bersagli di distorsioni e manipolazioni: si tratta de Le 7 regole della fiducia, scritto da Jimmy Wales, imprenditore americano e co-fondatore di Wikipedia, edito in Italia da Garzanti. Da prospettive differenti ci dicono entrambi che diritti e regole sono necessari e urgenti in un mondo troppo spesso opaco, nel quale si diffondono diffidenza e sospetto verso media e Stati, “virus” che minacciano il vivere civile.

Sunstein è professore alla Harvard Law School, dove ha fondato e dirige il programma di studi in Economia comportamentale e politiche pubbliche. Ha collaborato con Daniel Kahneman, psicologo premio Nobel per l’Economia, autore di Pensieri lenti e veloci (Mondadori), libro fra i più importanti in queste discipline che esplorano i comportamenti, i meccanismi del pensiero e i percorsi che costituiscono la base delle nostre valutazioni e scelte in ogni campo. Insieme, Sunstein, Kahneman e l’economista esperto di strategia Olivier Sibony hanno scritto nel 2021 Rumore (pubblicato in Italia da Utet), testo che definisce un difetto del ragionamento umano, il rumore appunto, inteso come la variabilità indesiderata dei giudizi che si manifesta, per esempio, nelle conclusioni differenti alle quali arrivano persone competenti che valutano lo stesso caso e dispongono delle stesse informazioni. Una componente, dunque, degli errori umani che, a differenza dei bias, che sono deviazioni sistematiche, si presentano come giudizi incoerenti e dispersi. Esempio classico: medici che formulano diagnosi differenti sullo stesso paziente.

Come risponde Sunstein alla domanda sul diritto a non essere manipolati? In sostanza che deve esistere, soprattutto oggi, perché viviamo in un’epoca in cui «la manipolazione è onnipresente, specialmente online. Uno dei suoi scopi fondamentali è attirare l’attenzione. Se una società di social media può catturare la vostra attenzione può far pagare qualcosa agli inserzionisti pubblicitari. E gli inserzionisti possono scucirvi un po’ di soldi. I politici vogliono i vostri soldi e i vostri voti, e potrebbero riuscire a manipolarvi e farvi fare quello che vogliono». Catturare l’attenzione è però solo un primo passo: i manipolatori, aiutati spesso o sostituiti dall’intelligenza artificiale, possono far leva su desideri, speranze, punti deboli. «Se sanno qualcosa di voi, possono sapere molto su di voi. Possono riuscire a convincervi ad agire come vorrebbero. Vogliono il vostro denaro, vogliono il vostro tempo». E, possiamo dirlo soprattutto oggi, vogliono anche i cervelli di chi, per varie ragioni, diventa loro bersaglio. «La manipolazione è una minaccia grave alla nostra capacità di esercitare un’azione autonoma».

Il punto centrale è proprio questo, e da qui bisogna partire per definire il diritto a non essere manipolati. Avverte Sunstein: «Specificare un diritto non è mai una faccenda semplice. Deve esserci un diritto morale a non essere manipolati e deve esistere anche un diritto legale. Ma deve essere definito e limitato ai casi più vergognosi, in cui viene inflitto un danno reale. È molto più difficile definire un diritto a non essere manipolati che definire un diritto a non essere ingannati».

Già, ma cosa si intende per manipolazione? Sunstein sostiene che non esiste una definizione unitaria e ne articola diverse possibilità. La migliore ai fini di politica e diritto gli sembra questa: «La manipolazione è una forma di raggiro che mira a incidere sul pensiero o l’azione (o su entrambi) e che non rispetta la capacità di scelta riflessiva e deliberativa della vittima». Parlare di scelta riflessiva comporta una distinzione, che Sunstein, con Kahneman, fa risalire all’esistenza di due sistemi cognitivi: il sistema 1 è veloce, automatico, intuitivo, impulsivo, incline ai bias (errori, pregiudizi) e all’uso di euristiche (scorciatoie mentali), mentre il sistema 2 è più lento, deliberativo, calcolatore e riflessivo. I manipolatori prendono a bersaglio il sistema 1 perché più facile da colpire con efficacia e tendono ad aggirare, deviare, stravolgere il sistema 2. L’azione autonoma viene così compromessa senza che il bersaglio ne sia consapevole.

In letteratura c’è un valido esempio recente di tutto questo. In Wellness, il secondo romanzo dello scrittore americano Nathan Hill, edito da Einaudi, il padre settantenne del protagonista vive una vera “discesa nel Maelström” iscrivendosi a Facebook: incapace di muoversi nel mondo digitale, viene catturato dagli algoritmi che lo “aiutano” a connettersi, postare, rilasciare e attendere like, dialogare in una eco chamber che progressivamente lo manipola e invischia in un mondo sospettoso e complottista. Attraverso messaggi e conferme regolari, raccomandazioni e storie drammatiche, l’algoritmo promuove e premia una specie di palude cognitiva che accoglie e produce dipendenza. Per lui il mondo racchiuso nella camera dell’eco diventa un pilastro emotivo di riferimento. È il racconto straordinariamente efficace di una manipolazione online che Hill documenta con un’ampia bibliografia, in cui spicca per esempio I nove algoritmi che hanno cambiato il futuro (Apogeo) di John MacCormick, matematico e informatico statunitense. Il web può diventare un terreno molto insidioso e perciò gli Stati Uniti nell’agosto 2024 hanno riconosciuto che «gli americani non devono essere oggetto di pratiche online fonte di confusione, manipolazione o ingannevoli».

Una specie di Dichiarazione di indipendenza, la considera Sunstein. Ma se la manipolazione online è probabilmente quella più pervasiva oggi e forse quella più socialmente pericolosa, una proibizione generale non sembra una soluzione né accettabile né efficace: il sistema legale spesso è in grado di trattare menzogne e inganno, ma è molto più in difficoltà nel prendere di mira la manipolazione. L’influenza non è sempre illegittima (un esempio: collocare negli scaffali di un supermercato cibi salutari in posizioni più visibili è un suggerimento che non limita l’autonomia di scelta anche se tenta di condizionarla) e bisogna concentrarsi sui casi più gravi che hanno come conseguenze danni e richiedono davvero una tutela (pubblica o privata).

Più che un diritto generale, perciò, è preferibile ricorrere a norme contro l’inganno e di tutela del consumatore, alla regolazione delle piattaforme digitali, a disposizioni (pubbliche e private) che limitino il “pantano” (la miscela viscosa di oneri e attriti amministrativi, ma anche di algoritmi che, per esempio, rende difficile per i consumatori cancellare un abbonamento o cambiare un prodotto, o per i pazienti prenotare una prestazione o usufruire pienamente di tutele assicurative, o per coloro che si muovono sui social evitare di essere indirizzati verso dipendenze confermative o esiti che “chiedono” loro tempo e denaro), a regole per la protezione della privacy e dei dati, a regole e divieti sui deep fake, a obblighi di trasparenza.

Di serpenti è pieno il mondo, la manipolazione è pericolosa e oltraggiosa anche perché non rispetta le persone ed è una minaccia alla nostra capacità di esercitare un’azione autonoma. Può essere dunque vista come una forma di furto. Le norme sociali dovrebbero opporvisi. E la legge? Anche, nei casi più gravi. Un «divieto totale della manipolazione farebbe un unico fascio di molte forme di condotta (o di cattiva condotta) che la legge non dovrebbe condannare. Il termine è troppo ampio».

Il serpente sarebbe dunque stato “punibile”? Ha sedotto Eva facendo leva sulla sua aspirazione a diventare come Dio mangiando il frutto. Ha esercitato su di lei un’influenza così potente da indurla a cadere in errore, ad ascoltare solo l’impulso. È senz’altro il furto di autonomia decisionale più grave della storia.

Categoria: Cultura
Titolo: Il diritto a non essere manipolati
Autore: Sergio Bocconi, giornalista