Musk, Zuckerberg e le origini del totalitarismo algoritmico
Ovvero: chi controlla gli algoritmi? Oppure: "What if a tyrant comes to power and no one's able to stop him because the whole thing's kind of funny?"
Ciao, il secondo numero di questa newsletter avrebbe dovuto essere un articolo di alleggerimento, una rubrica che ho intenzione di chiamare ‘Pollice su’. Solo che questa settimana Mark Zuckerberg ha deciso di cambiare completamente le regole di moderazione su Facebook e Instagram. Ci ho fatto un video, ma mi sembrava importante approfondire. E comunque, se vuoi ricevere in posta i prossimi numeri di questa newsletter, puoi iscriverti al pulsante qui sotto.
Elon Musk, se uno ci pensa, ha fatto anche cose buone.
Parlo del nuovo Musk, quello dell’acquisto di Twitter, che ha trasformato in X. Una piattaforma che, nel giro di qualche mese, è diventata un social media con un’identità molto precisa, disegnata intorno agli interessi e agli obiettivi politico-economici del proprio leader.
Ecco, questo nuovo Musk qualcosa di buono l’ha fatta; la fa ogni giorno, in realtà.
Ad esempio ogni volta che posta in modo compulsivo, a colpi di oltre cento pubblicazioni al giorno. Oppure ogni volta che un utente qualunque entra e vede, ogni 2-3 post, il proprietario della baracca che sibila, tra ricondivisioni ed emoji, le proprie opinioni al mondo, alla ricerca di un’attenzione continua. Oppure quando ha chiesto, più di una volta in verità, ai propri ingegneri di sistemare l’algoritmo, per fare in modo che nessuno potesse perdersi i suoi post.
Dov’è il buono? Vi starete giustamente chiedendo.
Ecco, il buono sta in cosa questo atteggiamento ci ricorda, in modo piuttosto feroce: i social media sono sempre stati – e sempre saranno – spazi privati. Al servizio degli interessi economico-politici di gruppi molto ristretti di persone.
Ecco, quali interessi?
Fino a ieri, c’era Zuckerberg. Ovvero uno che a 19 anni ha avuto – o rubato, chissà – un’idea geniale e ha poi dovuto convivere con una lunghissima e implacabile eterogenesi dei fini. Voleva creare un posto per rimorchiare; è finito, inseguendo un guadagno e una crescita sempre maggiori, a influenzare il dibattito pubblico di mezzo mondo.
Ecco, con Zuckerberg ha sempre funzionato tutto in modo piuttosto prevedibile, per quanto pericoloso. Facebook, Instagram e i social media vogliono tenerci più tempo possibile all’interno delle loro piattaforme, mantenendo una relazione più o meno buona con gli stakeholder (governi, istituzioni).
E quindi algoritmi, tossicità, mezzi di qualunque genere per portarci a stare più tempo online. Ma allo stesso tempo, dall’altro lato, tentativi più o meno goffi di accreditarsi come quelli buoni. E quindi più moderazione, fact checking, l’etichetta sui contenuti del Covid-19. Ovvero la coperta corta permanente di provare a tenere buoni i Governi e gli utenti, senza perdere nessuno.
Qualcosa è cambiato. E a certificare il cambiamento è stato proprio Zuckerberg, nel video ormai molto noto in cui annuncia un rilassamento della moderazione dei contenuti su Instagram e Facebook (è questa la notizia più grande, il fact checking in Europa non c’è mai stato). Niente di nuovo, uno potrebbe pensare: cambia il Governo Usa, la piattaforma si adegua. Ed è vero, niente di nuovo. Il proprietario di Meta, in effetti, non è uno che guida; è più uno che legge l’umore nella stanza e si adegua.
Eppure, stavolta c’è una resa culturale, piuttosto netta, nelle parole di Zuckerberg. Quando parla di “libertà d’espressione”, di meno “censura”, riprende le parole, il linguaggio, i temi, di quell’Elon Musk che la scorsa estate avrebbe voluto sfidare in un ridicolo combattimento di MMA.
Musk, alla fine, ha cambiato i social media. Quello lì a cui tutti ridevamo dietro, che immaginavamo sarebbe durato pochi messi alla guida di una piattaforma che sembrava volerlo respingere, aveva un piano.
Lo stiamo vedendo, persi nel diluvio delle informazioni da cui siamo sommersi ogni giorno.
Oppure, nelle vibe da cui siamo sommersi ogni giorno.
C’è un bel pezzo del Guardian che parla della sconfitta dei fatti in favore delle vibe. È una lettura interessante: dice, in sostanza, che quello che conta nella nostra vita algoritmica è come qualcosa ci fa sentire. In altre parole: non è importante che quello che vediamo abbia un valore, quanto piuttosto che contribuisca a costruire delle sensazioni, un’estetica, un mood generale.
Succede per la musica, i film, le serie ma anche per la politica: al centro del consenso c’è sempre più la costruzione di sensazioni, di attitudini, di ondate emotive attorno a temi o personaggi. Nel pezzo, ci sono un paio di contributi di un giornalista, Robin James, che parla di vibe come volgarizzazione dell’algoritmo. Dice:
Una vibe è il modo in cui ci vediamo attraverso gli occhi dell'IA e degli algoritmi. Questi ultimi cercano schemi, gruppi di punti dati che si combinano tra loro. Sui social media, le persone raccolgono immagini diverse e le mettono insieme, in un modo molto simile a come gli algoritmi raggruppano i dati.
Cioè quando vediamo il mondo a partire da vibe, vediamo il mondo come lo vede un algoritmo di raccomandazione: connettiamo punti in modo irrazionale, mettiamo insieme cose apparentemente sconnesse a partire solo dalla stessa sensazione.
Io credo sia una specie di strategia di adattamento a un ecosistema che ci aggredisce di informazioni. Che non possiamo processare, singolarmente: e che, quindi, siamo portati a semplificare in sensazioni, emozioni, in cose un po’ più semplici da comprendere.
Di recente, mi sono imbattuto in un tweet di Alexander Dugin, filosofo russo noto per le sue posizioni nazionaliste e per la promozione dell'eurasiatismo, un'ideologia che sostiene l'integrazione dei paesi dell'ex Unione Sovietica in un'unica entità geopolitica.
Diceva così, più o meno:
Primi passi: Germania - l'AfD urgentemente al potere. Regno Unito - Starmer giù, Farage su. Meloni - lasciarla stare (le sue origini ideologiche sono compatibili con il "Right Woke"). Macron - fuori, Le Pen dentro. Tutto il resto ha poca importanza. È facile da fare. Basta suggerirlo - è ora di andare.
In queste stesse ore, più o meno dall’inizio di quest’anno, Elon Musk sta portando avanti una campagna molto dura nei confronti del neo Primo Ministro britannico Keir Starmer, a partire da una terribile storia di abusi su minori vecchia di alcuni anni. È una campagna martellante, continua: Musk accusa Starmer, direttore della Crown Prosecution Service dal 2008 al 2013, di aver insabbiato lo scandalo. Senza particolari prove a supporto, secondo la stampa inglese e internazionale.
Ne chiede, continuamente, le dimissioni, suggerisce di aprire indagini, chiede al Re di sciogliere il Parlamento. In quello che Musk posta ci sono alcune cose vere, ma non è importante: contano, ancora, le vibe. È una sorta di spettacolo, di intrattenimento continuo: lo stesso Musk, qualche tempo fa, diceva che “il risultato più divertente è il più probabile”.
A margine di questa costruzione di un ambiente, divertente per alcuni e sfavorevole per altri, c’è la politica. Quella politica per cui Musk avrebbe in programma di donare 100 milioni di dollari a Reform UK, il partito di estrema destra guidato da Nigel Farage. Farage che, dopo una discussione con lo stesso Musk, ha in programma di andare in America per scusarsi ed assicurarsi quindi la donazione senza essere sostituito (che è quello che ha chiesto il numero uno di Tesla).
Lo stesso numero uno di Tesla che, lo scorso 9 gennaio, ha ospitato in uno Spazio audio su X Alice Weidel, leader del partito neonazista tedesco AfD.
Ne ho parlato spesso, quando ne ho avuto la possibilità, ma sento di doverlo rifare.
Alla fine dello scorso anno è uscito un bell’articolo di Zadie Smith sulla New York Review of Books. L’autrice di Della bellezza, parla di un libro di Charlotte Beradt, Il Terzo Reich dei Sogni. È un libro particolare: una raccolta di sogni di persone che hanno vissuto durante la dittatura nazista. Sogni diversi, di ogni genere, da muri delle case che scompaiono fino alla difficoltà ad alzare il braccio davanti a un gerarca.
Nell'articolo, Zadie Smith racconta alcuni sogni raccolti da Beradt che riflettono il clima opprimente e la perdita di privacy sotto regimi totalitari. Un sogno in particolare descrive una donna seduta in un palco all'opera, mentre assiste alla sua opera preferita, Il Flauto Magico.
Dopo la battuta “Quello è sicuramente il diavolo”, un gruppo di poliziotti irrompe nella sala e si dirige verso di lei. Hanno scoperto, usando una macchina, che lei aveva pensato a Hitler sentendo la parola “diavolo”. Disperata, cerca aiuto tra gli spettatori, ma tutti la ignorano, fissando il vuoto senza mostrare alcuna emozione. Anche un anziano signore nel palco accanto, che sembra gentile ed elegante, le sputa addosso quando cerca di incrociare il suo sguardo.
Scrive Beradt:
Persone molto diverse hanno tutte trovato lo stesso codice per descrivere un fenomeno nascosto dell'ambiente: l'atmosfera di totale indifferenza creata dalla pressione ambientale, che strangola completamente la sfera pubblica. Quando le è stato chiesto se avesse un'idea di come fosse la macchina per la lettura del pensiero nel suo sogno, la donna ha risposto: "Sì, era elettrica, un labirinto di fili..." Ha elaborato questo simbolo di controllo psicologico e corporeo, di sorveglianza possibile e onnipresente, dell'infiltrazione delle macchine nel corso degli eventi... quindici anni prima che 1984 fosse persino pubblicato.
Tutti i sogni, nota Zadie Smith, sono legati da un filo comune: un inconscio fabbricato dalla propaganda. Una macchina che in tedesco si chiama Gleichschaltung, che in italiano si potrebbe tradurre "sincronizzare", nel senso di imporre una conformità obbligatoria.
Per Smith, è l’algoritmo la Gleichschaltung degli ultimi vent’anni, il più potente strumento di propaganda mai creato. Questi sistemi non solo modellano le informazioni che riceviamo, ma influenzano anche i nostri comportamenti e opinioni, la percezione dell’ambiente in cui ci troviamo. Questo processo conduce a una sorta di auto-imposizione della censura e della conformità, simile a come, nei sogni analizzati da Beradt, le persone si auto-incarceravano linguisticamente per paura del regime.
La conseguenza è un’autosuggestione, in cui le persone non hanno più bisogno di un'autorità per conformarsi; lo fanno da sole, guidate dal desiderio di essere parte di un collettivo illusorio, alimentato dall'algoritmo.
Ecco, nel pezzo, Smith parla di Smith come i movimenti antiprogressisti abbiano compreso rapidamente l'uso degli algoritmi per manipolare le masse. Di come la destra internazionale sia riuscita a utilizzare questi strumenti in modo efficace, per creare un ambiente favorevole a determinati generi di messaggi politici.
Cambio scena, prima della conclusione.
C’è un articolo, uscito qualche tempo fa su Elle, con un titolo che mi ha colpito. “Gli italiani si sentono sempre più soli e infelici”, scrive Carlotta Sisti, che prosegue, citando la scienziata sociale Kelsey Killam:
L’isolamento sociale è lo stato oggettivo dell’essere soli. Al contrario, la solitudine è l’esperienza soggettiva della disconnessione. Ciò significa che potresti stare con altre persone e tuttavia sentirti solo. Perché potrebbe essere? La solitudine può derivare dal non sentirsi visti, compresi o convalidati. Può derivare dal trascorrere del tempo con persone che non condividono i tuoi valori o interessi. Può anche derivare da troppe interazioni superficiali e da connessioni non abbastanza profonde.
L’occasione dell’articolo è la pubblicazione di un report del Censis, La tentazione del tralasciare, che indaga il grado di soddisfazione dei cittadini nei confronti della società in cui vivono. Il report è molto interessante, sia per i dati, che mostrano un alto grado di sfiducia di italiani e italiane verso le comunità che abitano, sia per l’interpretazione che l’istituto di ricerca ne dà. Si legge all’inizio del documento:
Oggi siamo difronte a uno strano paradosso: viviamo in una società decisamente soggettivista, ma con soggetti deboli; fortemente individualista, ma con scarsa forza di affermazione individuale; una società egoista ma composta da ego fragili. Siamo tutti consapevoli della crescente pervasività dell'indifferenza nel mondo: indifferenza verso gli altri, verso l’ambiente (tutti si lamentano, ma poi nessuno vuol rinunciare al suo stile di vita); eppure, quella stessa indifferenza, la stessa che si prova, sembra poi rivolta anche verso sé stesso. Per questo motivo vince sempre più il tralasciare, la rinuncia alla sfida, allo sforzo e alla competizione.
Lasciar perdere, lasciar andare.
C’è un certo nichilismo nell’indifferenza, nell’ironia forzata, nella disillusione totale che ti porta quasi a desiderare che le cose vadano male.
Ne Le origini del totalitarismo, Hannah Arendt distingue tra solitudine ed estraniazione, due stati apparentemente simili ma profondamente diversi. L’estraniazione è un isolamento vissuto in mezzo agli altri, un senso di abbandono in cui manca qualsiasi connessione autentica. È la condizione dell’"uomo eremos", circondato da persone con cui non può comunicare o a cui è esposto in ostilità.
La solitudine, al contrario, è uno stato scelto, che permette il dialogo interiore e la riflessione. È la condizione del "due-in-uno", in cui l’uomo può essere "insieme con sé stesso". Tuttavia, se l’isolamento diventa totale e si perde il contatto con il proprio io, la solitudine rischia di trasformarsi in estraniazione.
La differenza cruciale sta nel rapporto con il mondo esterno: l’estraniazione porta alla perdita di sé e della realtà condivisa; la solitudine autentica prepara all’interazione sociale e alla costruzione dell’identità, che si conferma solo nella relazione con gli altri.
Per Arendt, l’estraniazione è una delle condizioni che favoriscono l’emergere di totalitarismi. Il dominio totalitario, che annienta spazi individuali e creativi, trasforma l’estraniazione in una condizione permanente. La dialettica del totalitarismo – "la freddezza glaciale del ragionamento" – riduce l’individuo a un ingranaggio privo di pensiero critico; lo adatta a un sistema che abolisce la pluralità e comprime l’umanità in un’identità uniforme e intercambiabile.
Oppure, in una serie di vibe, di stati emotivi manipolati da algoritmi e da chi quegli algoritmi controlla, in modo sempre più netto ed evidente.
Provo a concludere.
I social media, nel corso di alcuni anni, hanno creato un ecosistema pubblico appeso a sollevazioni emotive continue, a scoppi di rabbia e risentimento, a conflitti irrisolvibili. Lo hanno fatto favorendo un processo di erosione della collettività, attraverso algoritmi e interfacce che danno l’illusione di avere il mondo davanti agli occhi, continuamente. Un mondo gamificato, costruito a partire da esigenze economiche di una manciata di aziende dell’Ovest degli Stati Uniti.
Ora, quelle esigenze non sono più solo economiche: sono anche politiche. E quegli algoritmi, quell’incredibile sistema di manipolazione emotiva, sono al servizio di un’agenda, che rischia di cambiare in modo molto netto il mondo per come l’abbiamo conosciuto. Del resto, il terreno fertile affinché questo potesse succedere è già stato costruito, con la collaborazione di quelle stesse piattaforme.
Non sono bravo con le soluzioni. E non sono sicuro che star fuori dai social network sia una delle cose da fare, seppur ammetta il bisogno quasi fisico di starci meno e meglio, coltivando il più possibile un’attenzione in grado di andare oltre le vibe.
Detto questo, parlarne, riconoscere una strategia che ci vuole vittime di un piano che si manifesta ogni giorno davanti ai nostri occhi, mi pare il primo passo.
E questo è il secondo numero di Turisti della realtà. Torno presto, stavolta davvero con una rubrica che ho deciso di chiamare Pollice su, una specie di sessione di scrolling ragionata. Se ti è piaciuto l’articolo, puoi condividere la newsletter dal bottone qui sotto, iscriverti da quello ancora più sotto, scrivermi o seguirmi qui.
Questa NL è stata la cosa più bella della giornata, grazie <3