9 Novembre 2021

I social utilizzano la rabbia degli utenti per alimentare il sistema

di Eleonora Piergallini

Lo scorso settembre il Wall Street Journal ha pubblicato una serie di documenti, noti con il nome di Facebook Files, che rivelano come Facebook fosse da tempo a conoscenza del pericolo che Instagram rappresenta per gli adolescenti, soprattutto per le ragazze.

A rincarare la dose, alcuni giorni fa, i Facebook Papers, una rivisitazione dei documenti pubblicati dal Wall Street Journal dai quali emergono problematiche ancor più ampie, che peraltro erano note ai dirigenti del social network.

Quando i social usano la rabbia

“Facebook sotto attacco”, così il Washington Post titola una serie di articoli in cui analizza i documenti trapelati grazie a una fonte interna al colosso social, Frances Haugen, ex Facebook product manager, e che sono finiti all’attenzione della U.S. Securities and Exchange Commission, l’ente federale statunitense che ha lo scopo di prevenire truffe finanziarie.

Tra le varie questioni sollevate, i documenti riportano che nel novembre 2018 lo staff del neonato dipartimento di integrità civica di Facebook era entrato in possesso di una ricerca interna dell’azienda che dimostrava come il social network avesse privilegiato la diffusione di notizie, commenti, video e foto che causano reazioni negative tra gli utenti.

“L’indignazione attira l’attenzione”, questa la sintetica conclusione della ricerca finita tra le mani dei membri del dipartimento, uno dei quali ha definito la strategia di facebook un tentativo di “nutrire gli utenti con cibo da fast food”, pur nella consapevolezza delle nefaste conseguenze.

Infatti, secondo i documenti, la società era perfettamente a conoscenza dell’inquietante deriva causata dagli algoritmi e, per di più, avrebbe deciso anche di apportare modifiche con lo scopo di acuire questo fenomeno, favorendo la diffusione di notizie che alimentavano la rabbia degli utenti.

Tutto nasce, si legge in un altro articolo del Washington Post, nel 2017, quando, a seguito di un drastico calo nell’utilizzo del social network, Facebook ha studiato un nuovo modo per coinvolgere i suoi utenti, inserendo cinque “reazioni” (“amore”, “haha”, “wow”, “triste” e “arrabbiato”), che consentivano di interagire con i post in maniera diversa dall’iconico “mi piace”.

I documenti interni rivelano come ci si sia subito resi conto delle potenzialità di queste nuove “reazioni” che, come scrive il  WP, perché “tendono a mantenere gli utenti collegati, e mantenere gli utenti collegati è la chiave del business di Facebook”.

La potenza dell’algoritmo

Contemporaneamente, però, ne sono emerse le criticità. Così il WP: “Dietro le quinte, Facebook ha riprogrammato l’algoritmo che decide cosa le persone vedono nella loro bacheca utilizzando le diverse “reazioni” come metro di giudizio per promuovere contenuti provocatori al fine di mantenere attivi gli utenti”.

Fin da subito, alcuni membri dello staff avevano espresso la loro preoccupazione perché si rischiava di favorire notizie e post dai contenuti spam e tendenzialmente violenti. In particolare, i documenti rivelano che la questione era stata esplicitamente sollevata da uno dei ricercatori di Facebook, al quale è stato risposto che sì, il rischio di favorire post “controversi” effettivamente c’era.

Ma nulla si era fatto per porre argini. Un altro studio interno del 2019 confermava che i post che più scatenavano reazioni di rabbia e tristezza, e dunque che venivano messi in evidenza, erano post con contenuti violenti, falsi e tendenziosi.

Come scrive il WP, “ciò significa che Facebook per tre anni ha sistematicamente privilegiato la diffusione di alcuni dei peggiori contenuti presenti nella sua piattaforma”. Una sorta di rincorsa interna tra la potenza degli algoritmi e i “moderatori” del dipartimento di integrità civica, preposti, a detta dell’azienda, al contenimento di violenza, abusi e fake news.

Infatti, ciò che Frances Haugen ha messo in evidenza durante la sua testimonianza di fronte al Congresso USA dello scorso ottobre è che la vera minaccia rappresentata da Facebook sta proprio nelle modalità di utilizzo e controllo dell’algoritmo che determina il flusso di notizie, un algoritmo in grado di personalizzare i contenuti, di cogliere e manipolare i nostri livelli di attenzione e di influenzare e dirigere le nostre emozioni.

Così sul WP, “All’interno di un social network che conta circa 3 miliardi di utenti, un algoritmo sembra avere più potere sulle persone di un qualsiasi governo o magnate dell’informazione”.

Tuttavia, non bisogna dimenticare che, come ci ricorda Noah Giansiracusa, professore di matematica della Bentley University ed esperto di data analysis intervistato dal WP, “alla fine, in ogni caso, dietro quei numeri c’è sempre un uomo”.

Infatti, “quando gli ingegneri del colosso americano si sono resi conto dei danni che stava causando l’algoritmo, hanno proposto di apportare delle modifiche. Ma le loro proposte sono state respinte”.

Un’inchiesta su Fb o sui social?

“Facebook ha mentito ai governi di tutto il mondo. I documenti provano che l’azienda ha ripetutamente ingannato le autorità e gli utenti su ciò che le ricerche interne mostravano a riguardo dei danni che i social network causano ai ragazzi e sulla scarsa efficienza dei sistemi di intelligenza artificiale. Finché Facebook continuerà ad operare nell’ombra, non dovrà mai rendere conto a nessuno. Finché la legge non cambierà, Facebook non cambierà”.

Qui, però, si arriva a un altro punto critico della vicenda. Finalmente, e dopo anni, si è arrivati a evidenziare le zone d’ombra di Facebook e forse arriverà una legge per tentare di mettere a posto le cose.

L’unico dubbio su quanto sta avvenendo sorge dal fatto che nel mirino è finito solo Facebook, come se tale social sia una variabile impazzita del sistema, mentre certe dinamiche sono proprie di tutti i social (Twitter, ad esempio).

Infatti, gli odiosi haters e i fastidiosi troll, solo per fare un esempio, che creano dipendenza e generano rabbia nella realtà, sono un fenomeno endemico di tutti i social. Un fenomeno al quale non è mai stata prestata l’attenzione del caso (anzi spesso è trattato con malcelata simpatia), mentre è parte di un circuito perverso che serve ad alimentare il sistema,.

il punto della questione è che esiste uno spazio virtuale (che poi tanto virtuale non è dato che interagisce con il reale) che è esclusivo appannaggio di pochi potenti, che lo gestiscono al di fuori di ogni legge.

Urgono correttivi generalizzati, altrimenti tutto questo si ridurrà a ridimensionare o semplicemente a mettere sotto tutela (magari di parte) solo Facebook, con un’operazione che, più che mettere regole al sistema, verrebbe a chiudere spazi di libertà, che, nonostante le derive suddette, il social mette a disposizione dei suoi utenti.

Non dimentichiamo che, quando Twitter censurò Trump durante le presidenziali Usa, la stessa Merkel, non certo un’attivista QAnon, manifestò perplessità sul potere e l’insindacabilità del social…