Giuseppe Scuccimarri 
#image_title
Nel momento in cui il suo mondo è andato in frantumi tre anni fa, Stephanie Mistre ha trovato sua figlia di 15 anni, Marie, senza vita nella camera da letto dove è morta per suicidio. “Sono passata dalla luce all’oscurità in una frazione di secondo”, ha detto Mistre, descrivendo il giorno di settembre 2021 che ha segnato l’inizio della sua lotta contro TikTok, l’app video di proprietà cinese che accusa di aver spinto sua figlia verso la disperazione.
Scavando nel telefono di sua figlia dopo la sua morte, Mistre ha scoperto video che promuovevano metodi di suicidio, tutorial e commenti che incoraggiavano gli utenti ad andare oltre i “meri tentativi di suicidio”.
Ha detto che l’algoritmo di TikTok aveva ripetutamente spinto tali contenuti a sua figlia. “È stato un lavaggio del cervello”, ha detto Mistre, che vive a Cassis, vicino a Marsiglia, nel sud della Francia. “Hanno normalizzato la depressione e l’autolesionismo, trasformandola in un contorto senso di appartenenza”.
Ora Mistre e altre sei famiglie stanno facendo causa a TikTok France, accusando la piattaforma di non aver moderato contenuti dannosi e di esporre i bambini a materiale pericoloso per la vita. Su sette famiglie, due hanno subito la perdita di un figlio.
Alla domanda sulla causa, TikTok ha detto che le sue linee guida vietano qualsiasi promozione del suicidio e che impiega 40.000 professionisti della fiducia e della sicurezza in tutto il mondo – centinaia dei quali sono moderatori di lingua francese – per rimuovere post pericolosi. La società ha anche detto che indirizza gli utenti che cercano video relativi al suicidio ai servizi di salute mentale.
Prima di uccidersi, Marie Le Tiec ha fatto diversi video per spiegare la sua decisione, citando varie difficoltà nella sua vita, e ha citato una canzone del gruppo rap emo Suicideboys con sede in Louisiana, che sono popolari su TikTok.
Sua madre sostiene anche che sua figlia è stata ripetutamente vittima di bullismo e molestie a scuola e online. Oltre alla causa, la madre di 51 anni e suo marito hanno presentato una denuncia contro cinque dei compagni di classe di Marie e la sua precedente scuola superiore.
Soprattutto, Mistre incolpa TikTok, dicendo che mettere l’app “nelle mani di un adolescente empatico e sensibile che non sa cosa è reale da ciò che non lo è è come una bomba”. Gli scienziati non hanno stabilito un chiaro legame tra i social media e i problemi di salute mentale o i danni psicologici, ha detto Grégoire Borst, professore di psicologia e neuroscienze cognitive all’Università Paris-Cité.
“È molto difficile mostrare una chiara causa ed effetto in questo settore”, ha detto Borst, citando un importante studio peer-reviewed che ha rilevato che solo lo 0,4% delle differenze nel benessere degli adolescenti potrebbe essere attribuito all’uso dei social media. Inoltre, Borst ha sottolineato che nessuno studio attuale suggerisce che TikTok sia più dannoso delle app rivali come Snapchat, X, Facebook o Instagram.
Mentre la maggior parte degli adolescenti utilizza i social media senza danni significativi, i rischi reali, ha detto Borst, risiedono in quelli che stanno già affrontando sfide come il bullismo o l’instabilità familiare.
“Quando gli adolescenti si sentono già male con se stessi e trascorrono il tempo esposti a immagini distorte o paragoni sociali dannosi”, può peggiorare il loro stato mentale, ha detto Borst.
L’avvocato Laure Boutron-Marmion, che rappresenta le sette famiglie che fanno causa a TikTok, ha detto che il loro caso si basa su “prove estensive”. L’azienda “non può più nascondersi dietro l’affermazione che non è loro responsabilità perché non creano il contenuto”, ha detto Boutron-Marmion.
La causa sostiene che l’algoritmo di TikTok è progettato per intrappolare gli utenti vulnerabili in cicli di disperazione per il profitto e cerca riparazioni per le famiglie. “La loro strategia è insidiosa”, ha detto Mistre. “Agganciono i bambini a contenuti depressivi per mantenerli sulla piattaforma, trasformandoli in redditizi prodotti di re-engagement”.
Boutron-Marmion ha notato che la versione cinese di TikTok, Douyin, presenta controlli dei contenuti molto più severi per i giovani utenti. Include una “modalità giovani” obbligatoria per gli utenti sotto i 14 anni che limita il tempo sullo schermo a 40 minuti al giorno e offre solo contenuti approvati.
“Dimostra che possono moderare i contenuti quando scelgono”, ha detto Boutron-Marmion. “L’assenza di queste salvaguardie qui è significativa”. Un rapporto intitolato “Bambini e schermi”, commissionato dal presidente francese Emmanuel Macron ad aprile e a cui Borst ha contribuito, ha concluso che alcune funzionalità algoritmiche dovrebbero essere considerate che creano dipendenza e vietate da qualsiasi app in Francia.
Il rapporto ha anche chiesto di limitare l’accesso ai social media per i minori di 15 anni in Francia. Nessuna delle due misure è stata adottata.
Anche TikTok, che ha dovuto essere chiuso negli Stati Uniti fino a quando il presidente Donald Trump non ha sospeso il divieto, è stato esaminato a livello globale. Gli Stati Uniti hanno visto sforzi legali simili da parte dei genitori.
Una causa nella contea di Los Angeles accusa Meta e le sue piattaforme Instagram e Facebook, così come Snapchat e TikTok, di progettare prodotti difettosi che causano gravi lesioni. La causa elenca tre adolescenti che si sono suicidati.
In un’altra denuncia, due nazioni tribali accusano le principali società di social media, tra cui il proprietario di YouTube Alphabet, di contribuire agli alti tassi di suicidio tra i giovani nativi. Il CEO di Meta Mark Zuckerberg si è scusato con i genitori che avevano perso figli mentre testimoniavano l’anno scorso al Senato degli Stati Uniti. A dicembre, l’Australia ha emanato una legge rivoluzionaria che vieta gli account sui social media per i bambini sotto i 16 anni.
In Francia, Boutron-Marmion si aspetta che TikTok Limited Technologies, la filiale dell’Unione europea per ByteDance – la società cinese proprietaria di TikTok – risponda alle accuse nel primo trimestre del 2025. Le autorità decideranno in seguito se e quando si svolgerà un processo.
Quando contattato da The Associated Press, TikTok ha detto di non essere stato informato della causa francese, che è stata presentata a novembre. Potrebbero volerci mesi per il sistema giudiziario francese per elaborare la denuncia e per le autorità in Irlanda – sede della sede europea di TikTok – per informare formalmente la società, ha detto Boutron-Marmion.
Invece, un portavoce di Tiktok ha evidenziato le linee guida aziendali che vietano i contenuti che promuovono il suicidio o l’autolesionismo. I critici sostengono che le affermazioni di TikTok sulla moderazione robusta non sono all’altezza. Imran Ahmed, CEO del Center for Countering Digital Hate, ha respinto l’affermazione di TikTok secondo cui oltre il 98,8% dei video dannosi erano stati segnalati e rimossi tra aprile e giugno.
Alla domanda sui punti ciechi dei loro sforzi di moderazione, le piattaforme di social media affermano che gli utenti sono in grado di bypassare il rilevamento utilizzando un linguaggio ambiguo o allusioni al fatto che gli algoritmi faticano a segnalare. Il termine “algospeak” è stato coniato per descrivere tecniche come l’uso di emoji zebra o armadillo per parlare di tagliarsi, o l’emoji della bandiera svizzera come allusione al suicidio.
Tali parole in codice “non sono particolarmente sofisticate”, ha detto Ahmed. “L’unico motivo per cui TikTok non può trovarli quando i ricercatori indipendenti, i giornalisti e altri possono è perché non stanno cercando abbastanza”, ha detto Ahmed. L’organizzazione di Ahmed ha condotto uno studio nel 2022 simulando l’esperienza di una ragazza di 13 anni su TikTok.
“Entro 2,5 minuti, agli account sono stati serviti contenuti di autolesionismo”, ha detto Ahmed. “In otto minuti, hanno visto il contenuto di disturbi alimentari. In media, ogni 39 secondi, l’algoritmo ha spinto materiale dannoso. L’algoritmo sa che il disturbo alimentare e il contenuto di autolesionismo sono particolarmente avvincenti” per le ragazze.
Per Mistre, la lotta è profondamente personale. Seduta nella stanza di sua figlia, dove ha tenuto l’arredamento intatto negli ultimi tre anni, ha detto che i genitori devono essere a conoscenza dei pericoli dei social media. Se avesse saputo del contenuto che veniva inviato a sua figlia, non l’avrebbe mai fatta iscrivere su TikTok, ha detto.
La sua voce si spezza mentre descrive Marie come un’adolescente “solare e divertente” che sognava di diventare un avvocato. “In memoria di Marie, combatterò finché avrò la forza”, ha detto. “I genitori devono conoscere la verità. Dobbiamo confrontarci con queste piattaforme e chiedere responsabilità.”
About The Author
