The Japan Times - Effet "spirale" de l'algorithme de TikTok: Amnesty International saisit l'Arcom

"Amnesty International France a décidé de saisir l'Arcom pour porter plainte dans le cadre du DSA (Digital Services Act, le règlement européen sur les services numériques, ndlr) contre TikTok pour manquement à ses obligations", a déclaré à la presse Katia Roux, chargée de plaidoyer pour Amnesty International France.

D'après les conclusions de l'ONG, des adolescents "manifestant un intérêt pour des contenus relatifs à la tristesse ou à un mal-être psychologique" sont orientés en moins d'une heure vers des "contenus dépressifs".

Après avoir publié en 2023 un rapport sur l'algorithme du réseau social, Amnesty a mené de nouvelles expériences en France.

Ce rapport "apporte de nouvelles preuves de la manière dont TikTok expose les jeunes sur sa plateforme à des contenus qui peuvent être préjudiciables, qui peuvent normaliser, banaliser, voire idéaliser la dépression, l'automutilation ou le suicide", a avancé Mme Roux.

Sollicité par l'AFP, le réseau social a estimé que "sans tenir compte de la façon dont les vraies personnes utilisent TikTok, cette +expérience+ a été conçue pour aboutir à un résultat prédéterminé".

- "Pensées suicidaires" -

L'ONG a créé trois profils factices d'adolescents de 13 ans sur TikTok et fait défiler le fil personnalisé, baptisé "Pour toi", pour visionner pendant plusieurs heures des contenus évoquant "la tristesse ou des problèmes de santé mentale".

"Dans les 15 à 20 minutes après le début de l'expérience, les trois fils contenaient presque exclusivement des vidéos sur la santé mentale, dont jusqu'à la moitié sur des contenus tristes et dépressifs. Sur deux des trois comptes, des vidéos exprimant des pensées suicidaires sont apparues dans les 45 minutes", indique le rapport.

Douze comptes automatisés ont ensuite été créés, en lien avec l'association Algorithmic Transparency Institute, intégrant l'historique des trois premiers comptes.

L'ONG a constaté une amplification des contenus sur la santé mentale, toutefois moins importante que sur les comptes gérés manuellement.

"TikTok n'a pas pris les mesures adéquates pour identifier et prévenir les risques auxquels la plateforme expose les jeunes", a assuré Katia Roux, pointant un non-respect des obligations imposées par le DSA depuis août 2023.

"On espère véritablement que (...) ces nouvelles preuves seront examinées, seront prises en compte pour faire avancer l'enquête ouverte par la Commission européenne", a-t-elle ajouté.

En février 2024, la Commission européenne a ouvert une enquête visant TikTok pour des manquements présumés en matière de protection des mineurs.

TikTok a assuré proposer "de manière proactive une expérience sûre et adaptée à l'âge des adolescents". "Neuf vidéos sur dix qui enfreignent nos règles (sont) supprimées avant même d'être visionnées", a insisté le réseau social.

S.Fujimoto--JT