Meta, Snap and TikTok join forces to fight suicide

Dans le cadre du programme Thrive (que l'on peut traduire par « s'épanouir ») Meta, TikTok et Snap s'engagent à empêcher la diffusion de contenus incitant au suicide ou à l’automutilation sur leurs plateformes.

Dans le but d'empêcher la diffusion en ligne de contenus suicidaires et d'automutilation, la Mental Health Coalition (MHC), organisation à but non lucratif, a annoncé un nouveau programme baptisé Thrive, visant à encourager les plateformes en ligne à partager des « signaux » pour les posts potentiellement dangereux.

Suicide et automutilation : le programme Thrive, pour identifier rapidement les contenus dangereux

Thrive, qui compte Meta (Instagram, Facebook), Snap et TikTok comme membres fondateurs, repose système de partage de “hashes”. Le programme fournira aux plateformes les moyens d'ajouter des “hashes” (fonction mathématique qui brouille les données pour les rendre illisibles) sur les publications présentant des contenus sur le suicide et l’automutilation ainsi que ceux proposant des défis viraux dangereux. Les “hashes” ne seront liés qu'au contenu, indique le MHC et n'incluront pas d'informations identifiables sur les comptes ou les individus.

Les membres de Thrive pourront regrouper des informations sur le contenu d'automutilation et recevoir des alertes de contenu qui soulève des inquiétudes ou viole leurs politiques, indique le MHC. Dès lors, ils seront en mesure d’évaluer de manière indépendante s’il convient d’agir. Selon Antigone Davis, vice-présidente de la sécurité globale chez Meta, «les défis viraux et les contenus nocifs ne se limitent pas à une seule plateforme. Il est impératif que l’industrie technologique collabore pour empêcher leur propagation. » Meta a contribué à l'infrastructure technique, qui est d'ailleurs la même infrastructure que celle que l'entreprise a fournie au programme de sécurité des enfants Lantern de la Tech Coalition en novembre dernier.

Le directeur de Thrive, Dan Reidenberg, qui est également directeur général du Conseil national pour la prévention du suicide, supervisera les aspects opérationnels, en facilitant et en surveillant les activités de l'organisation. Selon lui : « Le partage de signaux entre les plateformes est une réponse novatrice qui améliore la protection des utilisateurs à l’échelle mondiale. » Les entreprises participantes seront chargées de télécharger, d'examiner et de prendre des mesures concernant tout contenu partagé via Thrive, ainsi que de contribuer à un rapport annuel qui fournira un aperçu de l'impact du programme.

Les réseaux sociaux, responsables d’une crise de la santé mentale

Pour rappel, des études ont commencé à démontrer un lien de causalité entre une utilisation élevée des réseaux sociaux et une diminution du bien-être ou des troubles de l'humeur (dépression, anxiété…). La plupart suggèrent que les grands consommateurs de réseaux sociaux sont beaucoup plus susceptibles d'être déprimés que les utilisateurs légers et de se voir sous un jour « peu flatteur » en particulier en ce qui concerne leur apparence physique.

À ce jour, des centaines de poursuites, dont une récemment intentée par la Ville de New York, accusent les géants de la technologie de contribuer à une crise de santé mentale. Dans une décision historique rendue il y a deux ans, une autorité britannique a déclaré Instagram, propriété de Meta, coupable du suicide d'une jeune fille de 14 ans après qu'elle ait été exposée à du contenu d'automutilation sur la plateforme.

X et Google ne font pas, à ce jour, partie du programme Thrive.

‍

‍