Ripple Suicide Prevention a le plaisir d’annoncer que son outil numérique d’intervention de crise étend désormais sa protection à YouTube, protégeant les personnes qui recherchent du contenu vidéo lié à l’automutilation ou au suicide sur la version web de la plateforme.
Pourquoi c’est important
Avec plus de 2,5 milliards d'utilisateurs actifs par mois [1] et plus d'un milliard d'heures de vidéo visionnées chaque jour sur la plateforme, YouTube est le deuxième moteur de recherche et le deuxième réseau social le plus populaire au monde [2, 3]. Sa vaste base d'utilisateurs et sa bibliothèque de contenus considérable en ont fait un lieu de prédilection pour les contenus utiles comme préjudiciables. On y trouve des vidéos qui glorifient ou détaillent l'automutilation et les idées suicidaires, ce qui présente de graves risques pour les personnes vulnérables.
Les vidéos liées au suicide ou à l'automutilation sont préoccupantes, car de tels comportements peuvent être banalisés, renforcés ou désinhibés lorsque le message est présenté avec des effets visuels [4]. L'inclusion de contenu visuel dans un message favorise une meilleure rétention en mémoire, une plus grande probabilité de réagir à un appel à l'action présenté dans le message et un engagement en ligne accru [4].
Limites de YouTube
Malgré les efforts de YouTube pour limiter à la fois la présence de contenus préjudiciables sur la plateforme et l’accès à ceux-ci, il reste encore beaucoup à faire.
Comme d'autres moteurs de recherche, YouTube ne traite pas efficacement les termes de recherche « cachés » ou chiffrés liés à l'automutilation et au suicide, laissant de nombreuses recherches préjudiciables sans intervention ni soutien.
Une étude récente d'Ofcom [5] a révélé que les personnes sont six fois plus susceptibles de trouver des contenus préjudiciables sur l'automutilation lorsqu'elles saisissent des termes de recherche délibérément masqués, une pratique courante dans les communautés en ligne. La nature spécifique et évolutive de ces termes rend leur détection très difficile, car les algorithmes cherchent à fournir des résultats pertinents mais manquent d'informations sûres et précises pour combler ces lacunes.
À l'inverse, Ripple intègre une vaste collection de termes et d'expressions de recherche préjudiciables, fondée sur la recherche et le renseignement. Il travaille en collaboration avec un comité consultatif possédant une expérience vécue, d'autres associations de prévention du suicide et des organismes gouvernementaux à l'échelle nationale, afin que l'outil évolue pour répondre aux menaces émergentes liées à l'automutilation et au suicide. De plus, Ripple permet aux utilisateurs et aux chercheurs de proposer de nouveaux termes de recherche liées au suicide et à l’automutilation et qui n’activent actuellement pas l’outil.
Le panneau de ressources de crise de YouTube, activé par des recherches préjudiciables, manque d'éléments essentiels à une intervention efficace. Il ne propose qu'une seule option de soutien, un numéro de téléphone d'assistance, et ne répond donc pas aux besoins des personnes mal à l'aise au téléphone mais prêtes à chercher de l'aide par SMS ou par chat en ligne.
Les utilisateurs ne reçoivent pas de ressources de santé mentale pour un soutien continu, ce qui limite la capacité de l’intervention à produire un impact positif durable. Des éléments dont l’effet apaisant et l’aide à faire une pause et à réfléchir sont statistiquement prouvés (notamment des exercices de respiration, des couleurs réconfortantes et des images) sont également absents.
L'engagement de Ripple en faveur de la sécurité en ligne
Conscient de ces lacunes critiques, Ripple a amélioré son outil pour prendre en charge les recherches sur YouTube et offre désormais une intervention immédiate aux personnes qui recherchent des contenus préjudiciables sur la version web de la plateforme.
Des termes de recherche pertinents, un vécu partagé, des mises à jour continues, diverses options de soutien, des exercices de respiration, ainsi que des couleurs, des formes et des images appropriées, tout cela se combine pour aider les personnes en détresse à trouver un chemin vers l’espoir et la vie.
« Il s’agit d’une nouvelle étape pour Ripple Suicide Prevention dans nos efforts continus pour rendre Internet plus sûr pour tous et combler des lacunes critiques dans les mécanismes de protection existants. Il reste encore beaucoup à faire, et nous continuerons à demander des comptes aux entreprises technologiques sur leur fonctionnement en ligne, à rechercher la collaboration pour renforcer la sécurité des utilisateurs et à plaider pour le changement aux plus hauts niveaux. »
- Alice Hendy MBE, PDG et fondatrice, Ripple Suicide Prevention Charity
La protection de Ripple pour YouTube a été activée automatiquement pour tous les utilisateurs de la solution Wi-Fi Ripple et de l'extension de navigateur Ripple pour Google Chrome, Microsoft Edge et Mozilla Firefox. Les mises à jour pour Safari et Opera suivront prochainement, ainsi que d'autres améliorations importantes de l'outil.