Ripple Suicide Prevention se enorgullece de anunciar que su herramienta digital de intervención en crisis ha ampliado su protección a YouTube, protegiendo a las personas que buscan contenido de vídeo relacionado con las autolesiones o el suicidio en la versión web de la plataforma.
Por qué es importante
Con más de 2.500 millones de usuarios activos al mes [1] y más de 1.000 millones de horas de vídeo reproducidas a diario en la plataforma, YouTube es el segundo motor de búsqueda y la segunda red social más popular del mundo [2, 3]. Su enorme base de usuarios y su extensa biblioteca de contenidos han hecho de YouTube un punto de encuentro tanto de contenidos útiles como nocivos. En la plataforma se pueden encontrar vídeos que glorifican o detallan las autolesiones y la ideación suicida, lo que supone graves riesgos para las personas vulnerables.
Los vídeos relacionados con el suicidio o las autolesiones son preocupantes, porque estas conductas pueden normalizarse, reforzarse o desinhibirse cuando el mensaje se presenta con efectos visuales [4]. La inclusión de material visual en un mensaje facilita una mayor retención en la memoria, una mayor probabilidad de reaccionar a una llamada a la acción presentada en el mensaje y un mayor compromiso en línea [4].
Limitaciones de YouTube
A pesar de los esfuerzos de YouTube por restringir tanto la presencia de contenido nocivo en la plataforma como el acceso a él, aún queda mucho camino por recorrer.
Al igual que otros motores de búsqueda, YouTube no aborda de forma eficaz los términos de búsqueda «ocultos» o cifrados relacionados con las autolesiones y el suicidio, dejando muchas búsquedas nocivas sin intervención ni apoyo.
Un estudio reciente de Ofcom [5] reveló que las personas tienen seis veces más probabilidades de encontrar contenidos nocivos sobre autolesiones cuando introducen términos de búsqueda deliberadamente ocultos, una práctica habitual en las comunidades en línea. La naturaleza específica y cambiante de estos términos plantea importantes dificultades de detección, ya que los algoritmos buscan ofrecer resultados relevantes pero carecen de información segura y precisa para llenar esos vacíos.
Por el contrario, Ripple incorpora una amplia colección de términos y frases de búsqueda nocivos, basada en la investigación y la inteligencia. Trabaja en colaboración con un consejo asesor con experiencia vivida, otras organizaciones benéficas de prevención del suicidio y organismos gubernamentales de todo el país, para garantizar que la herramienta evolucione y responda a las amenazas emergentes relacionadas con las autolesiones y el suicidio. Además, Ripple permite a los usuarios e investigadores proponer nuevos términos de búsqueda relacionadas con el suicidio y las autolesiones que actualmente no activan la herramienta.
El panel de recursos de crisis de YouTube, activado por búsquedas nocivas, carece de elementos esenciales para una intervención eficaz. El panel ofrece una única opción de apoyo, un número de teléfono de ayuda, por lo que no llega a quienes se sienten incómodos hablando por teléfono pero buscarían ayuda por mensaje de texto o chat web.
Los usuarios no reciben recursos de salud mental para un apoyo continuo, lo que limita el potencial de la intervención para generar un impacto positivo duradero. También faltan elementos que, según las estadísticas, tienen un efecto calmante y ayudan a las personas a hacer una pausa y reflexionar (incluidos ejercicios de respiración, colores reconfortantes e imágenes).
El compromiso de Ripple con la seguridad en línea
Conscientes de estas lagunas críticas, Ripple ha mejorado su herramienta para cubrir las búsquedas en YouTube y ahora ofrece una intervención inmediata a las personas que buscan contenido nocivo en la versión web de la plataforma.
Términos de búsqueda relevantes, experiencia vivida, actualizaciones continuas, diversas opciones de apoyo, ejercicios de respiración, junto con colores, formas e imágenes adecuados, se combinan para ayudar a quienes están desesperados a encontrar un camino hacia la esperanza y la vida.
«Este es otro hito para Ripple Suicide Prevention en nuestros esfuerzos continuos por hacer que internet sea más seguro para todos y por cubrir lagunas críticas en los mecanismos de protección existentes. Aún queda mucho por hacer y seguiremos exigiendo responsabilidades a las empresas tecnológicas sobre cómo operan en línea, buscando la colaboración para mejorar la seguridad de los usuarios y abogando por el cambio en los niveles más altos.»
- Alice Hendy MBE, directora ejecutiva y fundadora, Ripple Suicide Prevention Charity
La protección de Ripple para YouTube se ha activado automáticamente para todos los usuarios de la solución Wi-Fi de Ripple y de la extensión de navegador de Ripple para Google Chrome, Microsoft Edge y Mozilla Firefox. Pronto llegarán las actualizaciones para Safari y Opera, así como otras mejoras importantes de la herramienta.