REDACCIÓN.- Las redes sociales crean experiencias digitales únicas basadas en el comportamiento del usuario. Así, pueden exponer a los jóvenes a contenidos violentos e inapropiados.
En la actualidad digital, la omnipresencia de la personalización algorítmica en nuestras experiencias en línea plantea grandes desafíos para la salud mental, especialmente para niños, niñas y adolescentes.
Desde temprana edad, estos se encuentran inmersos en un entorno digital que no solo moldea sus interacciones sociales y percepciones del mundo, sino que también influye profundamente en su desarrollo emocional y autoestima.
En las redes sociales, los algoritmos seleccionan y muestran contenido que resalta vidas y cuerpos idealizados, estableciendo estándares inalcanzables de éxito y belleza.
Para los niños, niñas y adolescentes, fomentan una constante evaluación de sí mismos en relación con los demás, generando ansiedad y una búsqueda incesante de validación externa.
¿Pero qué consecuencias trae esto en la autoestima y el desarrollo emocional?
Estos estímulos constantes los hacen dudar de sí mismos, de quiénes son, qué es lo importante para sus vidas y los coloca en una pirámide aspiracional cruel.
Los estudios recientes han documentado cómo la exposición prolongada a contenido personalizado contribuye a niveles elevados de ansiedad entre los niños y adolescentes.
La preocupación por obtener “likes” y la validación en línea se convierte en una fuente de estrés emocional, donde la autoestima se vincula estrechamente con la aceptación social virtual.
A través del aprendizaje automático y la minería de datos, los algoritmos de personalización analizan y procesan enormes cantidades de información personal para ofrecer contenido adaptado a los intereses y comportamientos de cada usuario.
Si bien esto promueve una experiencia más relevante y atractiva, también introduce complejidades psicológicas para los niños y niñas en pleno desarrollo.
Los algoritmos de personalización son capaces de procesar grandes volúmenes de información para identificar patrones en nuestro comportamiento en línea.
A partir de estas observaciones, determinan qué contenido mostrarnos, creando así una experiencia digital única y adaptada a cada usuario.
El algoritmo de Tik Tok es un sistema avanzado de inteligencia artificial que personaliza la experiencia del usuario en la plataforma. Funciona seleccionando y demostrando videos en la página “Para ti” de cada usuario, creando un feed único y personalizado basado en sus interacciones y preferencias.
Este sistema tiene en cuenta factores como las interacciones del usuario con la app (videos que le gustan, comentarios, búsquedas), información del video (descripciones, hashtags), y detalles técnicos del dispositivo y red del usuario.
Como en cualquier red social, el comportamiento de cada usuario determina el contenido que la red social le ofrece. Si un niño por curiosidad ve un video por fuera de sus posibilidades de elaboración porque resulta violento es muy probable que contenido similar se le siga ofreciendo.
Es muy común que a los niños y niñas les interesen los challenge (desafíos) y puedan darles “me gusta” porque les parecen divertidos. Así el algoritmo no parará de ofrecer recomendaciones en este sentido y muchos de estos desafíos sabemos que han sido peligrosos y extremos para la infancia.
Los niños y niñas por su curiosidad natural intentan recorrer y conocer el mundo, también de manera virtual. A veces se topan con contenido inapropiado y se quedan mirando. Luego comienzan a ofrecerles contenido cada vez más crudo que los lastima.
El algoritmo le muestra más de lo mismo y el consumo se convierte en una espiral descendente que lo lleva al mismo infierno del horror: violencia sexual, maltrato animal, agresiones de todo tipo, pasan por esa red como si no pasara nada.
El algoritmo no es ético, con lo cual no expulsa las imágenes, sino que lee las descripciones de videos e imágenes y, como todos sabemos, las palabras prohibidas se escriben con signos o se pronuncian de maneras solapadas para pasar la barrera de la prohibición.
Según los especialistas, uno de los impactos más notables es la intensificación de la comparación social.
