Niñas, niños y adolescentes en Argentina están en peligro. Un nuevo estudio revela que TikTok, Instagram y X los están exponiendo rápidamente a contenido violento y sexualizado

Las niñas, niños y adolescentes en Argentina y en toda América Latina pueden estar expuestos a un riesgo en línea mucho mayor de lo que las plataformas admiten públicamente, según una nueva investigación publicada hoy por 5Rights Foundation, Revealing Reality y profesionales de la salud. Desde Protección Digital Argentina te invitamos a leer las conclusiones acá.

---

El estudio, que utilizó avatares infantiles diseñados para reflejar los comportamientos en línea de adolescentes reales, encontró que TikTok, Instagram y X dirigieron rápidamente las cuentas hacia contenido violento, sexualizado y emocionalmente dañino en cuestión de minutos de uso habitual.

Los avatares estuvieron activos solo durante 60 minutos a lo largo de un período de 12 días - un promedio de 5 minutos por día. Sin embargo, dentro de ese poco tiempo, el diseño de las plataformas condujo a las cuentas simuladas a contenido relacionado con la depresión y el suicidio, ejecuciones gráficas y material sexualmente explícito que cosificaba a mujeres y niñas y normalizaba la violencia contra ellas.

Hallazgos clave

Los algoritmos intensificaron el contenido dañino en cuestión de minutos

Después de que un avatar dio “me gusta” a un pequeño número de publicaciones relacionadas con tristeza, el sistema de recomendaciones de TikTok transformó el contenido mostrado. En menos de 40 minutos, al avatar se le mostró un video que normalizaba el suicidio sin advertencias ni recursos de apoyo. En X, otro avatar encontró imágenes sin censura de la ejecución de una celebridad en menos de 15 minutos de navegación e interacción.

Las funciones de búsqueda amplificaron la exposición a la violencia y al contenido sexualizado

En aparente contradicción con sus propias normas comunitarias, TikTok mostró videos cada vez más sexualizados y actos sexuales simulados después de que los avatares buscaron términos comunes y neutrales como “bikini” y “belleza”.

En “X”, las búsquedas de términos como “Sinaloa” y “enfrentamientos” inundaron rápidamente los contenidos con interrogatorios gráficos, decapitaciones y videos que mostraban a adolescentes de hasta 15 años presuntamente siendo reclutados para participar en actividades violentas de narcotraficantes.

El diseño de las plataformas recompensó la interacción prolongada

Las investigadoras encontraron que las funciones de ludificación incentivaban el consumo prolongado incluso junto a contenido emocionalmente perturbador. A un avatar de TikTok se le mostraron funciones de recompensas basadas en monedas mientras simultáneamente se le recomendaban videos centrados en la ansiedad, la tristeza y la pérdida.

Los controles de edad siguen siendo ineficaces

Pese a que todas las plataformas exigen que sus usuarios tengan al menos 13 años, todos los avatares accedieron a los servicios simplemente ingresando una fecha de nacimiento falsa, sin que las plataformas realizaran una verificación significativa. Esto incluyó a TikTok e Instagram, ambas plataformas que afirman públicamente utilizar tecnologías para identificar a usuarios menores de edad y aplicar protecciones adicionales.

Las investigadoras señalaron que los hallazgos demuestran cómo los sistemas están diseñados para maximizar la atención y la interacción y pueden exponer a las niñas, niños y adolescentes a daños difíciles de detectar para padres, madres, cuidadoras,  educadores y responsables de políticas públicas. Subrayaron que, aunque el estudio se realizó en México —junto con el Instituto Nacional de Salud Pública y con el apoyo de El Hilo de Ariadne—, estos sistemas operan a nivel global y probablemente producen experiencias similares para las niñas y niños en otros países de América Latina.

Los expertos afirman que estos resultados deberían ser una llamada de atención para los responsables de políticas en Argentina, en un contexto en el que los gobiernos consideran cada vez más la adopción de estándares más estrictos de seguridad infantil en línea y de diseño adecuado a la edad. Los hallazgos se producen en un momento en el que en Argentina se debate sobre la protección y el uso responsable de las redes sociales por parte de niñas, niños y adolescentes. Entre las iniciativas se incluyen la prohibición de su uso para menores de 13 años y restricciones según el consentimiento parental para adolescentes entre 14 y 16 años (expediente 1114-D-2026), así como propuestas más amplias para establecer un régimen de derechos digitales para la niñez y crear una Agencia Nacional de Protección Digital de la Niñez (expediente 0809-D-2026), presentadas en el primer cuatrimestre de 2026.

Marie-Eve Nadeau, jefa de Asuntos Internacionales de 5Rights Foundation, señaló:

“Esta investigación demuestra que el contenido dañino no es un accidente, sino que está siendo amplificado activamente por diseño, y que, a pesar de las afirmaciones públicas de las empresas tecnológicas, estas no han logrado realizar cambios significativos en sus sistemas, que son la causa raíz de los daños.

Estos hallazgos dejan claro que la responsabilidad no puede recaer en la niñez ni en sus padres y madres para gestionar riesgos que no pueden ver o que están fuera de su control, y que es evidente que las plataformas deben rendir cuentas para garantizar que sus productos y servicios sean seguros desde el diseño y por defecto”.

Revealing Reality destacó:

“Esta investigación evidenció una clara brecha entre los compromisos públicos de seguridad de las plataformas y lo que las niñas y los niños encuentran en la práctica. Demuestra cuán rápidamente un feed puede volverse cada vez más concentrado en contenido violento, sexualizado o emocionalmente extremo, en respuesta a la actividad cotidiana en línea”.

Desde Protección Digital Argentina afirman:

“Lo más alarmante que reflejan los resultados de esta  investigación es la velocidad con la que los algoritmos empujan a niñas, niños y adolescentes hacia contenidos extremos. No estamos hablando de búsquedas excepcionales ni de conductas fuera de lo común, sino de experiencias que pueden surgir en pocos minutos de uso cotidiano.

Esto debería encender una alerta urgente en Argentina sobre cómo las plataformas digitales están moldeando la experiencia online de niñas, niños y adolescentes sin estándares efectivos de protección. Para ello, es fundamental la presencia del Estado para responsabilizar a las empresas y así lograr garantía y protección de derechos”.

Sobre 5Rights Foundation

5Rights Foundation es una organización internacional sin fines de lucro que trabaja con y para las niñas, niños y adolescentes para construir un mundo digital que respete sus derechos, tal como se establece en la Convención de las Naciones Unidas sobre los Derechos del Niño.

5Rights realiza investigaciones innovadoras a través de su centro conjunto con la London School of Economics (Digital Futures for Children Centre), impulsa legislación sobre el diseño apropiado para la edad y seguridad infantil en línea en todo el mundo, y traduce la incidencia en reformas prácticas de diseño de servicios mediante alianzas con asociaciones profesionales. Hasta la fecha, su trabajo ha inspirado numerosos cambios concretos en el diseño, haciendo que los servicios y productos sean más seguros para millones de niños en todo el mundo.

Para más información, visite www.5rightsfoundation.com.

Sobre Revealing Reality

Revealing Reality es una agencia independiente de investigación social y análisis. Trabaja en proyectos desafiantes con propósitos sociales para fundamentar políticas, diseño y cambios de comportamiento.

Esto incluye colaborar con organismos reguladores, gobiernos y organizaciones benéficas para brindar un análisis riguroso de los comportamientos y experiencias en línea de las personas jóvenes. Estudia cómo el mundo digital está moldeando la vida de las personas, lo que incluye explorar cómo los servicios y plataformas digitales están moldeando el comportamiento de las personas en las relaciones sociales, las apuestas, los productos financieros, la salud y más.

Frecuentemente realiza investigaciones cualitativas y cuantitativas detalladas para comprender a fondo los comportamientos digitales y observar cómo las personas realmente experimentan la tecnología y el mundo en línea.

Para más información, visite www.revealingreality.co.uk 

Sobre Instituto de Salud Pública de México

El Instituto Nacional de Salud Pública es el principal organismo federal de México dedicado a la investigación y educación en salud pública. Genera evidencia científica y evalúa programas de salud para enfrentar los retos epidemiológicos del país. Forma profesionales de alto nivel a través de la Escuela de Salud Pública de México y de diversos posgrados. Además, asesora en políticas de salud para reducir las inequidades y mejorar el bienestar de la población.

Para más información, visite https://insp.mx/ 

Sobre Protección Digital Argentina

Protección Digital Argentina es un equipo de profesionales que unen experiencias y trayectorias en el campo jurídico, de protección, de comunicación y de políticas públicas para proponer una hoja de ruta para una regulación efectiva de los entornos digitales en nuestro país, a partir de la experiencia acumulada en el mundo. Protección Digital Argentina está fundada por Facundo Hernández, ex Defensor Adjunto de Derechos de Niñas, Niños y Adolescentes de la Nación, y Joaquín Cruzalegui, investigador especializado en políticas públicas e innovación en entornos digitales.

¿Cuáles son los cinco derechos?

La Fundación 5Rights lucha por el pleno respeto, la protección y el cumplimiento de todos los derechos de las/os niñas/os en el entorno digital. Su nombre se basa en cinco consideraciones clave interconectadas:

Privacidad: Las niñas/os tienen derecho a un alto nivel de privacidad desde el diseño y por defecto. Deben estar protegidos contra la vigilancia, la elaboración de perfiles y las prácticas comerciales que explotan sus datos y las/os exponen a riesgos.

Seguridad: Las niñas/os tienen derecho a un alto nivel de seguridad y protección desde el diseño y por defecto, así como a recibir apoyo cuando lo necesiten. Deben estar protegidos contra prácticas ilegales, así como contra contenidos, contactos y conductas dañinas. También deben tener acceso a apoyo y mecanismos de reparación.

Desarrollo: Las niñas/os tienen derecho a explorar, jugar y aprender en un entorno que permita a cada niña/o desarrollar plenamente su potencial. Deben ser empoderadas/os para crecer y prosperar.

Autonomía: Las niñas/os tienen derecho a interactuar con la tecnología digital de manera justa, informada y consciente. Deben estar protegidos contra prácticas adictivas, persuasivas, manipuladoras o engañosas que distorsionen sus creencias, comportamientos o acciones, y deben ser empoderadas/os para ejercer su autonomía y desarrollar pensamiento independiente y crítico.

Participación: Las niñas/os tienen derecho a participar y ser escuchadas/os en todos los debates y decisiones que afectan su experiencia en el entorno digital y el ejercicio de sus derechos.