Una revisión de Forbes de cientos de retransmisiones de TikTok Live recientes revela cómo espectadores usan regularmente los comentarios para instar a menores a realizar actos que parecen seguir la línea de la pornografía infantil, recompensando a quienes lo hacen con regalos de TikTok, que se pueden canjear por dinero o por descuentos en cuentas de Venmo, PayPal o Cash App.
“Es el equivalente digital de ir por la calle a un club de striptease lleno de jóvenes de 15 años”, dice Leah Plunkett, decana adjunta de la Facultad de Derecho de Harvard y profesora asociada del Centro Berkman Klein para Internet y Sociedad de Harvard, que se dedica a la juventud y los medios.
Imagínese un conjunto local que pone a un grupo de menores en un escenario ante una audiencia adulta en vivo que les está dando dinero activamente para realizar cualquier actividad G, PG o PG-13 que soliciten, explica Plunkett: “Eso sería explotación sexual y es exactamente lo que está pasando en TikTok”.
Las transacciones se realizan en un foro público en línea, abierto a espectadores de casi cualquier parte del planeta. Algunas de las demandas son explícitas, como pedirles a las chicas que se besen, que separen las piernas o que usen el flash de la cámara, y otras más difíciles de detectar, enmascaradas con eufemismos.
Vuelve La llama que llama, en forma de NFTs
Frases como “levanta los brazos” o “toca el techo” suelen dirigen a las chicas con blusas cortas, para que los espectadores puedan ver sus pechos y estómagos. Y muchos simplemente convencen a las chicas para que muestren la lengua y el ombligo. A cambio, las chicas reciben una lluvia de regalos virtuales, como flores, corazones, conos de helado y piruletas, que pueden convertirse en dinero en efectivo.
Cuá es la política de seguridad de la plataforma
Se supone que los usuarios de TikTok de EE UU deben tener al menos 18 años para enviar o recibir regalos (que se pueden convertir en dinero) a través del servicio Live, y los menores de 16 años deben tener prohibido alojar transmisiones en vivo por completo, de acuerdo con las reglas de la compañía.
“TikTok tiene políticas y medidas sólidas para ayudar a proteger la seguridad y el bienestar de los adolescentes”, dice un portavoz de la compañía. Esos incluyen configurar las cuentas de menores de 16 años como "privadas" de forma predeterminada y restringirles el uso de mensajes directos. “Inmediatamente, revocamos el acceso a las funciones si encontramos cuentas que no cumplen con nuestros requisitos de edad”, apunta.
La compañía explica en un correo electrónico que también elimina el contenido que contiene actividades sexuales o peticiones en este sentido, y que tiene una política de tolerancia cero para el material de abuso sexual infantil. Algunas de las cuentas que alojaban retransmisiones vistas por Forbes ya no están activas.
Las preocupaciones del gobierno de EE UU y los reguladores sobre las aplicaciones enfocadas en los jóvenes como TikTok se están intensificando. En su primer discurso sobre el Estado de la Unión en marzo, el presidente Joe Biden pidió a Washington que “responsabilice a las plataformas de redes sociales por el experimento nacional que están realizando con nuestros niños con fines de lucro”.
Aunque TikTok se ha librado de lo peor de las críticas que han llovido sobre Meta, anteriormente Facebook, la aplicación de videos de propiedad china está comenzando a ser objeto de un mayor escrutinio por los peligros que, según los expertos, representa para los menores.
En marzo, un grupo bipartidista de fiscales generales estatales inició una investigación sobre los presuntos daños de TikTok a usuarios menores de edad y, según el Financial Times, el Departamento de Seguridad Nacional está investigando el manejo de material de abuso sexual infantil por parte de la plataforma.
“[Apreciamos] que los fiscales generales del estado se centren en la seguridad de los usuarios más jóvenes”, según un portavoz de TikTok, que aseguró que la empresa está cooperando, aunque TikTok no estaba al tanto de la investigación de Seguridad Nacional. El departamento no respondió a múltiples solicitudes de comentarios de Forbes.
A raíz de una investigación del Congreso sobre cómo Meta e Instagram pueden dañar a niños y adolescentes, impulsada por las revelaciones de un denunciante de Meta el otoño pasado, llevó a un ejecutivo de TikTok a testificar sobre sus propias políticas sobre usuarios menores de edad. Pero más de seis meses después, el Congreso ha avanzado poco en su compromiso de renovar las leyes de privacidad en línea de los niños que tienen décadas de antigüedad. Instagram, propiedad de Meta, se negó a comentar para esta historia.
Una disposición muy disputada de la ley federal llamada Sección 230 de la Ley de Decencia en las Comunicaciones, que protege a las empresas de Internet de la responsabilidad legal por alojar y moderar el contenido que los usuarios publican en sus plataformas, podría proteger a TikTok de gran parte de la actividad que ocurre en TikTok Live.
En los casos en los que las transmisiones en vivo contengan material de abuso sexual infantil o tráfico sexual, se aplicarían las leyes penales federales independientemente de la Sección 230, dice Jeff Kosseff, profesor de derecho de ciberseguridad en la Academia Naval de EE UU y autor de Las veintiséis palabras que crearon el Internet, un libro sobre la Sección 230. Pero gran parte de la actividad cuestionable y los obsequios en TikTok Live no alcanzan esas cosas.
La exfiscal federal Mary Graw Leary dice que “el problema fundamental de la Sección 230 es que permite que las plataformas de redes sociales se salgan con la suya, e incluso moneticen, muchos de los mismos daños que podrían resultar en una demanda por una empresa física, simplemente porque están sucediendo en línea”. “Si hay una plataforma digital, de alguna manera la tratamos de manera diferente”, dijo, “pero la gran ironía es que los daños no son solo los mismos; los daños son peores”.
TikTok, donde los regalos cambian de manos
La popular aplicación de redes sociales conocida por sus alegres videos de rutinas de baile es, debajo de la superficie, una fuente de ingresos, en la que los adultos a menudo envían dinero y regalos a los menores. Los principales expertos legales, policiales y de seguridad infantil explican a Forbes que dicha actividad en las transmisiones en vivo puede permitir que los depredadores preparen objetivos para el abuso y extorsión sexual en línea o fuera de línea, advirtiendo sobre las consecuencias del acceso sin restricciones a los dormitorios y baños de las niñas, donde ocurre la mayor parte de la transmisión.
“Así es como comienza”, dijo John Shehan, vicepresidente del Centro Nacional para Niños Desaparecidos y Explotados, que comparte consejos de compañías tecnológicas sobre sospechas de explotación sexual infantil en sus plataformas con las fuerzas del orden. La conexión inusualmente íntima creada por TikTok Live puede servir como una forma para que los depredadores prueben los límites y establezcan una relación con posibles objetivos a lo largo del tiempo, con el objetivo final de obtener imágenes y videos explícitos o potencialmente encontrarse para tener relaciones sexuales.
La situación puede “pasar rápidamente de imágenes de los pies —ya sea que haya una compensación monetaria o simplemente el hecho de que están dispuestos a tomar esas imágenes— a fuera de la plataforma a otras plataformas u otros entornos donde continúan pidiendo fotografías adicionales, más sexualmente sugerentes, que luego muy rápidamente se convierten en imágenes pornográficas”, dijo. “Y luego, antes de que te des cuenta, es un caso de extorsión sexual”.
Los usuarios de TikTok gastaron más de 2 mil millones de dólares (1,90 mil millones de euros) en la aplicación en 2021, 1 mil millones de dólares (950 millones de euros) más que el año anterior, según la firma de análisis de datos SensorTower. TikTok se ha negado a comentar cuánto de eso se gastó específicamente a través de TikTok Live.
Quienes ven las transmisiones en tiempo real pueden comprar monedas TikTok que pueden usar para comprar y enviar regalos digitales a los anfitriones de las transmisiones en vivo. A su vez, aquellos que «se activan» pueden vincular sus TikTok y sus cuentas bancarias para canjear esos artículos virtuales por dinero real.
TikTok está lejos de ser la única plataforma de redes sociales que permite pagos o regalos virtuales entre usuarios, u ofrecer funciones de transmisión en vivo. Pero su escala y su joven base de usuarios distinguen a TikTok de sus rivales, según el director de tecnología del Observatorio de Internet de Stanford, David Thiel, lo que hace que los problemas de la plataforma con el contenido en vivo y la monetización del mismo sean aún más agudos.
Casi la mitad de los menores en EE UU usan TikTok al menos una vez al día, según descubrió Thorn, una organización sin fines de lucro que lucha contra el abuso sexual infantil, en un estudio de 2020 de niños de 9 a 17 años. En el último trimestre de 2021, TikTok eliminó más de 15 millones de cuentas sospechosas de tener menos de 13 años (la edad requerida para utilizar su plataforma insignia) y casi 86 millones de videos que infringieron sus reglas, según su informe de aplicación más reciente. Casi la mitad de los videos eliminados durante ese período se eliminaron por infracciones de políticas relacionadas con la seguridad de menores.
Snap, Instagram y YouTube, otros destinos populares para niños y adolescentes, también han sido criticados por exponer a los usuarios menores de edad a situaciones peligrosas o insalubres. Snap se ha negado a comentar. Un portavoz de YouTube ha dicho que los usuarios deben tener al menos 13 años, o tener el permiso de los padres o tutores, para usar la plataforma, y señaló a Forbes sus políticas que prohíben las transmisiones en vivo, los videos y los comentarios que explotan o ponen en peligro a los menores. La mayoría de las interacciones potencialmente dañinas que experimentan en línea, incluidas las sexuales, ocurren en esas plataformas y TikTok, según Thorn.
Y estos intercambios a menudo generan material que tal vez nunca desaparezca, ya que las capturas de pantalla y las grabaciones se difunden desde las principales plataformas a través de Internet. La Internet Watch Foundation dice que ha encontrado tesoros de imágenes de abuso sexual infantil de transmisiones en vivo que se redistribuyen en sitios web de terceros.
“Después de eso, se extenderá por todo el mundo”, dice Peter Gentala, asesor legal principal del Centro Nacional sobre Explotación Sexual. En las transmisiones en vivo, ños depredadores pueden «abusar en el momento, capturar la pantalla, luego usar eso para sus propios fines y ganar dinero en Internet, ya sea en la web oscura u otros lugares donde se comercializa abiertamente«.
Lina Nealon, quien dirige los esfuerzos de responsabilidad corporativa del Centro, añade que tener cuentas de la aplicación Venmo, PayPal o Cash en el perfil de TikTok de una persona, como lo hacen muchas mujeres jóvenes en la aplicación, a veces puede ser un indicador de tráfico, lo que sugiere a los compradores que este individuo -o sus materiales sexualmente explícitos- pueden estar a la venta.
TikTok dice que si identifica intentos de llevar a los espectadores de Live a otras plataformas con fines de solicitud sexual, finaliza inmediatamente la retransmisión y toma medidas de cumplimiento en la cuenta del anfitrión.
Quid pro quo adolescente
Apagó las luces y apoyó el teléfono frente a su cuerpo, justo debajo de la barbilla, para que su rostro quedara oculto, y cogió unas tijeras. Muy lentamente, mientras sonaba Ariana Grande y casi 3000 personas la miraban, comenzó a cortar pedazos de su camiseta blanca. Tira a tira, agujero a agujero, con cada corte revelaba más su pecho y su sujetador negro. Los comentaristas clamaban por más y llegaban regalos digitales: un flujo constante de rosas, fuego, café batido y otros premios caricaturescos.
“Si cortas la parte negra, envío 35.000 Monedas TikTok [el equivalente a 400 dólares o 379,86 euros)”, escribió un espectador, instándola a que se cortara el sujetador. Otros: «Pop uno». Ahora los pantalones cortos. «Más midrift yo». «Continua bebé.» “A los 100k, parpadeará”. “Dime a dónde ir para poder darte la atención que realmente estás buscando”.
Aunque 3lla no reveló su edad en Live, los comentaristas supusieron que tenía entre 12 y 18 años. Algunos, enfatizando lo joven que parecía, bromearon diciendo que tenía dos años.
A pesar de las restricciones previstas de TikTok sobre la transmisión en directo y los obsequios para menores, verificar que los usuarios tengan la edad suficiente para usar ciertas aplicaciones o funciones sigue siendo un problema sin resolver en muchas plataformas de redes sociales principales, incluido TikTok.
Madison, una joven de 17 años de Carolina del Sur, explicó a Forbes que algunos de sus amigos menores de edad habían estado ganando 200 dólares (189,93 euros) a la semana con los regalos que han acumulado en sus transmisiones en vivo de TikTok. Aunque todavía no puede recibir obsequios de Live porque se registró usando su edad correcta, Madison le dijo a Forbes que eso no evita los comentarios de «hombres mayores que intentan sexualizar a las niñas» y sus ofertas de dinero.
«¿Podemos ver a la de la camiseta marrón en topless?», preguntó un comentarista a Madison y a su amiga que llevaba una camiseta marrón en un TikTok Live el mes pasado. También se le pidió a Madison que «muestre un poco por favor» y que «pose sobre la cámara». Incluso después de que terminó su Live, algunos espectadores siguieron a Madison a través de Instagram (que ella vinculó a su TikTok) y le ofrecieron pagarle para hablar con ellos.
“Soy menor de edad y no me gusta que los hombres de 40 años me digan eso”, dijo Madison. “Probablementem haya niños mucho más jóvenes que yo en la misma situación”. Madison explicó los diversos eufemismos que usan los comentaristas y añadió que «me tomó un tiempo armar lo que era, pero siento que si una niña tiene 13 años y realmente no sabe lo que eso significa, entonces es como, 'de acuerdo».
Es posible que parte del contenido de Live no cruce la línea y viole las reglas de la plataforma o las leyes estatales y federales, dicen los expertos. Pero advierten que alentar y recompensar financieramente a los menores a través de las corrientes, incluso por hacer cosas que parecen relativamente inocuas, a menudo puede convertirse en situaciones de explotación.
“Una inversión de 10 dólares (9,50 euros) con un niño para un delincuente es un rendimiento fantástico porque es una pequeña cantidad de dinero, hace que el niño haga algo que probablemente normalmente no haría, y luego es cuando sale el palo, es cuando el verdadero comienza la sextorsión”, dice Austin Berrier, un agente especial de Investigaciones de Seguridad Nacional que se especializa en delitos cibernéticos transmitidos en vivo y abuso sexual infantil.
Berrier dice que los padres con los que habla generalmente no están al tanto de lo que sucede en las transmisiones en vivo y que cuando el dinero intercambiado toma la forma de imágenes divertidas, como es el caso de TikTok, hace que lo que realmente sucede sea aún más fácil de perder o descartar. «Con las plataformas donde la monetización es a través de fichas o flores o pequeños emojis estúpidos», dice, «no se le ocurre a un niño, creo, que en realidad les están pagando» y «los padres no se detienen y piensa, 'Está bien, alguien le está pagando a mi hijo para que baile. No, solo reciben pequeñas flores y pequeños corazones”.
Un portavoz de TikTok dijo que la compañía «tiene tolerancia cero con el material de abuso sexual infantil» y «cuando encontramos algún intento de publicar, obtener o distribuir MASI, eliminamos contenido, prohibimos cuentas y dispositivos, informamos de inmediato al NCMEC (National Center for Missing & Exploited Children) e interactuamos con las fuerzas del orden según sea necesario». TikTok dijo que marcó más de 150.000 videos potencialmente infractores al NCMEC el año pasado.
La lucha viva
A pesar del acuerdo en ambos lados de que se debe hacer más para proteger a los niños y adolescentes en línea, los legisladores no podrían estar más politizados sobre cómo las plataformas deben moderar el contenido y cuál es la mejor manera de enmendar o derogar la Sección 230.
A falta de ese consenso, TikTok y otros gigantes tecnológicos se han autorregulado en la moderación de contenido. Pero la industria ha progresado poco en el floreciente espacio de transmisión en vivo.
Las plataformas han demostrado su incapacidad para vigilar los comentarios que fluyen rápidamente debajo de transmisiones en vivo a menudo temporales y luego desaparecen, dice Thiel del Observatorio de Internet de Stanford. Y aunque no es difícil para la IA detectar y prevenir el discurso de odio, los eufemismos y las palabras clave como las que se usan a menudo con las niñas en TikTok Live hacen que la aplicación automatizada en tiempo real sea un desafío mucho mayor, dice.
TikTok ha tomado medidas para dar a los usuarios más control sobre los comentarios que reciben. La compañía anunció este mes que había comenzado a probar una herramienta que permite a los usuarios «no gustar» los comentarios que consideran inapropiados. Los usuarios también pueden desactivar los comentarios para sus transmisiones en vivo, filtrar los comentarios que contienen ciertas palabras y asignar a una persona de confianza para que los ayude a administrar los comentarios de la audiencia.
Ella Brown, estudiante de primer año de la universidad cerca de Kansas City, Missouri, dice que lucha con la avalancha de comentarios en TikTok Live, y que ni siquiera es menor de edad. “Es súper extraño que ni siquiera puedas ir a Live en TikTok sin que los bichos raros intenten sacar fotos de mujeres”, dijo Brown, de 18 años, a Forbes, y agregó que duda de que a los hombres que van a Live se les pida constantemente una “verificación de vestimenta”. Brown recomienda a las menores mantenerse alejadas de TikTok
En solo un TikTok Live el mes pasado, Brown y su compañera de cuarto trajeron a más de 500 extraños a su casa (virtualmente), se les pidió que se reunieran con hombres en persona para jugar al golf. «Viejos» de la edad de su padre. Y se les ofreció como tanto como 50 dólares (47,48 euros) por fotos de sus pies. «No entendí nada». Brown dijo que no aceptaría dinero en efectivo por fotos de sus pies, pero que otros sí lo harían. “20 dólares (18,99 euros) son 20 dólares”, dijo. «Eso son varios cafés a la semana».