Una adolescente fue explotada sexualmente en Snapchat y ahora se enfrenta a la tecnología ante la justicia en EEUU
Una nueva historia de abuso sexual a menores de edad a través de las redes sociales reabrió el debate sobre la responsabilidad de las empresas para evitar este tipo de delitos
Ahora, a los 16 años, encabeza una demanda colectiva contra una aplicación que se ha convertido en un pilar de la vida de los adolescentes estadounidenses, alegando que sus diseñadores no han hecho casi nada para evitar la explotación sexual de niñas como ella.
Su caso contra Snapchat revela una inquietante historia de vergüenza y abuso dentro de una aplicación de mensajes de video que durante años pasó desapercibida para los legisladores, incluso cuando superó los 300 millones de usuarios activos y se ganó la reputación de ser un espacio seguro para que los jóvenes intercambien sus imágenes y pensamientos más íntimos.
Pero también plantea preguntas difíciles sobre la privacidad y la seguridad, y arroja una dura luz sobre los gigantes más grandes de la industria tecnológica, argumentando que los sistemas de los que dependen para erradicar las imágenes sexualmente abusivas de los niños tienen fallas fatales.
“No hay un niño en el mundo que no tenga esta aplicación”, dijo la madre de la niña a The Washington Post, “y sin embargo, un adulto puede mantener correspondencia con ellos, manipularlos, en el transcurso de muchos años, y la empresa no hace nada. ¿Cómo sucede eso?”
En la demanda, presentada el lunes en un tribunal federal de California, la niña, que solicita el anonimato como víctima de abuso sexual y se menciona solo como LW, y su madre acusan a Snapchat de fallar negligentemente al diseñar una plataforma que pudiera proteger a sus usuarios de “atroces abusos”. dañar.”
El hombre, un infante de marina en servicio activo que fue condenado el año pasado por cargos relacionados con pornografía infantil y abuso sexual en un tribunal militar, guardó sus fotos y videos de Snapchat y los compartió con otras personas en la Web, encontró una investigación criminal.
La empresa matriz de Snapchat, Snap, ha defendido que las características principales de su aplicación de mensajes autoborrables y chats de video instantáneos ayudan a los jóvenes a hablar abiertamente sobre partes importantes de sus vidas.
En un comunicado a The Post, la compañía dijo que emplea “las últimas tecnologías” y desarrolla su propio software “para ayudarnos a encontrar y eliminar contenido que explota o abusa de menores”.
“Si bien no podemos comentar sobre litigios activos, esto es trágico y nos alegra que el perpetrador haya sido capturado y condenado”, dijo la portavoz de Snap, Rachel Racusen. “Nada es más importante para nosotros que la seguridad de nuestra comunidad”.
Fundada en 2011, la compañía de Santa Mónica, California, les dijo a los inversionistas el mes pasado que ahora tiene 100 millones de usuarios activos diarios en América del Norte, más del doble de los seguidores de Twitter en los Estados Unidos, y que es utilizado por el 90% de los residentes de los EEUU de 13 a 24 años, un grupo al que denominó “Generación Snapchat”.
Por cada usuario en América del Norte, dijo la compañía, recibió alrededor de 31 dólares en ingresos por publicidad el año pasado. Ahora con un valor de casi 50 mil millones de dólares, la compañía pública ha ampliado sus ofertas para incluir gafas de cámara de realidad aumentada y drones para selfies que vuelan automáticamente.
Pero la demanda compara a Snapchat con un producto defectuoso y dice que se ha centrado más en las innovaciones para captar la atención de los niños que en las herramientas efectivas para mantenerlos seguros.
La aplicación se basa en “un enfoque intrínsecamente reactivo que espera hasta que un niño es dañado y coloca la carga sobre el niño para que denuncie voluntariamente su propio abuso”, escribieron los abogados de la niña. “Estas herramientas y políticas son más efectivas para hacer que estas empresas sean más ricas que para proteger a los niños y adolescentes que las usan”.
Apple y Google también figuran como demandados en el caso por su papel en el alojamiento de una aplicación, Chitter, que el hombre había usado para distribuir las imágenes de la niña. Ambas compañías dijeron que retiraron la aplicación el miércoles de sus tiendas luego de las preguntas de The Post.
El portavoz de Apple, Fred Sainz, dijo en un comunicado que la aplicación había violado repetidamente las reglas de Apple sobre la “moderación adecuada de todo el contenido generado por el usuario”. El portavoz de Google, José Castañeda, dijo que la empresa está “profundamente comprometida con la lucha contra la explotación sexual infantil en línea” y ha invertido en técnicas para encontrar y eliminar contenido abusivo. Los desarrolladores de Chitter no respondieron a las solicitudes de comentarios.
La demanda busca al menos 5 millones de dólares en daños y garantías de que Snap invertirá más en protección. Pero podría enviar un efecto dominó no solo a Silicon Valley sino también a Washington, al denunciar cómo los fracasos de los legisladores federales para aprobar la regulación tecnológica han dejado a la industria bajo la vigilancia de sí misma.
“No podemos esperar que las mismas empresas que se benefician de que los niños sufran daños vayan y los protejan”, dijo Juyoun Han, el abogado de la niña, en un comunicado. “Para eso está la ley”.
Brian Levine, profesor de la Universidad de Massachusetts en Amherst que estudia la seguridad en línea de los niños y el análisis forense digital y no está involucrado en el litigio, dijo que el desafío legal se suma a la evidencia de que la falta de regulación tecnológica del país ha dejado a los jóvenes en riesgo.
“¿Cómo es que todos los fabricantes de automóviles y todas las demás industrias tienen regulaciones para la seguridad de los niños, y una de las industrias más importantes de Estados Unidos no tiene casi nada?” dijo Levine.
“La explotación da como resultado una victimización de por vida para estos niños”, y está siendo fomentada en plataformas en línea desarrolladas por “los que son esencialmente los fabricantes de juguetes más grandes del mundo, Apple y Google”, agregó. “Están ganando dinero con estas aplicaciones y operan como propietarios ausentes... Después de cierto punto, ¿no tienen alguna responsabilidad?”
UN ANTIFACEBOOK
Mientras que la mayoría de las redes sociales se enfocan en una fuente central, Snapchat gira en torno a la bandeja de entrada de un usuario de “instantáneas” privadas: las fotos y videos que intercambian con amigos, cada uno de los cuales se autodestruye después de ser visto.
El concepto simple de mensajes que desaparecen se ha celebrado como una especie de anti-Facebook, creando un refugio de bajo riesgo donde cualquiera puede expresarse tan libremente como quiera sin preocuparse por cómo podrían reaccionar los demás.
Snapchat, en sus primeros años, a menudo se ridiculizaba como una “aplicación de sexting”, y para algunos usuarios la etiqueta todavía encaja. Pero su popularidad también lo ha consolidado como una parte más ampliamente aceptada de la adolescencia digital: un lugar para bromear, coquetear, organizarse y superar las alegrías y las incomodidades de la vida adolescente.
En los primeros tres meses de este año, Snapchat fue la séptima aplicación más descargada del mundo, instalada el doble de veces que Amazon, Netflix, Twitter o YouTube, según muestran las estimaciones de la firma de análisis Sensor Tower. Jennifer Stout, vicepresidenta de políticas públicas globales de Snap, dijo a un panel del Senado el año pasado que Snapchat era un “antídoto” para las principales redes sociales y su “alimentación interminable de contenido no examinado”.
Las fotos, videos y mensajes de Snapchat están diseñados para desaparecer automáticamente una vez que el destinatario los ve o después de 24 horas. Pero la cultura despreocupada de Snapchat ha generado temores de que sea demasiado fácil para los jóvenes compartir imágenes de las que algún día puedan arrepentirse.
Snapchat permite a los destinatarios guardar algunas fotos o videos dentro de la aplicación, y notifica al remitente si un destinatario intenta capturar una foto o video marcado para autoeliminación. Pero las soluciones alternativas de terceros son rampantes, lo que permite a los destinatarios capturarlos sin ser detectados.
A los grupos de padres también les preocupa que la aplicación atraiga a adultos que buscan aprovecharse de una audiencia más joven. Snap ha dicho que tiene en cuenta “las sensibilidades y consideraciones únicas de los menores” al desarrollar la aplicación, que ahora prohíbe a los usuarios menores de 18 años publicar en lugares como Snap Maps y limita la frecuencia con la que los niños y adolescentes se muestran como “Quick Add”, sugerencias de amigos en las cuentas de otros usuarios. La aplicación alienta a las personas a hablar con amigos que conocen de la vida real y solo permite que alguien se comunique con un destinatario que lo haya marcado como amigo.
La compañía dijo que toma en serio los temores de explotación infantil. En la segunda mitad de 2021, la compañía eliminó aproximadamente 5 millones de piezas de contenido y casi 2 millones de cuentas por infringir sus reglas sobre contenido sexualmente explícito, según un informe de transparencia el mes pasado. Alrededor de 200.000 de esas cuentas fueron eliminadas después de compartir fotos o videos de abuso sexual infantil.
Pero los representantes de Snap han argumentado que sus habilidades están limitadas cuando un usuario conoce a alguien en otro lugar y trae esa conexión a Snapchat. También advirtieron contra el escaneo más agresivo de mensajes personales, diciendo que podría devastar el sentido de privacidad y confianza de los usuarios.
Algunas de sus salvaguardas, sin embargo, son bastante mínimas. Snap dice que los usuarios deben tener 13 años o más, pero la aplicación, como muchas otras plataformas, no usa un sistema de verificación de edad, por lo que cualquier niño que sepa escribir una fecha de cumpleaños falsa puede crear una cuenta. Snap dijo que funciona para identificar y eliminar las cuentas de usuarios menores de 13 años, y la Ley de Protección de la Privacidad Infantil en Línea, o COPPA, prohíbe a las empresas rastrear o dirigirse a usuarios menores de esa edad.
Snap dice que sus servidores eliminan la mayoría de las fotos, videos y mensajes una vez que ambas partes los han visto, y todas las instantáneas sin abrir después de 30 días. Snap dijo que conserva parte de la información de la cuenta, incluido el contenido informado, y la comparte con las fuerzas del orden cuando se solicita legalmente. Pero también le dice a la policía que gran parte de su contenido está “permanentemente eliminado y no disponible”, lo que limita lo que puede entregar como parte de una orden de registro o investigación.
En 2014, la compañía acordó resolver los cargos de la Comisión Federal de Comercio alegando que Snapchat había engañado a los usuarios sobre la “naturaleza de desaparición” de sus fotos y videos, y recopilado geolocalización y datos de contacto de sus teléfonos sin su conocimiento o consentimiento.
Snapchat, dijo la FTC, tampoco implementó medidas de seguridad básicas, como verificar los números de teléfono de las personas. Algunos usuarios terminaron enviando “instantáneas personales a completos extraños” que se habían registrado con números de teléfono que en realidad no eran los suyos.
Un representante de Snapchat dijo en ese momento que “mientras estábamos enfocados en construir, algunas cosas no recibieron la atención que deberían haber recibido”. La FTC exigió que la empresa se sometiera a la supervisión de un “profesional de privacidad independiente” hasta 2034.
