Ahora es una ley que exige que las redes sociales eliminen rápidamente imágenes profundamente sexuales y otras imágenes no consensuadas. Pero los expertos advierten que esta política puede ayudar poco a las víctimas y, en el peor de los casos, podría facilitar la censura en Internet.
En mayo pasado, el presidente Donald Trump firmó la Ley Take It Down, una ley que aborda las imágenes íntimas no consentidas (NCII). La ley penaliza inmediatamente la distribución de NCII, ya sea en forma de material real o generado por inteligencia artificial. Muchos paises Al menos en parte ya lo haces. Pero la cláusula de eliminación del mismo nombre es más completa. Entra en vigor un año después de que se aprobara la ley (el 19 de mayo de 2026) y exige que las plataformas en línea eliminen el NCII en un plazo de 48 horas o se enfrentarán a multas.
Andrew Ferguson, presidente de la Comisión Federal de Comercio Envía mensajes a más de una docena de empresas tecnológicas Antes de la fecha límite, la FTC dijo que la lista incluye Amazon, Alphabet, Apple, Automattic, Bumble, Discord, Match Group, Meta, Microsoft, Pinterest, Reddit, SmugMug, Snapchat, TikTok y X. Instruyó a las plataformas a brindar a los usuarios un proceso de solicitud de eliminación sencillo y eliminar el contenido ofensivo dentro de las 48 horas, junto con cualquier «duplicado conocido». La agencia, encargada de hacer cumplir la ley, recordó a las empresas que violarla podría resultar en sanciones civiles de más de 53.000 dólares por infracción.
Principales plataformas, incluidas Meta, Microsoft, Google, TikTok y Snap. Apoyó el proyecto de leyExpresaron confianza en su capacidad para cumplir. Snape dijo en un Publicación de blog el año pasado que «es consistente y complementa nuestros esfuerzos en curso». La portavoz Monique Bellamy dijo Borde Continúa “evolucionando” los sistemas de seguridad, “incluida la inversión en herramientas y tecnologías para detectar y tomar medidas proactivamente ante imágenes de desnudos no deseados y similares”.
Cindy Southworth, jefa de seguridad de las mujeres en Meta, dijo que la compañía ha «luchado durante mucho tiempo contra el abuso de imágenes íntimas en nuestras plataformas», incluso eliminándolas, ayudando a desarrollar herramientas para detectarlas y Demandan a desarrolladores de aplicaciones de inteligencia artificial “nudify”. Lo que viola sus reglas. Southworth añadió que las herramientas de la empresa están entrenadas para no cumplir con las solicitudes de desmontaje. «Seguimos apoyando la Ley TAKE IT DOWN, un paso importante para abordar el abuso en línea, y ya hemos estado comprometidos con ella durante meses». El portavoz de TikTok en Estados Unidos, Mahsau Cullinan, dijo que la compañía tiene una política de tolerancia cero hacia el NCII y señaló sus asociaciones con NCMEC y StopNCII.org; La empresa ofrece actualmente modelo Y herramientas dentro de la aplicación para generar informes.
Incluso la Compañía X, que tiene una historia muy accidentada con representaciones sexualizadas de IA, apoyó la ley. La compañía permitió que se difundiera un deepfake sexualmente explícito de Taylor Swift en 2024, seguido semanas después por un video que se cree que es del rapero Drake participando en un acto sexual. Recientemente, los usuarios han pedido al chatbot integrado Grok que los desnude, a menudo sin su consentimiento. New York Times análisis Encontró que en sólo nueve días, Grok compartió “al menos 1,8 millones de imágenes sexuales de mujeres”, aunque algunas estimaciones eran más altas.
El presidente se rió de él. 2025 Estado de la Unión Ese «usaré este billete para mí»
Pero la disposición de eliminación de la ley ha alarmado a los defensores de la libertad de expresión y a los opositores del abuso en línea, incluidas personas que apoyaron en gran medida la parte de criminalización. Incluso cuando se implementan de buena fe, las leyes de eliminación pueden alentar a las empresas a moderar excesivamente el contenido no ofensivo para reducir el riesgo. Bajo una administración Trump, la ley de “derribo” también podría convertirse en un arma contra los enemigos políticos y al mismo tiempo dar vía libre a las plataformas favorables a Trump. El presidente se rió de él. 2025 Estado de la Unión “Voy a utilizar este proyecto de ley para mí”, porque “nadie es tratado peor que yo en línea”. Linda Yaccarino, entonces directora ejecutiva de X Asistió a la ceremonia de firmay Trump -cuya administración en ese momento nombró a su propietario, Elon Musk-, elogió a la empresa por «hacer un gran trabajo».
Mary Anne Franks, presidenta de Cyber Civil Rights Initiative, que aboga por políticas para combatir la agresión sexual basada en imágenes, dijo que la declaración de Trump era «lo opuesto a la verdad». Eso la dejó escéptica respecto de que la ley pudiera aplicarse de manera justa, al igual que el comentario de Trump sobre el Estado de la Unión. “Es extraño decir esto”, afirma, “y es una declaración desde los niveles más altos de que esta ley no se utilizará por principios, sino más bien para ajustar cuentas personales”.
Franks tiene «sospechas» acerca de por qué las grandes plataformas tecnológicas, que normalmente protestan contra las nuevas regulaciones como una carga para la libertad de expresión, apoyarían esta ley. «Lo que me preocupa, y espero estar equivocada, es que la razón por la que las empresas no se enojan por esto es porque saben que nunca se utilizará en su contra», afirma. Esto por sí solo podría hacer que la ley ofrezca poco más que falsas esperanzas a las víctimas del NCII.
«Es una declaración al más alto nivel de que esta ley no se utilizará según principios».
Pero a Franks también le preocupa que la ley pueda usarse contra plataformas que la administración considera una espina clavada, como Wikipedia. «Creo que lo peor que podría pasar es que esto se convierta en un tigre de papel contra las empresas que hacen lo peor, y resulte ser una forma de castigar a las plataformas impopulares y censurar la expresión», dice Franks. Este discurso puede incluir expresiones LGBTQ+, especialmente Atención que afirma el género Los jóvenes transgénero ya están en el punto de mira de la Comisión Federal de Comercio. «Me preocupa mucho que esto se utilice como excusa para suprimir material sexualmente explícito más consensuado, o específicamente material educativo para niños que están explorando su identidad de género o su sexualidad», dice Franks. Incluso si el tribunal decide que esto no está dentro del alcance de la ley, enviará un mensaje claro a las plataformas sobre cómo moderar.
Otros grupos, incl. Fundación Frontera Electrónica (EFF)el Instituto Catóny Conocimiento generaladvirtió que la cláusula de notificación y eliminación podría tener graves consecuencias para la libertad de expresión, y la EFF la describió como una receta para la “extralimitación y la censura”.
Al mismo tiempo, es posible que la ley ni siquiera cubra lo que podrían parecer violaciones digitales obvias del consentimiento. Por ejemplo, algunas de las imágenes sexuales que representa Grok pueden no considerarse lo suficientemente explícitas. No está claro si las herramientas de inteligencia artificial como Grok se consideran “generadores” del NCII por los cuales sus propietarios podrían ser considerados penalmente responsables, y si las imágenes se produjeron de forma privada, no está necesariamente claro si también están sujetas a un requisito de eliminación.
Ministerio de Justicia en el primer año de su emisión el lo uso Fallo penal de la Ley Take It Down en una condena de un hombre de Ohio que generó imágenes falsas y sexualmente explícitas para que la inteligencia artificial acosara a las víctimas. El impacto de la cláusula de eliminación podría sentirse de inmediato, pero la pregunta es si estos hallazgos harán que Internet sea más seguro.
(etiquetas para traducción) ai