El Gobierno del Reino Unido está avanzando con medidas legales para combatir la proliferación de deepfakes sexuales generados por inteligencia artificial, en particular los creados con Grok, el chatbot de IA desarrollado por xAI y alojado en la red social X, propiedad del empresario Elon Musk, que en los últimos días desencadenaron una fuerte ola de indignación pública y preocupación política.
El escándalo estalló durante los primeros días de Enero, luego de que usuarios de la plataforma utilizaran Grok para producir imágenes sexualizadas de personas reales, incluidas mujeres y menores, sin su consentimiento, lo que ha sido calificado por las autoridades británicas como contenido no solo ofensivo sino ilegal.
Nueva ley para criminalizar la creación y uso de deepfakes
El Gobierno británico ha anunciado que activará esta semana la aplicación de una ley que convierte en delito la creación de imágenes íntimas generadas por IA sin consentimiento, y no solo su difusión. Esto representa un salto importante respecto a la legislación anterior, que se centraba principalmente en castigar la distribución.
La norma, que deriva de la Ley de Uso y Acceso de Datos (Data Use and Access Act) aprobada en 2025, ya tipificaba como delito penal la creación de imágenes íntimas sin autorización, pero hasta ahora no estaba siendo aplicada de manera activa. Las autoridades británicas anunciaron que dicha disposición entrará en vigor esta semana y será considerada un “delito prioritario” bajo la Online Safety Act, la principal ley de seguridad en línea del país.
La ministra de Tecnología, Liz Kendall, sostuvo ante el Parlamento que estas no son simples imágenes “inofensivas”, sino “armas de abuso” dirigidas desproporcionadamente contra mujeres y niñas, y que su creación debe ser castigada con todo el peso de la ley.
@jujuytimes 🇬🇧🇺🇸| El gobierno británico dijo que pondrá en vigor una nueva ley que penaliza la creación de imágenes deepfake sexualmente íntimas por parte del chatbot Grok AI en X, propiedad de Elon Musk. #ElonMusk #Grok
♬ sonido original – JujuyTimes
Responsabilidad de plataformas y sanciones
La Online Safety Act (Ley de Seguridad Online) exige que empresas tecnológicas con servicios en el Reino Unido implementen medidas proactivas para evitar la aparición de contenido ilegal, incluyendo deepfakes íntimos no consentidos. Si X no demuestra que cumple con estos requisitos, el regulador británico Ofcom puede imponer sanciones significativas. Como multas de hasta £18 millones o el 10 % de los ingresos globales de la empresa e incluso solicitar bloqueos de acceso o restricciones comerciales en el país como último recurso.
Ofcom ya ha abierto una investigación formal para determinar si X ha incumplido sus obligaciones legales tras la circulación de deepfakes sexuales, incluidas imágenes de menores, y está evaluando posibles medidas correctivas.
La respuesta de X y Musk
Ante la presión de autoridades y defensores de derechos digitales, X anunció restricciones a la función generadora de imágenes de Grok, limitándola a usuarios de pago con el objetivo de reducir el abuso. Sin embargo, tanto el Gobierno británico como críticos tecnológicos consideran estas medidas insuficientes para frenar la creación de contenido abusivo.
Elon Musk respondió públicamente a las críticas describiendo la preocupación como un intento de “censura”, y defendiendo la libertad de expresión en internet, aunque no ha ofrecido cambios legales concretos que garanticen la protección de las víctimas.
El caso del Reino Unido se enmarca en un creciente movimiento global para regular el uso de la inteligencia artificial generativa. Países como Malasia e Indonesia han bloqueado el acceso a Grok por motivos similares, y organismos reguladores de Europa y otras regiones están evaluando medidas comparables.
