UE prohíbe modelos de IA que generen "deepfakes" sexuales
UE prohíbe modelos de IA que generen "deepfakes" sexuales
Freno a la violencia digital: La UE acuerda prohibir la IA generadora de “deepfakes” sexuales
En un paso histórico hacia la protección de los derechos humanos en la era digital, los países de la Unión Europea han alcanzado un acuerdo para prohibir los modelos de Inteligencia Artificial que permitan la creación de “deepfakes” sexuales.
La medida, impulsada formalmente por la delegación de España, busca erradicar una de las aplicaciones más dañinas de esta tecnología, que ha afectado de manera desproporcionada a mujeres y menores.
El “Efecto Grok” y la urgencia regulatoria
La decisión comunitaria llega como respuesta directa a la reciente crisis generada por plataformas como Grok, que bajo políticas de moderación laxas, facilitaron la creación de millones de imágenes sexualizadas no consentidas.
Estos incidentes encendieron las alarmas en Bruselas, demostrando que la autorregulación de las empresas tecnológicas ha sido insuficiente para prevenir la violencia digital.
Sanciones y cumplimiento
La nueva normativa no solo prohíbe la distribución de estos contenidos, sino que apunta al origen: los modelos fundacionales. Las empresas que desarrollen IA deberán implementar filtros técnicos infranqueables que impidan la generación de contenido pornográfico falso.
De no cumplir, se enfrentarán a multas multimillonarias y al posible bloqueo de sus servicios en todo el territorio de la Unión Europea.
Un estándar global
Con este acuerdo, la UE se posiciona nuevamente a la vanguardia de la ética tecnológica. “La tecnología debe estar al servicio de las personas, no ser una herramienta para su humillación”, destacaron fuentes del consejo tras la votación.
Se espera que este marco regulatorio sirva de modelo para otras regiones que actualmente debaten cómo equilibrar la innovación con la seguridad ciudadana.
UE prohíbe modelos de IA que generen "deepfakes" sexuales fue publicado originalmente en telemundoindy.com