Deepfakes y la Vulneración de la Privacidad de las Mujeres
La creación y difusión de falsos desnudos de menores en Almendralejo (Badajoz), España, mediante herramientas de IA ha generado una notable preocupación en la sociedad. Esto ha destacado las implicaciones de los deepfakes en la violencia de género.
Deepfakes y sus Ramificaciones Legales
Particularmente, los deepfakes basados en imágenes reales de mujeres, utilizados sin su consentimiento, plantean serios problemas en relación a la intimidad. Estos actos pueden llevar a consecuencias legales, incluyendo multas considerables para los infractores.
Deepfakes y la Denuncia Materna
En este contexto, unas veinte madres han presentado denuncias ante la Policía Nacional respecto a la existencia de imágenes falsas de sus hijas que circulan en redes sociales. Estas imágenes fueron creadas con IA y representan a las menores de manera indebida.
La Inteligencia Artificial Generativa y su Rol en Almendralejo
Este caso resalta la creciente prevalencia de herramientas basadas en la inteligencia artificial, accesibles incluso para personas sin conocimientos técnicos avanzados. Esto incluye tecnologías relacionadas con la IA generativa, que han ganado prominencia desde la introducción de ChatGPT.
La Tecnología LoRA y su Uso en Almendralejo
En el caso de Almendralejo, se utilizó una tecnología conocida como LoRA (Low-Rank Adaptation), que se comparte libremente en diversas plataformas en línea. Esto permite a los usuarios entrenar modelos de IA para diferentes propósitos, incluyendo la creación de contenido sexual explícito.
Acceso Sencillo a la Inteligencia Artificial Generativa
Hasta ahora, para utilizar este tipo de sistemas de IA con entrenamiento especial, los usuarios debían descargarlos o recurrir a versiones compartidas en plataformas especializadas. Sin embargo, la aplicación empleada por los menores en Badajoz simplifica aún más el proceso. No requiere descargas ni conocimientos avanzados; simplemente se carga una foto de una mujer y el sistema genera un desnudo.
La Rápida Difusión y la Persistencia en la Web
Es importante destacar que estas nuevas tecnologías plantean una amenaza a la intimidad, especialmente para las mujeres, debido a la rápida difusión de imágenes de sus cuerpos en línea. A pesar de los esfuerzos por parte de la Agencia Española de Protección de Datos, eliminar por completo la huella digital de estos contenidos resulta extremadamente complicado.
El Desafío Legal y la Regulación de las Herramientas de IA
La llegada de estas aplicaciones de IA ha convertido un problema teórico en uno real en muy poco tiempo. Sin embargo, la legislación no ha logrado mantenerse al ritmo de esta evolución tecnológica. Esto ha dado lugar a debates sobre la necesidad de regular o incluso prohibir estas herramientas.
El Debate entre Prohibición y Regulación
En la Unión Europea (UE), se discute la posibilidad de prohibir los LoRA en casos donde no sea posible aplicar una supervisión efectiva. Al mismo tiempo, se considera la necesidad de establecer normas que eviten que cualquier usuario descargue inteligencias artificiales de código abierto y las utilice de manera no ética. No obstante, algunos expertos argumentan que prohibir estas herramientas no es la solución definitiva y que se requiere una estrategia más completa.
Además, la armonización de las regulaciones internacionales será un desafío adicional para garantizar que los infractores no encuentren refugio en países con regulaciones más laxas. Está previsto que se lleven a cabo debates sobre inteligencia artificial en noviembre en el Reino Unido y Japón.
LEE MÁS ARTÍCULOS SOBRE: Inteligencia Artificial.
LEE LA ENTRADA ANTERIOR: Curso: ChatGPT de la Universidad de Míchigan - Gratis.