Una mujer cuyas fotografías de modelo fueron utilizadas para crear imágenes sexualmente explícitas sin su consentimiento exige una mejor regulación de la inteligencia artificial (IA), afirmando: «Es peligroso».
Georgia Horton declaró estar horrorizada tras descubrir que las fotografías extraídas de sus redes sociales habían sido manipuladas mediante inteligencia artificial para crear imágenes pornográficas.
Y la persona responsable era alguien a quien ella conocía: su viejo amigo de la universidad, Ethan Orchard.
Orchard, originario de Southsea, fue encarcelado durante tres años y cuatro meses en julio tras crear y compartir imágenes falsas y explícitas de Georgia y otras dos mujeres.
Orchard también había publicado en internet fantasías violentas y sexualmente explícitas sobre las mujeres y había pedido a otros hombres que compartieran las suyas.
«Él hacía que la gente eligiera entre nosotros, o les preguntaba qué querían hacernos», dijo Georgia.
«Una de las publicaciones decía: ‘¿Qué harías si tuvieras cinco minutos a solas con ella?’ Y a partir de ahí, la cosa empeoró mucho.»
«La peor que vi fue: ‘¿La salvarías? ¿La violarías? ¿O la venderías?'»
Policía de HampshireGeorgia y Orchard habían estudiado juntos en la universidad de Hampshire y ella creía que eran amigos, según declaró a la BBC.
Dijo que ahora hablaba públicamente sobre su experiencia con la esperanza de crear conciencia sobre lo que ella describe como el «lado oscuro» de la inteligencia artificial.
«Todo el mundo parece estar a favor de la IA, pensando que es solo un juego divertido en la pantalla de un ordenador», dijo, y añadió: «Pero es peligroso».
‘Cada vez es más fácil’
A principios de este año, se introdujo una nueva legislación que tipifica como delito la creación de imágenes deepfake sexualmente explícitas de una persona sin su consentimiento.
La ley se basa en delitos ya existentes que abarcan la difusión de imágenes íntimas de adultos sin consentimiento.
Georgia afirmó que, si bien «es un comienzo», la legislación no es suficiente.
Ella dijo: «Cuando supe que se había promulgado la ley, sentí un gran alivio. Mi caso aún estaba en trámite judicial y todos estábamos contentos de ver ese progreso».
«Pero ahora se ha paralizado.»
«La tecnología para crear estas imágenes y vídeos sigue existiendo y está ampliamente disponible.»
«Es necesario que haya más regulación y medidas de seguridad mucho más estrictas integradas en los propios programas.»
«Las grandes empresas tecnológicas dicen que están reforzando las medidas de seguridad, pero aún se pueden sortear con solo unos pequeños cambios en las indicaciones.»
«La autorregulación no está funcionando. Además, cada vez es más fácil para la gente crear sus propios modelos de IA, y estos no están regulados en absoluto.»
‘Tantos depredadores’
El Departamento de Ciencia, Innovación y Tecnología afirmó que se tomaba el asunto muy en serio.
Un portavoz del gobierno declaró: «La creación y difusión de deepfakes sexuales no consensuales es absolutamente repugnante y no permitiremos que imágenes abusivas se difundan en línea».
Añadieron: «La ley también deja claro que es ilegal crear, poseer o compartir material de abuso sexual infantil, incluido el contenido generado por IA, y las plataformas deben identificarlo y eliminarlo de forma proactiva.»
«Estamos exigiendo responsabilidades a las empresas tecnológicas, desde obligar a las plataformas a eliminar imágenes íntimas no consentidas en un plazo de 48 horas tras la denuncia, hasta responsabilizar personalmente a los directivos de las empresas cuando no cumplen con las decisiones de Ofcom sobre el abuso de imágenes íntimas.»
Durante la investigación policial del caso de Georgia, los agentes descubrieron lo que describieron como un sitio web «verdaderamente espantoso» que contenía más de un millón de imágenes de abuso sexual infantil.
Georgia instó a los padres a ser más vigilantes al compartir fotografías de sus hijos en internet.
«Debería prohibirse la publicación de fotos de niños en internet», afirmó.
«Hay tantos depredadores ahí fuera y realmente no sabes quién está viendo esas fotos.»
«Basta con procesar una sola foto con IA para crear un número ilimitado de imágenes. El daño que se puede causar es enorme.»