Un concejal ha advertido sobre los peligros de las imágenes generadas por inteligencia artificial en el período previo a las elecciones locales, después de que una imagen suya manipulada fuera utilizada para difundir desinformación.
En la imagen modificada, se veía al concejal de Wakefield, Armaan Khan, de pie junto a sus compañeros de distrito al lado de una urbanización a la que se había opuesto.
La imagen original mostraba al grupo junto a campos abiertos.
Khan declaró: «Estábamos muy molestos, dedicamos muchas horas a la campaña. Utilizar eso para crear la percepción en la mente de la gente de que apoyamos el proyecto fue totalmente erróneo».
En una reciente reunión de planificación, se aprobaron las propuestas para un proyecto de viviendas en terrenos agrícolas al oeste de Wakefield Road en Normanton.
Pero Khan, que representa a Normanton, Warmfield, Kirkthorpe y Heath, dijo que era «frustrante» que la imagen se utilizara para transmitir el mensaje opuesto al de su campaña.
«Estas son unas de las primeras elecciones que celebramos en este país en las que la IA va a dominar nuestra política local», afirmó.
«Tiene aspectos positivos, pero el inconveniente es que se utilizará para crear deepfakes.»
A principios de este año, un político de alto rango de York fue blanco de un vídeo falso generado por inteligencia artificial.
En un comunicado, la Asociación Nacional de Concejales afirmó estar «muy preocupada por esta actividad», y añadió que esta «práctica deshonesta» se está generalizando y «socava la democracia».
«Es evidente que se hace para arruinar la reputación de los concejales y cambiar la composición política de los ayuntamientos en las próximas elecciones.»
‘Denúncialo’
Antes del inicio del período de elecciones locales, Khan hizo un llamamiento a los usuarios de las redes sociales para que estuvieran alerta.
«Los partidos políticos pueden discrepar entre sí en materia de políticas, política y otros asuntos», afirmó.
«Creo que los desacuerdos políticos son aceptables, debemos tener esa discusión, debemos tener ese debate, pero usar la IA para manipular la verdad, eso no está bien.»
«Tenemos que asegurarnos de que estamos proporcionando información veraz a la gente.»
«Les pido a todos, independientemente de su ideología política, que cuando vean un deepfake, lo denuncien.»