Ashley St. Clair, la madre de uno de los hijos de Elon Musk, demandó a xAI de Musk el miércoles, alegando que el chatbot de inteligencia artificial de la compañía, Grok, generó imágenes deepfake sexualmente explícitas de ella sin su consentimiento.
“El producto Grok de xAI, un chatbot de inteligencia artificial generativa (IA), utiliza IA para desnudar, humillar y explotar sexualmente a las víctimas”, se lee en la demanda, que se presentó en Nueva York.
La demanda de St. Clair se produjo después de que xAI confirmara el miércoles que el chatbot Grok ya no editaría «imágenes de personas reales con ropa reveladora» en la plataforma de redes sociales X de Musk, luego de la reacción negativa después de que se descubriera que el chatbot cumplía con las solicitudes de los usuarios de generar imágenes de desnudos deepfake de adultos y, en algunos casos, niños.
En la demanda, St. Clair, una escritora y comentarista política de 27 años, alegó que este mes Grok generó y distribuyó «innumerables contenidos deepfake sexualmente abusivos, íntimos y degradantes» de ella a pedido de los usuarios, incluso después de que ella le informó públicamente a Grok que «no consintió» en ser desvestida digitalmente.
En un caso, los usuarios de X supuestamente desenterraron fotos de St. Clair completamente vestida a los 14 años y le pidieron a Grok que la desnudara, según la demanda. El chatbot accedió, según la demanda.
xAI, que no respondió a una solicitud de comentarios, demandó a St. Clair en Texas por 75.000 dólares el jueves. La compañía argumentó que, al aceptar las condiciones de servicio de xAI, St. Clair está obligada a «someter cualquier disputa entre ella y xAI LLC, y sus filiales», exclusivamente a los tribunales del condado de Tarrant, Texas.
La abogada de St. Clair, Carrie Goldberg, criticó la respuesta de xAI en un correo electrónico a CNN.
“Nunca he sabido de ningún acusado que haya demandado a alguien por notificarle su intención de recurrir a la justicia. Y su estrategia legal imita el maltrato que la acosó en línea”, afirmó Goldberg. Sin embargo, añadió que cualquier jurisdicción reconocería la esencia de las alegaciones de St. Clair: “que, al crear imágenes sexualmente explícitas no consentidas de niñas y mujeres, xAI constituye una molestia pública y un producto poco seguro”.
El miércoles, Musk declaró en una publicación en X que no tenía conocimiento de ninguna imagen de menores desnudos generada por Grok. Literalmente, ninguna. Grok se negará a producir nada ilegal, ya que su principio operativo es obedecer las leyes de cualquier país o estado, añadió.
St. Clair busca un juicio con jurado, así como una compensación, alegando angustia emocional y pérdida de privacidad.
St. Clair y Musk han discutido públicamente en el pasado. A principios de esta semana, Musk escribió en X que planea solicitar la custodia total de su hijo.
St. Clair se unió a Erin Burnett Out Front de CNN el miércoles para hablar sobre las deepfakes sexualmente explícitas que, según ella, Grok ha creado de ella.
«Realmente no hay consecuencias por lo que está sucediendo ahora mismo. No están tomando ninguna medida para detener este comportamiento a gran escala», dijo St. Clair sobre xAI durante su comparecencia.
¿Saben qué? Si hay que añadir seguridad después del daño, eso no es seguridad. Es simplemente control de daños, y eso es lo que están haciendo ahora mismo —añadió.