Snapchat se ha unido a plataformas como YouTube, LinkedIn y Substack en un esfuerzo creciente por combatir la falsificación de textos, imágenes y vídeos creados íntegramente con herramientas de inteligencia artificial (IA).
Este tipo de contenido, comúnmente llamado » basura de IA «, se ha proliferado en línea a medida que la industria tecnológica se ha apresurado a crear un mayor número de herramientas de IA generativa más fáciles de usar que pueden crear cualquier cosa, desde ensayos hasta vídeos realistas .
Snap, la empresa matriz de Snapchat, anunció el viernes que la plataforma dejará de recomendar «vídeos generados íntegramente por IA» en su popular sección Spotlight, a favor de «contenido auténtico creado por humanos».
En las últimas dos semanas, YouTube, LinkedIn y Substack han presentado estrategias similares.
Snap no llegó al extremo de intentar prohibir todo el contenido generado por IA en Snapchat. La plataforma ofrece sus propias herramientas de IA para modificar el contenido, por lo que el contenido «mejorado o editado» por IA seguirá formando parte de sus recomendaciones a los usuarios.
Sin embargo, Snap reconoció que el contenido generado íntegramente por IA suele ser de «baja calidad», «repetitivo» y, en general, no es lo que los usuarios de Snapchat quieren ver.
Investigaciones recientes sobre la recepción de contenido generado por IA muestran que la gente tiende a estar de acuerdo con esas descripciones.
Además, según una encuesta independiente, cuanto más contenido falso generado por IA vean las personas en sus redes sociales, menos probabilidades tendrán de creer que el contenido que se les muestra en línea sea auténtico.
Apuntando a la «basura de la IA»
Como dijo la semana pasada Chris Best, cofundador y director ejecutivo de Substack: «Cada vez es más difícil distinguir lo real de lo falso en internet».
Al anunciar una nueva herramienta diseñada para permitir a los lectores de la plataforma de boletines informativos detectar textos generados por IA, Best citó otras investigaciones que han descubierto que hasta el 40% de los textos en las redes sociales son ahora falsos o generados por IA.
«Las plataformas que premian la falsedad crearán una carrera hacia el abismo», dijo Best.
LinkedIn, una plataforma de redes sociales centrada en el ámbito laboral, introdujo esta semana un botón en su plataforma que permite a cualquier usuario informar si una publicación o un comentario parece haber sido generado por inteligencia artificial.
«La automatización de la IA es una prioridad absoluta para todos nosotros», escribió Hari Srinivasan, director de producto de LinkedIn, en la plataforma.
Según afirmó, en los últimos dos meses la plataforma había «bloqueado miles de millones» de intentos de publicar comentarios generados por inteligencia artificial.
«Cada día detectamos cientos de miles de intentos de comentarios automatizados», dijo Srinivasan.
Al igual que Snap, LinkedIn ha declarado que no rechaza por completo el uso de la IA y que los usuarios que utilizan herramientas de IA para «perfeccionar» sus publicaciones no deberían verse envueltos en esfuerzos por combatir los errores de la IA.
No obstante, LinkedIn eliminará una sugerencia automática que aparecía para los usuarios que escribían una publicación, ofreciéndoles «mejorarla» mediante inteligencia artificial. Volverá a utilizar una herramienta de corrección sencilla.
YouTube, la plataforma de vídeo propiedad de Google, también actualizó este mes sus políticas sobre qué tipo de contenido pueden monetizar los creadores.
Una investigación del año pasado descubrió decenas de canales en YouTube que solo ofrecían contenido generado por inteligencia artificial , muchos de los cuales tenían millones de suscriptores y algunos generaron millones de dólares en ingresos.
En un esfuerzo por evitar que YouTube se llene de lo que la plataforma denomina «contenido no auténtico», a principios de este mes el sitio dividió en tres categorías el tipo de vídeos que no podrán monetizar a través de ella: genéricos, repetitivos o basados en plantillas.
Este tipo de contenido es mucho más fácil de crear, y de forma rápida, con el uso de herramientas de IA generativa.
En una entrevista sobre las normas actualizadas , Matt Halprin, responsable de confianza y seguridad de YouTube, afirmó que, si bien las herramientas de IA pueden ayudar a las personas con su contenido, cada vez se utilizan con más frecuencia para crear vídeos falsos y de baja calidad.
«La misma tecnología permite hacer cosas realmente increíbles», dijo Halprin.
«Pero también permite prácticas que se asemejan a la creación masiva de contenido, y eso es precisamente lo que no queremos.»