Los "deepfakes" pornográficos de la cantante Taylor Swift llevaron a X, la red social conocida antes como Twitter, a bloquear las búsquedas del nombre de la cantante. La plataforma digital se inundó de imágenes sexualmente explícitas de la estrella del pop, generadas con inteligencia artificial, lo que provocó una gran cantidad de visualizaciones y compartidos.

A pesar de la suspensión de la cuenta verificada que publicó las imágenes, la difusión persistió, generando preocupación sobre la proliferación de contenido pornográfico falso creado por inteligencia artificial generativa como ChatGPT, Bard o Midjourney.

Estos chatbots de inteligencia artificial pueden ser empleados por personas malintencionadas para cometer diversos delitos, que van desde estafas en línea, donde simulan la voz de un ser querido para fingir un secuestro, hasta la generación de pornografía mediante inteligencia artificial con el objetivo de atraer dinero de posibles consumidores. Además, se observó el uso de la inteligencia artificial para acosar sexualmente a menores de edad.

X optó por bloquear las búsquedas de Swift con el fin de evitar la propagación de imágenes falsas y explícitas generadas por inteligencia artificial, tomando esta medida como una acción temporal y precautoria para priorizar la seguridad en medio de la preocupación por la difusión de contenido manipulado y no autorizado.

Joe Benarroch, jefe de operaciones comerciales de la compañía de Elon Musk, afirmó en un comunicado que esta medida es temporal y se toma con precaución, priorizando la seguridad en este asunto. Al intentar buscar a la cantante en X, la plataforma responde como si fuera un problema técnico, mostrando el mensaje: "Algo salió mal. Intenta recargar".

Algunas imágenes manipuladas de la estrella mundial del pop se volvieron virales en X este mes. El sindicato SAG-Aftra, que representa a artistas y profesionales de los medios, expresó su oposición el viernes ante esta práctica. Consideraron que estas imágenes son perturbadoras, perjudiciales y preocupantes.

X bloqueó las búsquedas sobre Taylor Swift.

Preocupación de la Casa Blanca por las "deepfakes" de Taylor Swift

El sindicato aboga por la ilegalidad del desarrollo y la difusión de imágenes falsas, especialmente aquellas de naturaleza lasciva, sin el consentimiento de la persona afectada.

Además, instó a la sociedad a tomar medidas para controlar estas tecnologías de la información, abogando por la implementación de un nuevo marco legal antes de que sea demasiado tarde.

De acuerdo con la información de Variety, la preocupación sobre el caso de Swift llegó al Gobierno estadounidense, que teme que este incidente marque un punto de inflexión en el tema de las imágenes pornográficas falsas.

Karine Jean-Pierre, secretaria de prensa de la Casa Blanca, expresó su alarma por la circulación de estas imágenes y abogó por la necesidad de legislación para abordar este problema durante una de sus conferencias de prensa.

Las imágenes falsas de Swift generaron más de 27 millones de visitas en X en tan solo 19 horas el miércoles, según informó NBC News. Aunque la cuenta que compartió estas imágenes fue suspendida, la difusión persistió ya que otros usuarios continuaron replicando el contenido en la plataforma.

La compañía tomó la decisión de eliminar estos contenidos, considerándolos "estrictamente prohibidos" al carecer del permiso de Swift y en respuesta a la violación de las políticas de la plataforma en cuanto a la difusión de material no autorizado y potencialmente perjudicial.

Taylor Swift es una de las artistas más famosas del orbe.

Swift considera tomar acciones legales contra el sitio que inicialmente publicó las imágenes. A pesar de los intentos de bloqueo, la difusión continuó, lo que llevó a la plataforma a recordar su política de "tolerancia cero" hacia este tipo de contenido y tomar medidas activas para eliminarlo.