X se inunda con imágenes explícitas falsas de Taylor Swift: La IA pone en evidencia los riesgos de la manipulación digital

En los últimos días, las redes sociales, y especialmente X (exTwitter) se inundó con imágenes explícitas de la cantante estadounidense Taylor Swift.

Si bien, varios pensaron que estos registros podrían ser reales, al igual que lo que ocurrió con el Papa Francisco hace alguno meses, esto es netamente el resultado del impacto que tiene la inteligencia artificial, y cómo, cuando cae en manos equivocadas, puede generar este tipo de contenido que transgrede el bienestar propio.

Deepfakes

Lo que ocurrió con Taylor Swift fue producto del deepfake, definido como imágenes o videos realistas creados mediante IA que pueden ser utilizados para representar a individuos en situaciones comprometedoras o engañosas sin su consentimiento.

El deepfake representa un desafío significativo para la integridad de la información y la privacidad personal.

Al utilizar una figura pública pone en evidencia la urgencia e importancia de que se deben tomar medidas para abordar esta problemática. Ya que las imágenes sexuales falsas de la artista llegaron a sobrepasar los 27 millones de vistas.

La cuenta que subió las fotos luego fue cerrada, puesto que seguidores Swift reportaron la cuenta.

La cantante decidió no referirse al tema y la plataforma, ahora en manos de Elon Musk, X, bloqueó las búsquedas de “Taylor Swift” y “Taylor Swift AI”.

Posting Non-Consensual Nudity (NCN) images is strictly prohibited on X and we have a zero-tolerance policy towards such content. Our teams are actively removing all identified images and taking appropriate actions against the accounts responsible for posting them. We're closely…

— Safety (@Safety) January 26, 2024

Reacciones

La secretaria de Prensa de la Casa Blanca, Karine Jean-Pierre, dijo que esta situación es “alarmante”: “Sabemos qué incidentes como este impactan de manera desproporcionada a las mujeres y las niñas. El Presidente Biden está comprometido a garantizar que reduzcamos el riesgo de imágenes falsas de IA a través de acciones ejecutivas. El trabajo para encontrar soluciones reales continuará”.

The circulation of false images of Taylor Swift are alarming. We know that incidences like this disproportionately impact women and girls. @POTUS is committed to ensuring we reduce the risk of fake AI images through executive action. The work to find real solutions will continue. pic.twitter.com/IOIl9ntKtP

— Karine Jean-Pierre (@PressSec) January 26, 2024

The circulation of false images of Taylor Swift are alarming. We know that incidences like this disproportionately impact women and girls. @POTUS is committed to ensuring we reduce the risk of fake AI images through executive action. The work to find real solutions will continue. pic.twitter.com/IOIl9ntKtP

— Karine Jean-Pierre (@PressSec) January 26, 2024

El CEO de Microsoft, Satya Nadella, indicó a NBC News que X debe “moverse rápido” para eliminar estas imágenes deepfakes: Todos salimos ganando cuando el internet es un lugar seguro. Así que nadie quiere un espacio online inseguro, ni para quienes crean contenido ni para quienes lo consumen. Por tanto, es nuestra responsabilidad actuar de inmediato en esta situación.”

El sindicado de actores de Estados Unidos (SAG-AFTRA) expresó su solidaridad con la cantante y subrayan la urgencia de toma de medidas decisivas sobre la ética de la IA y la protección de la privacidad individual.

The sexually explicit, A.I.-generated images depicting Taylor Swift are upsetting, harmful, and deeply concerning.

Read more 👇 https://t.co/P1rx5WE7Tl

— SAG-AFTRA (@sagaftra) January 26, 2024

Implicaciones de la IA

Si bien, las redes sociales poseen políticas para regular el contenido sintético o manipulado, la eficacia de estas medidas se ve comprometida por la capacidad en constante evolución de la IA para generar imágenes cada vez más realistas.

Joe Benarrocj, director de negocios de X, dijo la divulgación de estas fotos va en contra de las políticas de las RR.SS., pero la distribución de desnudos no consentidos y/o manipulados no.

Expertos advierten sobre el uso creciente de deepfakes en diversos contextos, desde la pornografía falsa hasta la desinformación política. Este fenómeno plantea serias implicaciones para la seguridad y la privacidad de los individuos, así como para la integridad de la información en un contexto de elecciones y debates públicos.