Twitter es la última plataforma social para confirmar que está trabajando en una política para abordar el aumento de las falsificaciones profundas.
La compañía planea actualizar sus políticas para abordar los “medios sintéticos y manipulados”, reveló Twitter.
El anuncio de Twitter sigue a los comentarios anteriores del CEO de Facebook, Mark Zuckerberg, quien dijo a principios de este año que la red social estaba “evaluando” posibles políticas.
Deepfakes, o “medios sintéticos y manipulados”, como los llama Twitter, son vídeos que han sido alterados de manera realista usando inteligencia artificial. El tema se destacó a principios de este año después de que un vídeo alterado de la Presidenta de la Cámara de Representantes, Nancy Pelosi, se volviera viral en Facebook.
Ese vídeo, que finalmente fue desacreditado por los verificadores de datos de Facebook, no era técnicamente una mentira profunda ya que simplemente se ralentizó y no se manipuló con IA, pero sin embargo llamó la atención sobre el peligro potencial de compartir vídeos que se han editado engañosamente en las redes sociales.
What’s synthetic and manipulated media?
It’s media that’s been significantly altered or created in a way that changes the original meaning/purpose, or makes it seem like certain events took place that didn’t actually happen.— Twitter Safety (@TwitterSafety) October 21, 2019
Twitter ha prohibido previamente vídeos porno falsos con caras de celebridades, pero aún no tiene una política amplia para abordar los videos manipulados en otros contextos.
En un tweet, Twitter dijo que planea definir los medios sintéticos como “medios que han sido significativamente alterados o creados de una manera que cambia el significado / propósito original, o hace que parezca que ocurrieron ciertos eventos que realmente no ocurrieron”.
La compañía no indicó cómo sería su política, o cuándo podría reducir este tipo de imágenes, pero sugirió que priorizaría la seguridad física y el potencial de “daño fuera de línea”.
Why are we doing this?
1️⃣We need to consider how synthetic media is shared on Twitter in potentially damaging contexts.
2️⃣We want to listen and consider your perspectives in our policy development process.
3️⃣We want to be transparent about our approach and values.— Twitter Safety (@TwitterSafety) October 21, 2019
Twitter planea solicitar comentarios de sus usuarios y otros expertos antes de elaborar una política más exacta, similar al enfoque de amplio alcance que se adopta para mejorar las conversaciones.
Sin embargo, si la historia reciente es una indicación, aún pasará algún tiempo antes de que Twitter tenga una política concreta lista para implementar. La compañía anunció que prohibiría el “lenguaje deshumanizante” en su plataforma en septiembre pasado, pero no comenzó a implementar la nueva política hasta casi un año después.
Necesitamos considerar cómo se comparten los medios sintéticos en Twitter en contextos potencialmente dañinos, dijo Twitter el lunes.
Queremos escuchar y considerar sus perspectivas en nuestro proceso de desarrollo de políticas. Queremos ser transparentes sobre nuestro enfoque y valores, agregó.
