La plataforma TikTok anunció este viernes 20 de noviembre el lanzamiento mundial de su herramienta de detección de “deepfakes” dirigida a figuras públicas, con el objetivo de identificar y denunciar contenidos creados con inteligencia artificial que utilicen su imagen sin consentimiento. La medida busca frenar la desinformación generada por IA antes de la ola de elecciones europeas prevista para el próximo año.
Los “deepfakes” o contenidos ultrafalsos son generalmente videos o sonidos que parecen reales, pero que han sido generados o manipulados por inteligencia artificial. La nueva “herramienta de detección de imágenes similares” permite a los políticos y a las cuentas con un gran número de seguidores en TikTok identificar y reportar piezas audiovisuales creadas con IA que suplanten su identidad.
Francesca Scapolo, responsable de relaciones gubernamentales de la empresa para las elecciones europeas, afirmó durante el evento sobre seguridad e innovación de TikTok celebrado el jueves en Londres que “proteger la integridad de las elecciones es una de las responsabilidades más importantes que tenemos en TikTok”. Añadió que la herramienta ayudará a “los políticos y al gobierno a identificar contenido potencialmente generado por IA que haya sido compartido sin su consentimiento”.
La funcionalidad se está implementando de manera gradual. Para TikTok, propiedad de la empresa china ByteDance, la herramienta es un elemento clave para protegerse contra la desinformación durante los comicios que se llevarán a cabo en toda Europa el próximo año, incluyendo Italia, Francia y Grecia.
La Unión Europea comenzó a implementar en agosto normas de transparencia de amplio alcance sobre la inteligencia artificial, incluyendo el requisito de que los “deepfakes” y otros contenidos generados por IA sean etiquetados. TikTok exige a los creadores de contenido que etiqueten las imágenes, el audio y los videos realistas generados por IA desde hace varios años.
En el sector, YouTube también ha desarrollado su propia herramienta de detección de imágenes para permitir que los creadores identifiquen videos generados por IA que muestren a personas haciéndose pasar por ellos.
Version Final

