Conforme va pasando el tiempo, el uso de redes sociales va en aumento al mismo tiempo que la desinformación.
Debido a esto, Microsoft anunció una campaña contra la desinformación en la que incluye una herramienta para detectar deepfakes.
Es importante que siempre que escuchemos o leamos noticias o miremos algún video o imagen de impacto o preocupante, verifiquemos nuestra fuente de información. Tomemos en cuenta que muchas personas se dedican a publicar información falsa con el fin de obtener alguna ganancia.
Para atacar a la desinformación, Microsoft creó una nueva herramienta llamada Microsoft Video Authenticator. Este software puede analizar una foto o video para decirte que tan probable es que el contenido sea falso.
¿Cómo funciona Microsoft Video Authenticator?
Esta herramienta fue desarrollada en conjunto por Microsoft Research, el equipo de IA y el Comité de IA, Ética y Efectos en Ingeniería e Investigación. Microsoft Video Authenticator otorga un porcentaje de probabilidad de que el contenido que visualizas sea falso.
En el caso de los videos, puede hacerlo en tiempo real a medida que se reproduce. Los usuarios pueden analizar cada cuadro del video para saber si fue alterado. La herramienta detecta el límite de fusión de los elementos que conforman el DeepFake y el desvanecimiento que puede no ser detectable para el ojo humano. ¿Sorprendente no?
Para tener completa esta herramienta, Microsoft echó mano de FaceForensics++, un conjunto de datos forenses que consta de mil secuencias de video que han sido manipuladas con cuatro métodos automatizados para generar deepfakes.
La herramienta se probó en el Desafío de Detección de DeepFake, un conjunto de datos que permite el entrenamiento de modelos de detección y que cuenta con más de 100 mil videos.
Actualmente, son muy pocas las herramientas que nos pueden ayudar a asegurarnos de que el contenido que visualizamos proviene de una fuente confiable y que no ha sido alterado. La tecnología avanza, y los procesos para crear videos falsos cambian. Por eso los métodos de detección tienen que evolucionar para estar preparados y certificar la autenticidad en los medios.
Nuevo verificador de contenido auténtico
Por otro lado, Microsoft también anunció una segunda herramienta que se integra en Microsoft Azure y con la ayuda de una extensión del navegador puede verificar si el contenido que ven las personas es auténtico.
Esta tecnología permite que el productor de contenido pueda agregar certificados y haches digitales a un contenido. El lector, que puede ser una extensión de navegador u otra aplicación; verificará los certificados y hará coincidir los haches para determinar si el contenido es auténtico, así como su origen.
Esta herramienta es la base de una iniciativa de la BBC llamada Project Origin. Busca luchar contra la desinformación etiquetando el contenido que se ha manipulado. Project Origin es parte de la Iniciativa de Noticias de Confianza (TNI), una colaboración de las principales organizaciones de noticias y tecnología que buscan combatir la propagación de la desinformación.
La TNI fue creada con el fin de estar presente en las próximas elecciones de Estados Unidos, en donde Donald Trump busca ser reelegido. Y es que. precisamente, el equipo de campaña de Trump y el Partido Republicano fueron señalados por publicar videos alterados en Twitter, lo que obligó a la red social a etiquetarlos como modificados.
Twitter anunció anteriormente su postura con respecto a los deepfakes, diciendo que colocaría un aviso y advertiría a las personas antes de compartirlos. Sin embargo, no dijo nada sobre eliminarlos.