Con el objetivo de detectar deepfakes, Microsoft ha lanzado «Video Authenticator«, una herramienta para analizar vídeos y fotos fijas que generan una puntuación de manipulación.
Esta herramienta proporciona lo que Microsoft denomina «un porcentaje de probabilidad o puntuación de confianza» de que los medios han sido manipulados artificialmente.
«En el caso de un video, puede proporcionar este porcentaje en tiempo real en cada cuadro a medida que se reproduce el video«, según lo explica en su blog.
«Funciona detectando el límite de fusión de los elementos deepfake y los elementos sutiles que se desvanecen o en escala de grises que podrían no ser detectables por el ojo humano«.
Si un fragmento de contenido en línea parece real pero «huele» incorrectamente, es probable que se trate de una manipulación de alta tecnología que intenta pasar por real, quizás con la intención maliciosa de desinformar a las personas, explica Microsoft .
Aunque muchos deepfakes se crean con una intención muy diferente, ser divertidos o entretenidos, sacados de contexto, tales medios sintéticos aún pueden cobrar vida propia a medida que se propagan, lo que significa que también pueden terminar engañando a los espectadores desprevenidos.
¿Cómo fue creada?
De acuerdo con Microsoft, Video Authenticator fue creada usando un conjunto de datos públicos de Face Forensic ++ y probada en el DeepFake Detection Challenge Dataset, que señala son «ambos modelos líderes para entrenar y probar tecnologías de detección de deepfake».
La herramienta ha sido desarrollada por su división de I + D, Microsoft Research, en coordinación con su equipo de IA responsable y un organismo asesor interno sobre inteligencia artificial, ética y efectos en el comité de ingeniería e investigación.
Es parte de un programa más amplio que Microsoft está ejecutando para defender la democracia de las amenazas planteadas por la desinformación.
Disponibilidad
La compañía se está asociando con la Fundación AI con sede en San Francisco para poner la herramienta a disposición de las organizaciones involucradas en el proceso democrático este año, incluidos los medios de comunicación y las campañas políticas.
“Video Authenticator estará disponible inicialmente solo a través de Reality Defender 2020 (RD2020), que guiará a las organizaciones a través de las limitaciones y consideraciones éticas inherentes a cualquier tecnología de detección de deepfake.
Fuente: Microsoft