- La compañía ha lanzado Microsoft Video Authenticator, una plataforma inteligente para la detección de deepfakes en fotos y vídeos, así como herramientas para alertar a los usuarios ante la manipulación de los contenidos que consumen.
- Según los datos de una reciente investigación, la desinformación continúa creciendo en las redes con el objetivo de difamar a personalidades, dirigir la opinión pública o polarizar los debates.
Según los datos de una reciente investigación realizada en Princeton con la colaboración de Microsoft, la desinformación online continúa con el objetivo de difamar a personalidades, dirigir la opinión pública o polarizar los debates. Dicho estudio catalogó 96 campañas de influencia extranjera dirigidas a 30 países entre 2013 y 2019. Alrededor del 93% de estas campañas incluyeron la creación de contenido original, 86% amplificaron contenido preexistente, y 74% distorsionaron hechos verificables de manera objetiva.
La pandemia de COVID-19, también se ha encontrado en el foco de las campañas de desinformación, produciendo muertes y hospitalizaciones de personas que, buscando posibles tratamientos, han puesto en riesgo su salud por seguir recomendaciones peligrosas.
Para luchar contra estas situaciones, Microsoft acaba de anunciar nuevas tecnologías encaminadas a combatir la desinformación, así como colaboraciones para continuar avanzando en el desarrollo tecnológico en este ámbito, e iniciativas para ayudar a la sociedad a comprender el impacto que genera y diferenciar los contenidos originales de los deepfakes.
Deepfakes, la necesidad de diferenciar entre lo real y lo manipulado
Uno de los grandes problemas a los que se enfrenta actualmente la sociedad es el de los deepfakes, es decir, fotos, vídeos o archivos de audio manipulados por inteligencia artificial (IA) con mucha precisión, de forma que es difícil detectar su alteración. De este modo, se pueden iniciar campañas con material audiovisual falseado de personajes públicos, colocándolos en situaciones irreales o realizando declaraciones que nunca han hecho.
Para luchar contra esta situación Microsoft acaba de anunciar Video Authenticator, una plataforma inteligente que puede analizar una foto o un vídeo para proporcionar un porcentaje de probabilidad, o una calificación de confianza frente a manipulaciones. En el caso de un vídeo, la tecnología indica este porcentaje en tiempo real sobre cada frame a medida que se reproduce el vídeo, identificando así elementos que tal vez no puedan ser detectados por el ojo humano.
Esta tecnología fue desarrollada inicialmente por Microsoft Research, en coordinación con el equipo de Inteligencia Artificial Responsable de Microsoft, y el Comité de IA, Ética y efectos en ingeniería e investigación (AETHER, por sus siglas en inglés) de Microsoft, un consejo asesor en Microsoft que ayuda a asegurar que la nueva tecnología sea desarrollada e integrada de manera responsable. Video Authenticator ha sido creado con ayuda de la base de datos pública de Face Forensic++ y probado en el DeepFake Detection Challenge Dataset, ambos modelos líderes para el entrenamiento y evaluación de tecnologías de detección de deepfakes.
La compañía también ha anunciado una nueva tecnología que puede detectar contenido manipulado y garantizar a los usuarios que los contenidos que visualizan son auténticos. Esta tecnología tiene dos componentes. El primero es una herramienta integrada en Microsoft Azure, que permite a los productores de contenido agregar hashes (que identifican los archivos de forma inequívoca) y certificados a sus piezas, quedando integrados en sus metadatos y dejando una huella de confianza allá donde se alojen los ficheros online. El segundo es un lector, que puede utilizarse como una extensión de navegador o en otras formas alternativas, que precisamente verifica la huella incluida en los archivos para que los consumidores de contenido, con alto grado de precisión, puedan saber que el contenido es auténtico y que no ha sido modificado, así como proporcionar detalles sobre quién lo produjo.
Esta tecnología ha sido desarrollada por Microsoft Research y Microsoft Azure, en asociación con el Programa Defending Democracy, y va a impulsar una iniciativa anunciada recientemente por la BBC, llamada Project Origin.
Colaboración en la lucha contra la desinformación
Microsoft ha impulsado diferentes asociaciones para maximizar su impacto en la lucha contra la desinformación y los deepfakes. Entre ellos destaca la colaboración con AI Foundation, una empresa dual, comercial y sin fines de lucro, ubicada en San Francisco, con la misión de llevar el potencial y la protección de la IA a todas las personas del mundo. A través de esta asociación, la iniciativa Reality Defender 2020 (RD2020), de AI Foundation, pondrá Video Authenticator al servicio de las organizaciones involucradas en el proceso democrático, incluidos nuevos medios y campañas políticas. Video Authenticator estará disponible, en un principio, sólo a través de RD2020, que guiará a las organizaciones a través de las limitaciones y consideraciones éticas inherentes en cualquier tecnología de detección de deepfakes.
Microsoft también se ha asociado con un consorcio de compañías de medios, incluida la BBC, CBC/Radio-Canada y el New York Times, en Project Origin, que utilizará la tecnología de autenticación y ayudará a avanzar en un estándar que pueda ser adoptado de manera amplia. La iniciativa Trusted News, que incluye a un amplio grupo de editoriales y compañías de redes sociales, también va a poner a prueba la tecnología.
Ayudar a los usuarios a evaluar las fuentes de confianza
En los últimos meses, Microsoft también ha ampliado de forma considerable su implementación de NewsGuard, que permite a las personas tener más detalles sobre las diferentes fuentes de noticias online antes de consumir sus contenidos. NewsGuard cuenta con la colaboración de un equipo de periodistas experimentados que califican las webs de noticias basándose en nueve criterios de integridad periodística, que utilizan para crear tanto una etiqueta cualitativa como una clasificación “rojo/verde” para cada sitio web de noticias evaluado.
Microsoft no tiene control editorial sobre ninguna de las calificaciones de NewsGuard y la extensión no limita el acceso a la información de ninguna forma. En su lugar, NewsGuard busca brindar mayor transparencia e invitar a la “alfabetización mediática” al ofrecer un contexto relevante sobre la fuente de noticias.
Los usuarios pueden acceder al servicio de NewsGuard a través de la descarga de una sencilla extensión de navegador, que está disponible para todos los navegadores estándar y es gratuita para Microsoft Edge.
Para más información sobre el compromiso de Microsoft en la lucha contra la desinformación y sus últimas novedades, por favor, visita este post.
