Un prometedor paso adelante contra la desinformación

una maqueta de un estudio de TV

Por: Eric Horvitz, asociado técnico y director científico.

“¿Qué podemos hacer?”

Esas palabras resonaban en mi cabeza cuando regresé del Foro Económico Mundial en Davos, a principios de 2019. El director de una importante organización de noticias me hizo esa pregunta a quemarropa después de que revisamos juntos varios videos deepfake en una reunión que había organizado con él para discutir los esfuerzos realizados para el Programa Defending Democracy de Microsoft. Los videos demostraron cómo la IA y los gráficos se pueden aprovechar para generar representaciones persuasivas y realistas de líderes políticos diciendo cosas que no han dicho.

¿Qué se podría hacer para abordar el riesgo que representan para el periodismo y la democracia los medios sintéticos y manipulados? ¿Cómo podríamos abordar los desafíos sin precedentes generados por la combinación de nuevas formas de desinformación con el intercambio viral de contenido en internet?

No hay respuestas fáciles, pero han surgido varias ideas prometedoras. Una dirección importante en la lucha contra la desinformación es desarrollar y desplegar tecnologías para certificar el origen, autenticidad e historial de los medios en línea, a lo que nos referimos como procedencia de contenido. Estoy entusiasmado por el progreso en esta dirección, alimentado por fuertes colaboraciones entre organizaciones.

Hemos alcanzado un hito importante. Microsoft y la BBC han hecho equipo con Adobe, Arm, Intel y Truepic para crear la Coalición para la Procedencia y Autenticidad del Contenido (C2PA). La C2PA es un organismo que establece estándares que desarrollará un estándar abierto de extremo a extremo y especificaciones técnicas sobre la procedencia y autenticación del contenido. Los estándares se basarán en dos esfuerzos de implementación: los esfuerzos de Project Origin (Origin) sobre la procedencia para la publicación de noticias y la Iniciativa Content Authenticity (CAI, por sus siglas en inglés), que se enfoca en la atribución de contenido digital.

Juntos, somos una coalición pequeña pero en crecimiento con una misión compartida de restablecer la confianza en el contenido digital, a través de métodos que autentican las fuentes y rastrean la evolución de la información que consumimos. Estos esfuerzos requerirán de la participación de organizaciones globales con un deseo de combatir la desinformación, consumidores que desean recuperar la confianza en lo que ven y escuchan, y legisladores con los mejores intereses de toda la sociedad como su máxima prioridad.

Desde la exploración a la posibilidad

La formación de C2PA se produce mediante la resolución creativa de problemas en múltiples organizaciones, con esfuerzos innovadores que ocurren de manera independiente y conjunta.

Poco después de mis reuniones en Davos, esbocé los primeros pasos de una solución para abordar la autenticación y procedencia de los medios. Necesitaríamos marcas de agua para etiquetar contenido, combinado con una sólida seguridad y un medio para almacenar y realizar seguimiento de los cambios permitidos en el contenido a lo largo del tiempo. Me acerqué para aprovechar la larga experiencia de colegas de Microsoft Research: Henrique (Rico) Malvar, un experto en procesamiento de señales con un largo historial de contribuciones a la gestión de derechos y las tecnologías de compresión, Paul England, especialista de seguridad y privacidad quien desarrolló las tecnologías Trusted Platform Module (TPM) para encriptar dispositivos, y Cédric Fournet y Manuel Costa, quienes lideraron los esfuerzos en el Confidential Consortium Framework (CCF), un marco de código abierto para construir una nueva categoría de redes blockchain seguras y de alto rendimiento.

Desafié al equipo con una pregunta: ¿Podemos construir un canal de extremo a extremo que pueda autenticar la identidad de la fuente del contenido audiovisual y asegurar, sobre la transmisión y una mayor historia de vida de ese contenido que, los “fotones que golpean la superficie de una cámara sensible a la luz serían representados de manera apropiada por los pixeles en las pantallas que vean los consumidores”? ¿Podría ese sistema “de vidrio a vidrio” asignar con precisión un “aprobado” o “reprobado” a los medios digitales, según si el contenido se modificó más allá de un conjunto de cambios aceptables, asociados con una posproducción y transmisión normales?

Pizarra blanca con notas de una reunión temprana de Amp
Una pizarra temprana capturada como parte de las notas tomadas sobre el esfuerzo Amp

Pasamos horas en las que dibujábamos en una pizarra, hacíamos lluvias de ideas y realizábamos ataques a posibles soluciones antes de idear un canal de tecnología y técnicas con las que nos sintiéramos confiados. Las primeras sesiones de trabajo con los miembros del equipo inicial eran sólo el comienzo. Gracias a los esfuerzos de otros investigadores e ingenieros, incluido Jay Stokes, experto de seguridad en Microsoft Research, y Andrew Jenks, líder de Azure Media Security, desarrollamos una solución a la que nos referimos como Autenticación de medios a través de procedencia (AMP, por sus siglas en inglés), un modelo para autenticar la procedencia de contenido de medios.

Se vuelve real

Mover una solución propuesta de pizarras, papeles y prototipos al mundo real de los medios de comunicación, requiere de sólidas asociaciones, en particular con socios que están en el negocio de la creación y distribución de contenido. Encontramos una fuerte resonancia con el liderazgo técnico y programático de la BBC. También habíamos desarrollado relaciones con clientes potenciales de ideas afines en CBC Radio Canadá y The New York Times, a través de un grupo de trabajo que exploraba las amenazas de la IA a la integridad de los medios, organizado por Partnership on AI. Nos encantó descubrir que nuestros colegas también pensaban a profundidad sobre la procedencia de los medios y se identificaban con las direcciones que habíamos seguido. Al trabajar juntos, refinamos las ideas y las presentamos a la comunidad de transmisión en general.

Reunión de Partnership on AI
En la reunión de Partnership on IA con (izq. a der.) Eric Horvitz (Microsoft), Jatin Aythroa (director de arquitectura en BBC), Bruce Maccormack (CBC Radio Canadá) y Marc Lavallee (Director de I+D en The New York Times).

En 2020, BBC, CBC Radio Canadá, The New York Times y Microsoft, defendieron el Proyecto Origin. La meta de la asociación Origin es promover la colaboración y el debate sobre la creación y adopción de un nuevo proceso de seguimiento de la procedencia de los medios, centrado en el contenido de noticias e información.

Ahora tenemos una prueba técnica de concepto de Origin, que establece una cadena de confianza entre el editor y el usuario final. Pueden conocer más aquí o ver este divertido video con Rico. La idea básica es que el editor de un archivo de medios, en este caso un video, firmará de manera criptográfica una huella digital del archivo en el momento de la publicación. Esa firma y huella digital pasan a formar parte de una bitácora y se envía un recibo al editor. Cuando un consumidor ve el archivo, el navegador o reproductor de video revisan la bitácora para el manifiesto y el recibo, luego muestra una señal al usuario que indica si ese contenido está certificado.

Más allá de Origin, nuestro equipo ha tenido la oportunidad de colaborar y contribuir en un esfuerzo relacionado, la Iniciativa Content Authenticity (CAI), liderada por Adobe. La CAI construye un sistema para brindar la procedencia y el historial de los medios digitales, lo que brinda a los creadores una herramienta para reclamar la autoría e impulsa a los consumidores para que evalúen si lo que ven es confiable.

Seguir adelante

Los líderes de Origin y CAI ahora se han unido para defender a C2PA. Estamos muy entusiasmados por este paso adelante y nos sentimos honrados de ser parte de esta jornada. Si bien continuarán los flujos de trabajo en Project Origin y CAI, hemos formado C2PA para aplicar lo que hemos aprendido, a fin de generar los requerimientos y estándares técnicos que respaldarán la interoperabilidad de las soluciones y la aplicación más amplia de tecnologías para detectar y frustrar el contenido manipulado.

¿Qué podemos hacer? Esa pregunta enmarcó nuestros esfuerzos iniciales cuando comenzamos todo frente a una pizarra en blanco con marcadores en las manos. Pero con los esfuerzos de investigadores, ingenieros, tecnólogos y asesores que abarcan múltiples tipos de organizaciones y experiencia, hemos podido dar vida a esas prometedoras soluciones, destinadas a fortalecer el periodismo y proteger los cimientos de nuestras sociedades democráticas.

Recursos relacionados:

Tags: , , , ,

Publicaciones Relacionadas