Por: Samantha Kubota, escritora de Microsoft.
Los ven en sus redes sociales: vídeos de bebés adorables que dicen cosas que suenan muy adultas, figuras públicas que hacen declaraciones poco características de ellos, fotos de naturaleza demasiado descabelladas para ser verdad. En la era de la IA, ver no siempre es creer.
Los deepfakes1 amenazan la confianza en las noticias, las elecciones, las marcas y las interacciones cotidianas, llevándonos a cuestionar qué es real. Determinar qué es auténtico o manipulado es el tema del informe de Microsoft «Media Integrity and Authentication: Status, Directions, and Futures«. El estudio evalúa los métodos de autenticación actuales para comprender mejor sus limitaciones, explorar posibles formas de fortalecerlos y ayudar a las personas a tomar decisiones informadas sobre el contenido en línea que consumen.
Los autores concluyen que ninguna solución única puede prevenir el engaño digital por sí sola. Métodos como la procedencia, la marca de agua y la huella digital pueden ofrecer información útil como quién creó el contenido, qué herramientas se usaron y si este ha sido modificado.
Las personas pueden ser engañadas por los medios si carecen de información como su origen e historia, o si su información es de baja calidad o engañosa. El objetivo del informe es proporcionar una hoja de ruta para ofrecer más información de procedencia de alta garantía en la que el público pueda confiar, según Jessica Young, directora de política científica y tecnológica en la Oficina del Director Científico de Microsoft.
Ayudar a las personas a reconocer indicadores de contenido de mayor calidad es cada vez más importante a medida que los deepfakes se vuelven más disruptivos y la legislación sobre procedencia en varios países, incluido Estados Unidos, introduce aún más formas de ayudar a las personas a autenticar contenido más adelante este año.
La procedencia de los medios ha evolucionado durante años, con Microsoft como una pionera en la tecnología en 2019 y como cofundadora de la Coalición para la Proveniencia y Autenticidad del Contenido (C2PA, por sus siglas en inglés) en 2021 para estandarizar la autenticidad de los medios.
Young, copresidenta del estudio, explica más sobre lo que todo esto significa:
¿Qué motivó el estudio?
«La motivación era doble», dice Young. «La primera es el reconocimiento del momento en el que estamos ahora mismo. Sabemos que las capacidades de IA generativa ganan cada vez más potencia. Cada vez es más difícil distinguir entre contenido auténtico —como contenido capturado por una cámara, frente a deepfakes sofisticados— y, como resultado, ahora mismo hay un gran aumento en los intereses y requisitos para utilizar esas tecnologías existentes para revelar y verificar si el contenido fue generado o manipulado por IA.
«El momento se ha gestado poco a poco, y tenemos el deseo de ayudar a asegurar que estas tecnologías generen más beneficio que daño, según cómo se usen y entiendan.»
Young añade que el documento pretende informar al ecosistema más amplio de integridad mediática y autenticación, incluidos creadores, tecnólogos, responsables políticos y otros, para entender qué es y qué no es posible en la actualidad y cómo podemos construir sobre ello en el futuro.
¿Qué logró el estudio y qué aprendiste?
El informe describe un camino para aumentar la confianza en la autenticidad de los medios. Los autores proponen una dirección que denominan «autenticación de alta confianza» para mitigar las debilidades de varios métodos de integridad mediática.
Vincular la procedencia de C2PA a una marca de agua imperceptible puede aportar una confianza más o menos alta sobre la procedencia de los medios, afirma.
También señala que el informe tiene muchas advertencias, como que la procedencia de dispositivos tradicionales sin conexión como las cámaras, que a menudo carecen de características de seguridad críticas, puede ser menos fiable porque es más fácil de modificar.
No es posible prevenir cada ataque ni evitar que ciertas plataformas eliminen señales de procedencia, por lo que el reto, dice Young, «es averiguar cómo sacar a la luz los indicadores más fiables con una seguridad sólida incorporada — y, cuando sea necesario, reforzarlos con métodos adicionales que permitan la recuperación o apoyen el trabajo manual de forense digital.»
¿En qué se diferencia este estudio de otros?
Young dice que su estudio investigó dos líneas de pensamiento «poco exploradas» para los tres métodos de verificación. Definen el primero como ataques sociotécnicos, donde la información de procedencia o los propios medios podrían manipularse para que el contenido auténtico parezca sintético o el contenido falso parezca real durante el proceso de validación.
«Imagina que ves una imagen auténtica de un evento deportivo global con el 80% del público que anima al equipo local», dice. «El equipo visitante se involucra en una discusión en línea donde alega: ‘Oye, no, todo eso es una multitud falsa.’ Alguien podría hacer una pequeña e insignificante edición a una persona en la esquina de la imagen y los métodos actuales lo considerarían generado por IA, incluso si el tamaño del público fuera real. Estos métodos que se supone que apoyan la autenticidad ahora refuerzan una narrativa falsa, en lugar de la verdadera.
«Así que, con el conocimiento de cómo funcionan los diferentes validadores, incluso con modificaciones muy sutiles, podrías manipular los resultados que el público vería para intentar engañarles sobre el contenido», dice. El segundo tema clave se basa en el trabajo del C2PA para hacer que las credenciales de contenido sean más duraderas, al tiempo que aborda la fiabilidad. Aquí es donde la investigación resulta en especial novedosa, dice Young. «Analizamos cómo se puede añadir y mantener información de procedencia en diferentes entornos — desde sistemas de alta seguridad hasta dispositivos sin conexión menos seguros — y qué significa eso para la fiabilidad.»
¿Por qué es tan difícil verificar los medios digitales?
Autenticar medios es complejo porque no existe una solución única para todos, dice Young.
«Tienes diferentes formatos que tienen distintas limitaciones o compensaciones para las señales que pueden contener», explica. «Ya sea imágenes, audio, vídeo — sin mencionar el texto, que tiene toda una gama diferente de desafíos — y lo sólidas que pueden aplicarse las soluciones allí.»
Young dice que existen diferentes requisitos y opiniones sobre qué nivel de transparencia es apropiado. En algunos casos, los usuarios pueden no querer que ninguna de sus informaciones personales se incluyan en la procedencia digital de un medio, mientras que en otros, creadores o artistas pueden querer la atribución y optar por incluir su información.
«Así que tienes diferentes requisitos o incluso consideraciones sobre lo que implica esa información de procedencia», dice. «Y luego, al igual que en el campo de la seguridad, ninguna solución es infalible. Así que todos los métodos son complementarios, pero cada uno tiene limitaciones inherentes.»
¿Y ahora qué hacemos?
Young afirma que, a medida que el contenido creado o editado por IA se vuelve más común, el uso de procedencia segura de contenido auténtico es cada vez más importante. Editores, figuras públicas, gobiernos y empresas tienen buenas razones para certificar la autenticidad del contenido que comparten. Si un medio de comunicación graba fotos de un evento, por ejemplo, vincular información de procedencia segura a esas imágenes puede ayudar a demostrar a su audiencia que el contenido es fiable.
«Los organismos gubernamentales también tienen interés en que el público sepa que sus documentos o medios formales son información fiable sobre asuntos de interés público», afirma Young.
Añade que, a medida que las modificaciones por IA en los medios se vuelven «cada vez más comunes» con fines legítimos, la procedencia segura puede proporcionar un contexto importante para evitar que un lector o espectador medio tan solo descarte ese contenido como falso o engañoso.
«Para la industria y para los reguladores, destacamos lo importante que es la investigación continua de los usuarios en esta área para impulsar una exhibición más coherente y útil de esta información al público — para asegurarnos de que en verdad sea significativa y útil en la práctica», afirma Young.
«Tenemos un conjunto limitado de tecnologías que pueden ayudarnos, y no queremos que salgan mal interpretadas o mal usadas.»
Más información en el blog de Microsoft Research.
Imagen principal: Mininyx Doodle/Getty Images
Samantha Kubota reporta sobre todo lo relacionado con la IA y la innovación para Microsoft Signal, con un reciente enfoque en cómo los agentes de IAtransforman el trabajo cotidiano, los avances en investigación de Microsoft y el uso responsable de tecnologías emergentes. Antes de Microsoft, Kubota fue periodista en NBC News. Síganla en LinkedIn y X.
1Contenido digital (video, audio o imagen) creado con inteligencia artificial que imita de forma muy realista a una persona, haciéndola parecer que dice o hace algo que en realidad nunca ocurrió.