Por: Brad Smith, presidente de Microsoft.
En medio de la necesidad actual de centrarse de manera continua en la crisis de COVID-19, es entendible que sea difícil abordar otros problemas importantes. Pero, el pasado 31 de marzo de 2020, el gobernador de Washington, Jay Inslee, ha firmado una histórica legislación de reconocimiento facial que la legislatura del estado pasó el 12 de marzo. Sin embargo, vale la pena tomar un momento para reflexionar en la importancia de este paso. Esta legislación representa un avance significativo – la primera vez que un estado o nación ha pasado una nueva ley dedicada en exclusiva a poner barandillas para el uso de la tecnología de reconocimiento facial.
En 2018, instamos al sector tecnológico y al público a evitar una carrera comercial hasta el fondo para la tecnología de reconocimiento facial. A nuestro modo de ver las cosas, esto requería un piso legal de responsabilidad, regido por el estado de derecho. Desde entonces, el problema ha migrado alrededor del mundo con un amplio rango de reacciones, con la prohibición o establecimiento de moratorias en el uso de reconocimiento facial por parte de algunos gobiernos. Pero hasta ahora, ningún gobierno había promulgado controles legales específicos que permitieran el uso de reconocimiento facial mientras se regulan los riesgos inherentes en la tecnología.
La nueva ley del estado de Washington rompe lo que, a veces, ha sido un debate polarizador. Cuando la nueva ley entre en efecto en 2021, los habitantes de este estado se beneficiarán de las salvaguardas que garanticen pruebas iniciales, transparencia y responsabilidad para el reconocimiento facial, así como medidas específicas para defender las libertades civiles fundamentales. Al mismo tiempo, las agencias de gobierno locales y estatales podrán utilizar servicios de reconocimiento facial para ubicar o identificar personas extraviadas, incluidos sujetos en Alertas Ámbar y Plata, y para ayudar a mantener a salvo al público. Este enfoque balanceado asegura que el reconocimiento facial pueda ser utilizado como una herramienta para proteger al público, pero sólo en formas que respeten los derechos fundamentales y sirvan al interés público.
Aunque la regulación en este campo es claro que va a evolucionar, la nueva ley de Washington brinda un modelo inicial importante. Algunas de las características de la nueva ley son en especial importantes.
Requerimientos de pruebas
Primero, la ley acelerará las fuerzas de mercado para hacer frente al riesgo de sesgos en la tecnología de reconocimiento facial. A partir de 2021, en Washington, una agencia de gobierno estatal o local puede desplegar reconocimiento facial sólo si el proveedor de tecnología pone a disposición una interfaz de programación de aplicación (API, por sus siglas en inglés) u otra capacidad técnica para permitir “pruebas legítimas, independientes y razonables” para “precisión y diferencias de desempeño entre subpoblaciones distintas”. Además, los proveedores deben revelar “cualquier queja o reporte de sesgo referentes al servicio”.
A nuestro modo de ver las cosas, este enfoque es necesario y pragmático. El riesgo de tener sesgos es real. Una investigación reciente de NIST demostró que algunas tecnologías de reconocimiento facial han encontrado tasas de error más altas a través de diferentes grupos demográficos. Como se documenta en la investigación “Gender Shades”, este problema surge cuando se trata de determinar el género de mujeres y personas de color. Como hemos encontrado, ningún cliente quiere comprar un servicio de reconocimiento facial que tiene fallas. Pero, sin la capacidad de someter a estos servicios a pruebas de terceros, es imposible saber la precisión de las tecnologías disponibles. Por lo tanto, las fuerzas del mercado no pueden trabajar de manera efectiva para empujar a las compañías tecnologías a que mejoren su tecnología tan rápido como puedan. La nueva ley de Washington muestra cómo la regulación y las fuerzas del mercado pueden avanzar a la par de manera que progrese la innovación para cumplir con las necesidades del público.
Transparencia y responsabilidad
La nueva ley también promueve otros dos principios éticos y de derechos humanos que son fundamentales para todos los aspectos de la inteligencia artificial (IA): transparencia y responsabilidad. Antes de que una agencia local o estatal pueda comenzar a utilizar reconocimiento facial, primero debe presentar un aviso público de intención y “especificar un propósito para el que será utilizada la tecnología”. Esto garantiza que el público esté informado desde el inicio del proceso de adopción de la tecnología.
Tal vez lo que es aún más importante, la nueva ley también establece un exhaustivo modelo de responsabilidad para la adopción pública de la tecnología de reconocimiento facial. Las agencias que utilicen reconocimiento facial deben establecer “una política clara de uso y manejo de datos” (incluidos protocolos detallados que controlen cómo será desplegada la tecnología), integración de datos y políticas de retención, y fuertes medidas de seguridad cibernética. También deben brindar al público información sobre los “potenciales impactos a la privacidad” de los servicios de reconocimiento facial y las “tasas de coincidencias falsas, impactos potenciales sobre subpoblaciones protegidas, y cómo la agencia hará frente a las tasas de error, determinadas de manera independiente, superiores al 1%” del servicio. Todo esto, sujeto a requerimientos de consulta pública, incluidos procesos de notificación y comentarios, y a reuniones de consulta comunitaria.
La ley también requiere que los seres humanos, y no las máquinas, sean responsables de las decisiones de utilizar tecnología de reconocimiento facial, que es una comprobación importante sobre cómo pueden ser utilizados estos sistemas. Por ejemplo, si el uso de reconocimiento facial resultara en una negación potencial de servicio, una persona deberá verificar la identidad del individuo para evitar decisiones basadas en resultados falsos. Esta obligación de garantizar “una revisión humana significativa” requiere, de manera natural, de personal bien entrenado. Por lo tanto, la nueva ley requiere que las agencias deban realizar entrenamiento periódico para todos aquellos que operen un servicio de reconocimiento facial o que procesen datos personales obtenidos de esta tecnología. Este entrenamiento debe cubrir tanto las capacidades como las limitaciones del servicio, así como la manera de interpretar los resultados del reconocimiento facial.
Protección de las libertades civiles
A través de algunas de las disposiciones más importantes de la nueva ley, el estado de Washington se ha convertido en la primera jurisdicción en promulgar reglas específicas de reconocimiento facial para proteger las libertades civiles y los derechos humanos fundamentales. Si bien, con el tiempo, el público evaluará con razón las maneras de mejorar este enfoque, vale la pena reconocer al principio el exhaustivo enfoque que ha adoptado la legislatura de este estado.
Primero, hay protección contra la vigilancia masiva. Bajo la nueva ley, una autoridad pública no deberá utilizar el reconocimiento facial para involucrarse en “vigilancia en desarrollo, realizar identificación en tiempo real o en casi tiempo real, o iniciar un rastreo persistente” de un individuo excepto en tres circunstancias específicas. Esto requiere, ya sea (1) una orden de arresto; (2) una orden de la corte “para el único propósito de ubicar o identificar a una persona desaparecida o identificar a una persona fallecida; o (3) “circunstancias de exigencia”, un umbral alto y bien desarrollado bajo la ley estatal.
Segundo, hay una protección añadida para derechos humanos específicos. Por ejemplo, las autoridades no deberán utilizar reconocimiento facial para registrar cualquier ejercicio de los derechos de la Primera Enmienda de cualquier individuo. Además, una agencia no deber utilizar el reconocimiento facial basada en las “actividades o ideas religiosas, políticas o sociales” de una persona o su “participación en una organización particular no criminal o en un evento legal”. De manera similar, no deberán utilizar la tecnología con base en la “raza actual o percibida, etnicidad, ciudadanía, lugar de origen, estatus migratorio, edad, discapacidad, género, identidad de género, orientación sexual u otras características protegidas por la ley”, de una persona.
Tercero, existen garantías procesales para los juicios penales. Por ejemplo, las autoridades deben revelar su uso de tecnología de reconocimiento facial a los acusados penales en tiempo y forma antes del juicio. Esto brindará a los acusados el derecho de desafiar el uso de la tecnología si esta tiene fallos o fue usada de manera ilegal.
Cuarto, hay requerimientos detallados de transparencia con relación a las libertadas civiles. La nueva ley detalla informes públicos sobre las órdenes que se solicitaron y concedieron para el uso del reconocimiento facial. Estos informes incluyen información sobre el número y duración de cualquier extensión de la orden, la agencia que solicitó las órdenes y la naturaleza de los espacios públicos donde se realizó la vigilancia.
Poner en contexto la nueva ley de Washington
Por último, es importante considerar la nueva ley de Washington en el contexto de los desarrollos más amplios en IA que hacen avanzar tanto las necesidades públicas y que ponen en riesgo los valores atemporales del mundo.
Primero, una nueva ley de ninguna manera absuelve a las compañías tecnológicas de sus grandes obligaciones de aplicar la auto contención y responsabilidad en su uso de IA. Hoy en día, sólo un estado de 50 en los Estados Unidos brinda al público la protección específica que merecen cuando se trata de reconocimiento facial. La primera pregunta para el resto del mundo es si las compañías tecnológicas deberán dar un paso delante de manera voluntaria para adoptar e implementar principios responsables de IA. Todos debemos esperar que más compañías tecnológicas lo hagan – y que los clientes van a recompensar a aquellos que actúen de manera responsable.
Segundo, la nueva ley es un testimonio de lo que pueden conseguir los líderes legislativos cuando se enfocan no sólo en si el reconocimiento facial debe ser utilizado, sino en cómo debe ser utilizado. Muchos debates con relación al reconocimiento facial, incluido uno que se realizó en 2019 en el estado de Washington, se han estancado en el hecho de si se debe prohibir esta nueva tecnología. Pero, como ilustra de manera clara esta nueva ley, hay mucho más por ganar a partir de una exhaustiva consideración de maneras de proteger al público de los riesgos del reconocimiento facial al regular su uso benéfico. Agradecemos en especial a los líderes legislativos que dirigieron la consideración de estos problemas en la legislatura, incluida la representante Debra Entenman y el senador Joe Nguyem, que también trabaja como empleado de Microsoft cuando no pasa el tiempo en nuestra capital del estado cuando la legislatura está en sesión.
Por último, a medida que consideramos la continua evolución de la regulación del reconocimiento facial, debemos tomar prestada la famosa frase y reconocer que la ley de Washington refleja “no el inicio del fin, sino el final del inicio”. Al fin, ahora existe un ejemplo del mundo real para la regulación específica del reconocimiento facial. Algunos comentarán que hace muy poco. Otros dirán que va muy lejos. Cuando se trata de nuevas reglas para la cambiante tecnología, esta es la definición de progreso.
