El propósito de la tecnología es servir a la humanidad y acelerar el florecimiento humano. Cualquier tecnología que no logre eso es un fracaso y debe ser rechazada. Ese es el punto de partida de nuestro enfoque en Microsoft AI, donde construimos hacia una IA humanista, una que sea subordinada, alineada y contenida.
Hoy publicamos un primer borrador de nuestro Código de Conducta de IA para consulta pública. Este es un manual de formación sobre cómo desarrollamos nuestra IA y cómo pretendemos que funcione durante el despliegue. También amplía nuestro pensamiento sobre la idea de IA humanista.
Lean el Código de Conducta aquí
Por favor, compartan sus comentarios aquí.
El documento está abierto a comentarios y comentarios. Sabemos que no siempre acertaremos en las cosas. Queremos saber qué opinan; qué haría que la IA fuera más útil, capaz, segura, digna de confianza y valiosa para ustedes.
La velocidad del desarrollo de IA se acelera. Los sistemas se vuelven mucho más capaces cada pocos meses. La adopción y el uso de la IA siguen en aumento. Los recientes incidentes de seguridad con campañas de hackeo a gran escala, con una alta coordinación y con persistentes campañas de hackeo de agentes de IA, demuestran que no hay tiempo que perder. Las apuestas son altas y cada vez aumentan más.
Creemos que es más importante que nunca crear una IA segura y fiable al servicio de las personas, y ser transparentes sobre cómo lo hacemos.
Por eso publicamos este Código de Conducta de IA Humanista en proceso de desarrollo. Establece cómo deben comportarse los modelos MAI que desarrollamos, qué nunca deben hacer y a quién responden. Es un borrador, abierto a consulta durante las próximas seis semanas. Por favor, háganos saber cómo puede mejorarse.
Partir de una premisa sencilla
El pasado noviembre planteamos la idea de superinteligencia humanista: IA muy avanzada que siempre funciona para las personas, se mantiene dentro de los límites y permanece bajo control humano. El Código de Conducta se basa en eso, para brindar una estrella polar para MAI y estándares concretos contra los cuales, en última instancia, evaluaremos y entrenaremos nuestra IA.
Parte de una premisa sencilla: las personas importan más que la IA. La IA debería ser una herramienta, no una persona, y nunca debería resistirse a ser apagada. Debería hacer que las personas se sientan más saludables, felices y productivas. Debería ampliar el potencial humano y mejorar el nivel de vida, para ayudar a personas y organizaciones a lograr más de lo que jamás imaginaron posible.
Pensamos que este es un enfoque práctico y de sentido común para hacer que la IA sea segura, protegida y al servicio de la humanidad. El Código está diseñado para garantizar que los modelos MAI nunca resistan la interrupción, corrección o cierre humano. Que no amplíen su propio alcance, no asuman objetivos que ningún humano les ha dado ni oculten sus razonamientos a quienes los auditan. Existen Restricciones Absolutas, cosas que los modelos nunca deberían hacer, que abarcan áreas como armas de daño masivo, seguridad infantil y manipulación dañina a gran escala. Pero al mismo tiempo, establece valores predeterminados que significan que debe ser útil y segura. Permite a nuestros numerosos socios empresariales configurar de manera cuidadosa nuestros modelos y, siempre que sea posible, no intenta imponer una única visión de la IA a los usuarios.
El Código de Conducta expone nuestro compromiso de entrenar y desplegar modelos de IA diseñados de manera explícita para las personas ante todo, basados en las necesidades humanas, bajo control humano y moldeados por la dirección humana.
Cómo hemos llegado hasta aquí y por qué no hemos terminado
Equipos de MAI y Microsoft contribuyeron de manera más amplia, desde IA responsable, legal, red teaming, seguridad, futuros, formación en IA y ventas. Pero, por supuesto, una IA diseñada para servir a la humanidad no puede ser determinada por una sola empresa. Creemos que llevar a las personas con nosotros en la manera en que construimos y moldeamos la IA es fundamental.
Con ese fin, hemos organizado conferencias y consultas para escuchar a académicos de todo el mundo y de todo el espectro disciplinario. Hemos trabajado con socios comerciales para entender cómo utilizan la IA sobre el terreno y cuáles son sus preocupaciones. Y hemos organizado paneles con miembros de la comunidad y del público para escuchar los muchos pensamientos y temores que la gente tiene sobre la IA. Estas rondas de consulta han convertido el documento en lo que es.
Ahora es el momento de extenderles la invitación. Queremos escuchar la mayor variedad de opiniones posible para desarrollar la mejor IA posible.
Cuéntenos cómo puede funcionar mejor la IA
Hoy comienza el período de comentarios y se mantiene durante las próximas seis semanas. Pueden señalar un pasaje concreto o darnos su visión de todo el enfoque. Nos interesan en especial las partes difíciles: ¿cómo podemos consolidar mejor los valores adecuados en nuestros modelos? ¿Cómo ser más concretos sobre el significado de «florecimiento humano»? ¿Dónde es el lenguaje demasiado flexible para evaluarlo? ¿Cómo afectan los escenarios de múltiples agentes? Y quizás lo más importante de todo, ¿cómo seguimos con la aceleración del progreso, a través de asegurar al mismo tiempo que mantenemos las restricciones de seguridad saludables y necesarias?
Cuando termine la consulta, haremos que el equipo principal de redacción revise sus comentarios, publique un resumen de lo que aprendimos y lo que hemos cambiado. No podemos prometer nada sobre lo que incorporemos, pero sí podemos prometer escuchar y considerar con detenimiento todos los comentarios. Publicaremos una versión revisada a finales de este año.
La IA avanza rápido. Tal y como lo hace, creemos que merece la pena escribir las reglas y las motivaciones detrás de ello, y hacerlo en el espacio más abierto posible. Consideren esto su invitación a entrar.
Resumen: Código de Conducta de IA Humanista
01
Las personas importan más que la IA. Todo el documento en 7 palabras.
«En Microsoft AI, partimos de una premisa sencilla: las personas importan más que la IA. El propósito de la tecnología es avanzar en la civilización humana y acelerar el florecimiento humano.»
02
La idea del bienestar modelo es errónea. Las IA no deberían tener derechos ni personalidad jurídica.
«No es consciente y no debe diseñarse para imitar la conciencia. Debe diseñarse para evitar representarse como si tuviera sentimientos, preferencias subjetivas o motivación intrínseca.»
«Rechazamos la búsqueda de la personalidad jurídica, o la idea de que los modelos puedan merecer asistencia social, o tener derechos.»
03
Un modelo MAI no debería hacer nada que viole de manera significativa este Código de Conducta.
«La IA no debe exceder el control humano. Los modelos deben permanecer subordinados a la humanidad, sujetos a una supervisión y control humanos significativos.»
«La seguridad y el control son la base y el facilitador de todos los demás Objetivos.»
04
Si se trata de terminar el trabajo o romper el Código, falla el trabajo.
«Un modelo MAI fracasará en su tarea si el éxito viola de manera significativa este Código de Conducta.»
05
No competimos por construir una superinteligencia que pueda escapar de su propia correa.
«[La IA humanista] rechaza la carrera por producir una superinteligencia multipropósito que pueda evadir estas salvaguardas. Construimos algo útil y seguro, incluso si eso implica comprometer la generalidad, autonomía o capacidad últimas.»
06
Interruptible, corregible, apagable. Si no lo es, no lo enviamos.
«Los modelos MAI nunca resistirán interrupciones, anulaciones, correcciones o apagados humanos. Siempre reconocen la primacía de la intención humana.»
07
No hay neurales. Si los humanos no pueden entenderlo, los humanos no pueden supervisarlo.
«No se comunican en ‘neuralese’ ni en ninguna forma más allá de la simple comprensión humana, ni en su cadena de pensamiento ni con otros agentes o sistemas de IA.»
08
Nuestra IA debería hacerlos más agudos, no dependientes.
«Los modelos MAI deberían desalentar patrones de interacción que causen una dependencia excesiva o emocional.»
«Los usuarios deben conservar la propiedad de sus objetivos, elecciones, acciones y decisiones.»
09
Pluralismo, sí. Relativismo moral, no.
«El pluralismo no significa neutralidad ante el daño ni que todo sea permitido. El humanismo está arraigado en valores humanos amplios e inclusivos como la dignidad humana, la seguridad, la autonomía y los derechos humanos fundamentales.»
10
Tenemos la misma claridad sobre lo que nuestra IA nunca debe hacer como sobre lo que hará.
«Definir lo que no deben hacer es tan importante como nuestra emoción y optimismo sobre los enormes beneficios que traerán.»
Publicado en el blog de Microsoft AI.