Por: Eric Horvitz, director científico en Microsoft.
Los recientes avances en inteligencia artificial han provocado tanto asombro como ansiedad al contemplar su potencial transformador. La IA tiene la enorme promesa de enriquecer nuestras vidas, pero esta anticipación viene entrelazada con temores sobre los desafíos y riesgos que pueden surgir. Para fomentar un futuro en el que la IA se aproveche en beneficio de las personas y la sociedad, es crucial reunir una amplia gama de voces y perspectivas.
Con este objetivo en mente, tengo el honor de presentar la «Antología de IA», una compilación de 20 ensayos inspiradores escritos por distinguidos académicos y profesionales de diversas disciplinas. La antología explora las diversas formas en que la IA puede canalizarse para beneficiar a la humanidad al mismo tiempo que arroja luz sobre los posibles desafíos. Al reunir estos diferentes puntos de vista, nuestro objetivo es estimular conversaciones que inviten a la reflexión y alentar los esfuerzos de colaboración que guiarán a la IA hacia un futuro que aproveche su potencial para el florecimiento humano.
Encontré por primera vez GPT-4, un notable modelo de lenguaje a gran escala, en el otoño de 2022 mientras me desempeñaba como presidente del Comité Aether de Microsoft. Los equipos de liderazgo e ingeniería de Aether obtuvieron acceso temprano a la última innovación de OpenAI, con la misión de investigar los desafíos potenciales y las consecuencias sociales más amplias de su uso. Nuestras consultas se basaron en los Principios de IA de Microsoft, que fueron establecidos por el comité en colaboración con el liderazgo de Microsoft en 2017. Realizamos un análisis exhaustivo de las capacidades de GPT-4, centrándonos en los posibles desafíos que las aplicaciones que emplean esta tecnología podrían plantear en términos de seguridad, precisión, privacidad y equidad.
GPT-4 me dejó asombrado. Observé destellos inesperados de inteligencia más allá de los vistos en sistemas de IA anteriores. En comparación con su predecesor, GPT-3.5, un modelo utilizado por decenas de millones como ChatGPT, noté un salto significativo en las capacidades. Su capacidad para interpretar mis intenciones y proporcionar respuestas sofisticadas a numerosas indicaciones se sintió como una «transición de fase», que evoca imágenes de fenómenos emergentes que había encontrado en la física. Descubrí que GPT-4 es un erudito, con una notable capacidad para integrar conceptos y metodologías dispares por tradición. Combina a la perfección ideas que trascienden los límites disciplinarios.
Las notables capacidades de GPT-4 plantearon dudas sobre posibles interrupciones y consecuencias adversas, así como oportunidades para beneficiar a las personas y la sociedad. Mientras nuestro equipo más amplio exploró de manera enérgica las preocupaciones de seguridad y equidad, profundicé en los desafíos complejos dentro de la medicina, la educación y las ciencias. Se hizo cada vez más evidente que el modelo y sus sucesores, que tal vez exhibirían más saltos en las capacidades, tienen un tremendo potencial para ser transformadores. Esto me llevó a contemplar las ramificaciones sociales más amplias.
Surgieron preguntas sobre la creación y atribución artística, los actores maliciosos, los trabajos y la economía, y futuros desconocidos que aún no podemos imaginar. ¿Cómo podrían reaccionar las personas al dejar de ser la fuente inigualable del pensamiento y la creación intelectual y artística, a medida que las herramientas generativas de IA se vuelven comunes? ¿Cómo afectarían estos avances a nuestra propia identidad y aspiraciones individuales? ¿Qué consecuencias a corto y largo plazo se pueden sentir en el mercado laboral? ¿Cómo se podría acreditar a las personas por sus contribuciones creativas de las que aprenderían los sistemas de IA? ¿Cómo podrían los actores malintencionados explotar estos poderes emergentes para infligir daño? ¿Cuáles son las posibles consecuencias no deseadas importantes de los usos, incluidas aquellas que aún no podemos prever?
Al mismo tiempo, imaginé futuros en los que las personas y la sociedad podrían prosperar de manera extraordinaria a través del aprovechamiento de esta tecnología, tal como lo han hecho con otros avances revolucionarios. Estas influencias transformadoras van desde las primeras herramientas de cognición (nuestros lenguajes compartidos, que permiten una cooperación y coordinación sin precedentes) hasta los instrumentos de la ciencia y la ingeniería, la imprenta, la máquina de vapor, la electricidad e Internet, que culminan en los recientes avances actuales en IA.
Ansiosos por investigar estas oportunidades en colaboración con otros en una amplia gama de disciplinas, iniciamos el proyecto «Antología de IA», con el apoyo de OpenAI. Invitamos a 20 expertos para explorar las capacidades de GPT-4 y contemplar las posibles influencias de futuras versiones en la humanidad. A cada participante se le otorgó acceso confidencial temprano a GPT-4, se le proporcionaron estudios de casos en educación, exploración científica y medicina, extraídos de mis exploraciones, y se le pidió que se concentrara en dos preguntas principales:
- ¿Cómo podrían esta tecnología y sus sucesoras contribuir al florecimiento humano?
- ¿Cómo podemos nosotros, como sociedad, guiar mejor la tecnología para lograr los máximos beneficios para la humanidad?
Sobre la base de las ideas presentadas en mi conferencia Tanner en la Universidad de Michigan en noviembre de 2022 (Arco de la inteligencia: la humanidad y sus herramientas de la razón y la imaginación), estas preguntas destacan la importancia del pensamiento a largo plazo y el mantenimiento de una perspectiva optimista sobre el potencial de la IA para enriquecer la vida humana. Podríamos desbloquear inmensos beneficios potenciales. Pero para realizar este potencial, debemos crear innovaciones técnicas y políticas para proteger contra usos maliciosos y consecuencias no deseadas.
Esta antología es un testimonio de la promesa de la visualización y la colaboración y de la importancia de las diversas perspectivas para dar forma al futuro de la IA. Los 20 ensayos ofrecen una gran cantidad de ideas, esperanzas e inquietudes, que ilustran las complejidades y posibilidades que surgen con la rápida evolución de la IA.
Mientras leen estos ensayos, los animo a permanecer abiertos a nuevas ideas, participar en conversaciones reflexivas y aportar sus ideas al discurso en curso sobre el aprovechamiento de la tecnología de IA para beneficiar y empoderar a la humanidad. El futuro de la IA no es un camino predeterminado, sino un camino que debemos recorrer juntos con sabiduría, previsión y un profundo sentido de la responsabilidad. Espero que las ideas capturadas en estos ensayos contribuyan a nuestra comprensión colectiva de los desafíos y oportunidades que enfrentamos. Pueden ayudar a guiar nuestros esfuerzos para crear un futuro en el que los sistemas de IA complementen el intelecto y la creatividad humanos para promover el florecimiento humano.
Bienvenidos a la «Antología de IA«. Que los inspire, los desafíe y encienda conversaciones significativas que nos lleven hacia un futuro en el que la humanidad prospere aprovechando la IA de formas creativas y valiosas.
Publicaremos cuatro nuevos ensayos al comienzo de cada semana a partir de hoy. La «Antología de IA» completa estará disponible el 26 de junio de 2023.
Como director científico de Microsoft, Eric Horvitz encabeza iniciativas en toda la empresa, explorando oportunidades y desafíos en la confluencia de las fronteras científicas, la tecnología y la sociedad. Es conocido por sus contribuciones a la teoría y la práctica de la IA, incluida la investigación sobre los principios y las aplicaciones de la IA en medio de las complejidades del mundo abierto.
Los puntos de vista, las opiniones y las propuestas expresadas en estos ensayos pertenecen a los autores y no reflejan necesariamente la política o posición oficial de ninguna otra entidad u organización, incluidos Microsoft y OpenAI. Los autores son los únicos responsables de la exactitud y originalidad de la información y los argumentos presentados en sus ensayos. La participación en la “Antología AI” fue voluntaria y no se otorgaron incentivos ni compensaciones a los autores.
