Por John Montgomery – Vicepresidente Corporativo de Azure AI.
En los últimos meses, los avances notables en la innovación de la IA han desencadenado una ola de posibilidades transformadoras, cautivando nuestra imaginación colectiva con la promesa de reconfigurar industrias y la forma en que trabajamos.
Hoy, en Microsoft Inspire, Meta y Microsoft anunciaron el soporte para la familia de modelos de lenguaje grande (LLM) Llama 2 en Azure y Windows. Llama 2 está diseñado para permitir a los desarrolladores y organizaciones construir herramientas y experiencias impulsadas por IA generativa. Meta y Microsoft comparten el compromiso de democratizar la IA y sus beneficios, y nos entusiasma que Meta esté adoptando un enfoque abierto con Llama 2. Ofrecemos a los desarrolladores la opción de los tipos de modelos en los que construyen, respaldando modelos abiertos y de vanguardia, y estamos emocionados de ser el socio preferido de Meta a medida que lanzan su nueva versión de Llama 2 a clientes comerciales por primera vez.
Ahora los clientes de Azure pueden ajustar e implementar fácilmente y de forma más segura, los modelos Llama 2 con parámetros 7B, 13B y 70B en Azure, la plataforma para los modelos abiertos y de vanguardia más ampliamente adoptados. Además, Llama se optimizará para ejecutarse localmente en Windows. Los desarrolladores de Windows podrán usar Llama apuntando al proveedor de ejecución DirectML a través de ONNX Runtime, lo que permitirá un flujo de trabajo sin problemas a medida que incorporen experiencias de IA generativa a sus aplicaciones.
Nuestra creciente asociación con Meta
Meta y Microsoft han sido socios en IA por mucho tiempo, comenzando con una colaboración para integrar ONNX Runtime con PyTorch y crear una excelente experiencia de desarrollo para PyTorch en Azure, así como la elección de Azure por parte de Meta como proveedor estratégico de la nube. El anuncio de hoy se basa en nuestra asociación para acelerar la innovación en la era de la IA y amplía aún más el ecosistema de modelos abiertos de Microsoft y su posición como la plataforma de supercómputo mundial para la IA.
La plataforma de supercómputo de IA de Azure, diseñada específicamente para este propósito, se distingue por sus instalaciones, hardware y software, que brindan soporte a las principales organizaciones de IA del mundo para construir, entrenar e implementar algunas de las cargas de trabajo de IA más exigentes. La disponibilidad de los modelos Llama 2 con Azure AI permite a los desarrolladores aprovechar las potentes herramientas de Azure AI para el entrenamiento de modelos, ajuste fino, inferencia y, en particular, las capacidades que respaldan la seguridad de la IA.
La inclusión de los modelos Llama 2 en Windows ayuda a impulsar a Windows como el mejor lugar para que los desarrolladores creen experiencias de IA adaptadas a las necesidades de sus clientes y aprovechen su capacidad de desarrollo utilizando herramientas de clase mundial como Windows Subsystem for Linux (WSL), la terminal de Windows, Microsoft Visual Studio y VS Code.
Ampliando el catálogo de modelos de Azure AI y la disponibilidad en Windows
Llama 2 es la última incorporación a nuestro creciente catálogo de modelos de Azure AI. El catálogo de modelos, actualmente en vista previa pública, sirve como un centro de modelos base y capacita a los desarrolladores y profesionales de aprendizaje automático (ML) para descubrir, evaluar, personalizar e implementar fácilmente modelos de IA grandes preconstruidos a gran escala.
El catálogo elimina la necesidad de que los usuarios administren todas las dependencias de infraestructura al operacionalizar Llama 2. Proporciona soporte para el ajuste fino y la evaluación del modelo, incluyendo técnicas de optimización poderosas como DeepSpeed y ONNX Runtime, que pueden mejorar significativamente la velocidad del ajuste fino del modelo.
Los desarrolladores de Windows podrán construir fácilmente nuevas experiencias utilizando Llama 2 que se pueden acceder a través de GitHub Repo. Con Windows Subsystem for Linux y GPUs altamente capaces, los desarrolladores pueden ajustar finamente los LLM para satisfacer sus necesidades específicas directamente en sus PCs con Windows.
Construyendo de manera responsable con Azure
La inteligencia artificial responsable está en el centro del enfoque de Microsoft en cuanto a la IA y cómo nos asociamos. Durante años, hemos invertido mucho en hacer de Azure el lugar para la innovación en IA responsable y vanguardista, ya sea que los clientes estén construyendo sus propios modelos o utilizando modelos preconstruidos y personalizables de Microsoft, Meta, OpenAI y el ecosistema de código abierto.
En Microsoft, mitigamos los posibles riesgos presentados por el uso de modelos de lenguaje grandes mediante un enfoque iterativo y en capas que incluye experimentación y medición. Los clientes de Azure AI pueden probar Llama 2 con sus propios datos de muestra para ver cómo funciona en su caso de uso particular. Luego, los clientes pueden utilizar técnicas de ingeniería de instrucciones y generación aumentada con recuperación (RAG) para desarrollar, evaluar y optimizar meta-instrucciones para su aplicación y ofrecer experiencias más seguras y confiables para los usuarios finales.
Servicios como Azure AI Content Safety agregan otra capa de protección, ayudando a garantizar una experiencia en línea más segura con aplicaciones de IA. Como parte de nuestra colaboración con Meta, combinamos las técnicas de seguridad de Meta con Azure AI Content Safety para que, por defecto, las implementaciones de los modelos Llama 2 en Azure AI cuenten con un enfoque de seguridad en capas.
La expansión de nuestro catálogo de modelos con Llama 2 y nuestra asociación con Meta representan un gran avance para lograr un enfoque responsable y abierto hacia la IA.
Visita el catálogo de modelos de Azure AI y comienza a usar Llama 2 hoy mismo.
