Microsoft e Meta expandem parceria de IA com Llama 2 no Azure e Windows
Por John Montgomery, vice-presidente corporativo de Azure AI
Nos últimos meses, os avanços feitos em inovação de IA (Inteligencia Artificial) desencadearam uma série de possibilidades de transformação, cativando o imaginário coletivo com a promessa de remodelar as indústrias e a maneira de se trabalhar.
Hoje, no evento Microsoft Inspire, a Meta e a Microsoft anunciaram o suporte para a família Llama 2 de modelos de linguagem grande (LLMs) no Azure e no Windows. O Llama 2 foi projetado para permitir que desenvolvedores e organizações criem ferramentas e experiências alimentadas por IA. A Meta e a Microsoft compartilham o compromisso de democratizar a IA e seus benefícios e estamos entusiasmados que a Meta esteja adotando uma abordagem aberta com o Llama 2. Oferecemos aos desenvolvedores opções nos tipos de modelos em que eles se baseiam, suportando modelos abertos e de fronteira, e estamos entusiasmados em ser o parceiro preferido da Meta ao lançar sua nova versão do Llama 2 para clientes comerciais pela primeira vez.
Agora, os clientes do Azure podem ajustar e implantar os modelos Llama 2 com parâmetros 7B, 13B e 70B com facilidade e mais segurança no Azure, a plataforma para os modelos de fronteira e abertos mais adotados. Além disso, o Llama será otimizado para ser executado localmente no Windows. Os desenvolvedores do Windows poderão usar o Llama visando o provedor de execução DirectML por meio do ONNX Runtime, permitindo um fluxo de trabalho contínuo à medida que trazem experiências de IA generativas para seus aplicativos.
Nossa crescente parceria com a Meta
A Meta e a Microsoft são parceiras de longa data em IA, começando com uma colaboração para integrar o ONNX Runtime com o PyTorch, criando uma ótima experiência de desenvolvedor para o PyTorch no Azure, e a escolha da Meta do Azure como um provedor de nuvem estratégico. O anúncio de hoje se baseia em nossa parceria para acelerar a inovação na era da IA e amplia ainda mais o ecossistema de modelo aberto da Microsoft e sua posição como a plataforma mundial de supercomputação para IA.
A plataforma de supercomputação de IA do Azure, especialmente desenvolvida para esse fim, é única, desde as instalações até o hardware e o software, para oferecer suporte às principais organizações de IA do mundo na construção, treinamento e implementação de cargas de trabalho de IA mais exigentes. A disponibilidade dos modelos Llama 2 no Azure AI permite que os desenvolvedores aproveitem as poderosas ferramentas do Azure AI para treinamento de modelos, ajustes, inferência e, principalmente, recursos que garantem a segurança da IA.
A inclusão dos modelos Llama 2 no Windows ajuda a impulsionar o Windows como o melhor lugar para os desenvolvedores criarem experiências de IA adaptadas às necessidades de seus clientes e desbloquear sua capacidade de criar usando ferramentas de classe mundial como o Windows Subsystem for Linux (WSL), o terminal Windows, o Microsoft Visual Studio e o VS Code.
Expandindo o catálogo de modelos de IA do Azure e a disponibilidade do Windows
O Llama 2 é a mais recente adição ao nosso crescente catálogo de modelos de IA do Azure. O catálogo de modelos, atualmente em visualização pública, serve como um hub de modelos básicos e capacita desenvolvedores e profissionais de aprendizado de máquina (ML) a descobrir, avaliar, personalizar e implantar facilmente grandes modelos de IA pré-construídos em escala.
O catálogo elimina a necessidade de os usuários gerenciarem todas as dependências de infraestrutura ao operacionalizar o Llama 2. Ele fornece suporte turnkey para ajuste fino e avaliação de modelos, incluindo poderosas técnicas de otimização, como DeepSpeed e ONNX Runtime, que podem aumentar significativamente a velocidade do ajuste fino do modelo.
Os desenvolvedores do Windows poderão criar facilmente novas experiências usando o Llama 2 que pode ser acessado via GitHub Repo. Com o Windows Subsystem for Linux e GPUs altamente capazes, os desenvolvedores podem ajustar os LLMs para atender às suas necessidades específicas diretamente em seus PCs com Windows.
Criando de forma responsável com o Azure
A IA responsável ocupa uma posição central na abordagem da Microsoft em relação à IA e na forma como estabelecemos parcerias. Durante anos, investimos pesado para tornar o Azure o lugar para inovação de IA responsável e de ponta, quer os clientes estejam criando seus próprios modelos ou usando modelos pré-criados e personalizáveis da Microsoft, Meta, OpenAI e do ecossistema de código aberto.
Na Microsoft, mitigamos os riscos potenciais apresentados pelo uso de grandes modelos de linguagem por meio de uma abordagem interativa em camadas que inclui experimentação e medição. Os clientes de IA do Azure podem testar o Llama 2 com seus próprios dados para ver como ele se comporta em cada caso de uso específico. Em seguida, os clientes podem usar técnicas de engenharia imediata e geração aumentada de recuperação (RAG) para desenvolver, avaliar e otimizar metaprompts para seus aplicativos e oferecer experiências mais seguras e confiáveis para os usuários finais.
Serviços como Azure AI Content Safety adicionam outra camada de proteção, ajudando a garantir uma experiência online mais segura com aplicativos de IA. Parte de nossa colaboração com a Meta levou à combinação das técnicas de segurança da Meta com a Azure AI Content Safety para que, por padrão, as implantações dos modelos Llama 2 na IA do Azure venham com uma abordagem de segurança em camadas.
A expansão de hoje de nosso catálogo de modelos com o Llama 2 e nossa parceria com a Meta é um grande passo à frente para alcançar uma abordagem responsável e aberta à IA.
Visite o catálogo de modelos de IA do Azure e comece a usar o Llama 2 hoje mesmo.