Por Vanessa Ho
Os clientes que compram um carro usado às vezes podem se sentir sobrecarregados pesquisando inúmeras especificações e avaliações dos veículos, mas a CarMax, maior varejista de carros usados dos EUA, está facilitando o acesso a informações mais úteis para os clientes.
Graças aos poderosos modelos de linguagem de IA, os potenciais compradores agora podem ver resumos de avaliações de clientes para cada fabricante, modelo e ano de veículo que a empresa vende, cerca de 5.000 combinações em um vasto inventário de aproximadamente 45.000 carros. Os resumos fornecem destaques fáceis de ler a partir de avaliações reais dos clientes: se é um ótimo carro familiar, quão confortável é o passeio ou se há espaço suficiente no porta-malas para as aventuras de fim de semana.
A CarMax também usou os modelos para criar um novo conteúdo do site, que permite que os clientes vejam facilmente o que há de novo em cada versão de um carro, ajudando-os a decidir se novos recursos valem a pena ou não.
A empresa gerou uma enorme quantidade de conteúdo original em apenas alguns meses — uma taxa antes impossível — com poderosos modelos de linguagem natural GPT-3 construídos pela empresa OpenAI. Para expandir o trabalho, a CarMax agora está usando o Serviço Azure OpenAI, que combina acesso aos modelos da OpenAI com os recursos de nível corporativo do Azure, como segurança, conformidade e disponibilidade regional.
“Com o Serviço Azure OpenAI, somos capazes de criar conteúdo que capacite nossos clientes para que eles possam estar bem-informados antes de tomar uma decisão”, comentou Shamim Mohammad, Vice-presidente Executivo e Chief Information & Technology Officer da CarMax. “Ser capaz de inovar em escala, ser capaz de tornara experiência dos clientes mais fácil, ser capaz de experimentar — todas essas coisas são possíveis por causa desse serviço e da parceria que temos com a Microsoft.”
No Build, que acontece hoje, a Microsoft anunciou que o Serviço Azure OpenAI está disponível a partir de uma prévia com acesso limitado. Os clientes que quiserem usar o serviço podem solicitar o acesso. Introduzido no Ignite 2021 como um novo produto dentro da família de Serviços Cognitivos do Azure, parte do Azure AI, o Serviço Azure OpenAI estava disponível anteriormente apenas para convidados.
“Com o Serviço Azure OpenAI, somos capazes de criar conteúdo que capacite nossos clientes para que eles possam estar bem-informados antes de tomar uma decisão.”
O serviço possui um novo sistema de IA responsável que filtra conteúdo nocivo e ajuda a detectar abusos. Além disso, o Serviço Azure OpenAI agora oferece acesso a mais modelos, incluindo modelos GPT-3, Codex e incorporações. O Codex pode gerar código e traduzir linguagem simples para código, enquanto as incorporações facilitam a busca semântica e outras tarefas. O serviço também oferece novos recursos para os clientes ajustarem modelos para resultados mais personalizados.
Fornecendo aos clientes as garantias e promessas do Azure
O Serviço Azure OpenAI está permitindo que clientes de todos os setores, desde saúde até serviços financeiros e manufatura, realizem rapidamente uma série de tarefas. As inovações incluem gerar conteúdo exclusivo para os clientes, resumir e classificar o feedback dos clientes e extrair texto de prontuários médicos para simplificar o faturamento. Os usos mais comuns têm sido a assistência na escrita, tradução da linguagem natural para código, além da obtenção de insights de dados através da pesquisa, extração de entidades, sentimento e classificação.
“Uma das coisas mais interessantes é a variedade de casos de uso que podem ser suportados fora de um único modelo”, citou Eric Boyd, Vice-presidente Corporativo de Azure AI na Microsoft. “O Serviço Azure OpenAI está realmente liderando o caminho com esses novos modelos grandes de linguagem e dando aos clientes as garantias e promessas do Azure de que isso será confiável e seguro, e sua privacidade será protegida, pois eles exploram essa incrível fronteira do que é possível com essas novas tecnologias.”
Através da API da OpenAI e do Serviço Azure OpenAI, a CarMax usou o GPT-3 para resumir e ajustar abstratamente 100.000 avaliações de clientes em 5.000 resumos bem escritos. O trabalho teria levado 11 anos para a equipe editorial da CarMax, disse Kevin Hopwood, Engenheiro de Software da empresa.
“Os resumos e outros conteúdos gerados por modelos melhoraram o engajamento do cliente e a otimização do mecanismo de busca, enquanto o tempo economizado permitiu que os criadores de conteúdo da CarMax se concentrassem em pesquisas mais profundas, artigos de longa duração e tarefas mais criativas”, ele comentou.
“A melhor coisa que podemos fazer é liberar seu tempo para que eles possam explorar novas ideias de conteúdo e novas maneiras de engajar os clientes”, disse Hopwood.
A segurança, conformidade, confiabilidade e outros recursos de nível corporativo do Azure permitirão que a CarMax escale seu uso de GPT-3 para casos que exijam a extração de milhões de palavras-chave. A capacidade do modelo de aprender com apenas alguns exemplos de saídas pretendidas, um processo chamado de aprendizado de poucos tiros, ajudará as 60 equipes de produtos da CarMax a usarem os modelos sem precisar de equipes adicionais de cientistas de dados.
“Sendo um serviço integrante do Azure, essa ferramenta coloca muito poder em nossos tradicionais engenheiros que usam Microsoft C#, e isso eles não tinham antes”, disse Sean Goetz, Diretor de Sistemas de Aplicativos da CarMax. “Podemos expandi-lo para outras equipes, assim como qualquer outro conjunto de ferramentas da Microsoft.”
Construindo sistemas para suportar a IA responsável
O poder do GPT-3, que é pré-treinado em uma vasta quantidade de texto na internet, vem com o risco de gerar resultados prejudiciais ou não intencionais. A Microsoft fez investimentos significativos para ajudar na proteção contra abusos e danos não intencionais, o que inclui exigir que os candidatos mostrem casos de uso bem definidos e incorporem os princípios da Microsoft para o uso responsável de IA. Uma maneira importante de a CarMax e outros clientes atenderem aos critérios é tendo humanos no fluxo para garantir que as saídas de modelos sejam precisas e de acordo com os padrões de conteúdo antes de serem publicadas.
O novo sistema de IA responsável integrado no Serviço Azure OpenAI pode ajudar a filtrar conteúdo sexual, violento, odioso ou relacionado à automutilação. A equipe planeja adicionar filtros adicionais e recursos de personalização à medida que trabalham com os clientes durante o período de prévia e aprender o que é necessário na prática.
“Construímos o sistema para não dizer que estamos filtrando tudo e temos a resposta certa, mas para conseguir esse feedback e se adaptar rapidamente.”
O sistema de filtragem também identifica possíveis padrões de abuso ou danos não intencionais, nesse caso a Microsoft trabalharia com clientes para investigar, responder e bloquear um usuário abusivo, se necessário. Uma equipe de resposta a incidentes está disponível para atualizar rapidamente os filtros de conteúdo à medida que o idioma evoluir. Por exemplo, se uma nova calúnia racial surgir, a equipe responderá rapidamente e bloqueará o termo como discurso de ódio.
“Construímos o sistema para não dizer que estamos filtrando tudo e temos a resposta certa, mas para conseguir esse feedback e se adaptar rapidamente”, mencionou Sarah Bird, Líder de IA Responsável da Microsoft para Azure AI. “Também não estamos fazendo um julgamento sobre se é ou não apropriado para os usuários postarem determinado conteúdo online. Estamos dizendo que não achamos que nosso sistema de IA deve gerar esse tipo de conteúdo.”
Para ajudar os clientes a construir sistemas robustos, a Microsoft também está fornecendo diretrizes e padrões de design da experiência do usuário, e uma nota de transparência descrevendo os limites, usos e características pretendidos para o serviço.
“Pensamos com muito cuidado sobre as ferramentas que criamos e como elas serão usadas, e estamos realmente tentando garantir que elas sejam usadas com responsabilidade para que os benefícios dessa tecnologia possam servir para todos”, comentou Boyd, da Microsoft.
Os princípios da IA Responsável têm sido um guia útil para a Farmlands, a maior cooperativa de suprimentos rurais da Nova Zelândia, onde os revisores humanos também fazem parte de seu trabalho com o Serviço Azure OpenAI para melhorar o atendimento ao cliente e gerar novos conteúdos para seu site.
A Farmlands usou a API da OpenAI e o Serviço Azure OpenAI para condensar 350.000 interações de clientes em breves resumos, que ajudam os associados do call center a entender rapidamente a situação de um cliente e responder efetivamente. No passado, os associados tinham que percorrer e-mails e notas sobre o caso enquanto mantinham o cliente esperando. Os resumos podem captar sutilezas, como sarcasmo, e complexidades como um caso envolvendo 11 interações com um cliente que recebeu o combustível errado.
“Isso economiza tempo para nossa equipe de call center e melhora a experiência de nossos clientes”, citou Gareth Pullar, Gerente de Insights e Análises da Farmlands.
A varejista também está usando o serviço para extrair palavras-chave das interações e classificar as interações como “positivas”, “neutras” ou “negativas”. Ela está explorando um chatbot técnico interno e a geração de descrições de produtos para seu site de comércio eletrônico. O uso do Serviço Azure OpenAI significa que os engenheiros que usam a pilha completa do Azure poderão obter insights de dados sobre as tendências dos clientes com mais facilidade, ao mesmo tempo em que escalam seu uso de conteúdo gerado por modelos para toda a empresa, disse Pullar.
“Em termos de geração de conteúdo, é um divisor de águas”, disse Jean van Schalkwyk, Líder de BI da Farmlands. “É uma tecnologia muito incrível.”
