Azure OpenAI Service ayuda a los clientes a acelerar la innovación con grandes modelos de IA; Microsoft amplía la disponibilidad

Los clientes que compran un automóvil usado a veces pueden sentirse abrumados al buscar innumerables especificaciones y reseñas, pero CarMax, el minorista de automóviles usados más grande de los Estados Unidos, facilita que los clientes encuentren la información más útil.

Gracias a los poderosos modelos de lenguaje de IA, los compradores potenciales ahora pueden ver resúmenes de las reseñas de los clientes para cada marca, modelo y año de vehículo que vende CarMax, alrededor de 5 mil combinaciones en un vasto inventario de alrededor de 45 mil autos. Los resúmenes brindan conclusiones fáciles de leer de reseñas de clientes reales: si es un excelente automóvil familiar, qué tan cómodo es el viaje o si hay suficiente espacio para empacar para las aventuras de fin de semana.

CarMax también ha utilizado los modelos para crear contenido nuevo en el sitio web que permite a los clientes ver con facilidad las novedades de cada versión de un automóvil, ayudándolos a decidir si vale la pena derrochar en nuevas características.

CarMax generó la enorme cantidad de contenido original en tan solo unos meses, una tasa que antes era imposible, con los potentes modelos de lenguaje natural GPT-3 creados por la empresa OpenAI. Para expandir el trabajo, CarMax ahora usa Azure OpenAI Service, que combina el acceso a los modelos de OpenAI con las capacidades de nivel empresarial de Azure, como seguridad, cumplimiento y disponibilidad regional.

“Con Azure OpenAI Service, podemos crear contenido que empodera a nuestros clientes para que puedan estar informados antes de tomar una decisión”, dijo Shamim Mohammad, vicepresidente ejecutivo y director de tecnología e información de CarMax. “Poder innovar a escala, poder hacer que la experiencia de nuestros clientes sea más fácil, poder experimentar: todas esas cosas son posibles gracias a este servicio y la asociación que tenemos con Microsoft”.

En su conferencia Build de hoy, Microsoft anunció que Azure OpenAI Service ahora está disponible en una vista previa de acceso limitado. Los clientes que deseen utilizar el servicio pueden solicitar el acceso. Presentado en Ignite 2021 como un nuevo producto dentro de la familia Azure Cognitive Services, una parte de Azure AI, el servicio Azure OpenAI antes estaba disponible sólo por invitación.

Con Azure OpenAI Service, podemos crear contenido que empodera a nuestros clientes para que puedan estar informados antes de tomar una decisión.

El servicio cuenta con un nuevo sistema de inteligencia artificial responsable que filtra el contenido dañino y ayuda a detectar el abuso. Además, Azure OpenAI Service ahora ofrece acceso a más modelos, incluidos GPT-3, Codex y modelos integrados. Codex puede generar código y traducir lenguaje sencillo a código, mientras que las incrustaciones facilitan la búsqueda semántica y otras tareas. El servicio también ofrece nuevas capacidades para que los clientes ajusten los modelos para obtener resultados más personalizados.

Dar a los clientes las garantías y promesas de Azure

Azure OpenAI Service permite a los clientes de todos los sectores, desde el cuidado de la salud hasta los servicios financieros y la fabricación, realizar de manera rápida una variedad de tareas. Las innovaciones incluyen generar contenido único para los clientes, resumir y clasificar los comentarios de los clientes y extraer texto de los registros médicos para agilizar la facturación. Los usos más comunes han sido la asistencia en la escritura, la traducción del lenguaje natural al código y la obtención de información sobre los datos a través de la búsqueda, la extracción de entidades, el sentimiento y la clasificación.

Azure OpenAI Service ha ayudado a Farmlands, una cooperativa de suministros rurales de Nueva Zelanda, a resumir las interacciones de los clientes, clasificarlas como «neutrales», «negativas» o «positivas» y extraer palabras clave para obtener información sobre las tendencias de los clientes de manera más rápida. Imagen cortesía de Farmland.

“Una de las cosas más interesantes es la variedad de casos de uso que se pueden admitir a partir de un solo modelo”, dijo Eric Boyd, vicepresidente corporativo de Azure AI en Microsoft. “Azure OpenAI Service en verdad lidera el camino con estos nuevos modelos de lenguaje grande y brinda a los clientes las garantías y promesas en Azure de que esto será confiable y seguro, y su privacidad estará protegida, mientras exploran esta increíble frontera de lo que es posible con estas nuevas tecnologías.”

A través de la API de OpenAI y el servicio Azure OpenAI, CarMax usó GPT-3 para resumir de manera abstracta y ajustar 100 mil reseñas de clientes en 5 mil resúmenes bien escritos. El equipo editorial de CarMax habría tardado 11 años en completar el trabajo, dijo Kevin Hopwood, ingeniero principal de software de la empresa.

Los resúmenes y otro contenido generado por el modelo han mejorado la participación del cliente y la optimización del motor de búsqueda, mientras que el tiempo ahorrado ha permitido a los creadores de contenido de CarMax concentrarse en investigaciones más profundas, artículos extensos y tareas más creativas, dijo.

“Lo mejor que podemos hacer es liberar su tiempo para que puedan explorar nuevas ideas de contenido y nuevas formas de captar clientes”, dijo Hopwood.

El minorista de autos usados CarMax usó Azure OpenAI Service para ayudar a resumir 100 mil reseñas de clientes en descripciones breves que muestran conclusiones clave para cada marca, modelo y año de vehículo en su inventario.

La seguridad, el cumplimiento, la confiabilidad y otras capacidades de nivel empresarial de Azure permitirán a CarMax escalar su uso de GPT-3 en casos que requieran la extracción de millones de palabras clave. La capacidad del modelo para aprender con solo unos pocos ejemplos de los resultados previstos, un proceso llamado aprendizaje de pocos disparos, ayudará a los 60 equipos de productos de CarMax a utilizar los modelos sin necesidad de equipos adicionales de científicos de datos.

“Al ser un servicio de Azure, esta herramienta otorga mucha potencia a nuestros ingenieros tradicionales de Microsoft C# que no tenían antes”, dijo Sean Goetz, director de sistemas de aplicaciones de CarMax. “Podemos expandirlo a otros equipos como cualquier otro conjunto de herramientas de Microsoft”.

Construir sistemas para apoyar la IA responsable

El poder de GPT-3, que está entrenado de manera previa en una gran cantidad de texto de Internet, conlleva el riesgo de generar resultados dañinos o no deseados. Microsoft ha realizado importantes inversiones para ayudar a protegerse contra el abuso y los daños no deseados, lo que incluye exigir a los solicitantes que muestren casos de uso bien definidos e incorporen los principios de Microsoft para el uso responsable de la IA. Una forma importante en que CarMax y otros clientes cumplen con los criterios es tener humanos en el circuito para asegurarse de que los resultados del modelo sean precisos y cumplan con los estándares de contenido antes de que se publiquen.

El nuevo sistema de IA responsable integrado en Azure OpenAI Service puede ayudar a filtrar contenido sexual, violento, de odio o relacionado con autolesiones. El equipo planea agregar filtros adicionales y funciones de personalización a medida que trabajan con los clientes durante el período de vista previa y aprenden lo que se necesita en la práctica.

Hemos construido el sistema no para decir que filtramos todo y tenemos la respuesta correcta, sino para poder obtener esa retroalimentación y adaptarnos de manera rápida.

El sistema de filtrado también identifica posibles patrones de abuso o daño no intencionado, en cuyo caso Microsoft trabajaría con los clientes para investigar, responder y bloquear a un usuario abusivo si fuera necesario. Un equipo de respuesta a incidentes está disponible para actualizar de manera rápida los filtros de contenido a medida que evoluciona el lenguaje. Por ejemplo, si surge un nuevo insulto racial, el equipo responderá con rapidez y bloqueará el término como discurso de odio.

“Hemos creado el sistema no para decir que filtramos todo y tenemos la respuesta correcta, sino para poder recibir esa retroalimentación y adaptarnos de manera rápida”, dijo Sarah Bird, líder responsable de IA de Microsoft para Azure IA. “Tampoco juzgamos si está bien o no que los usuarios publiquen cierto contenido en línea. Lo que decimos es que no creemos que nuestro sistema de inteligencia artificial deba generar este tipo de contenido”.

Para ayudar a los clientes a crear sistemas robustos, Microsoft también proporciona pautas y patrones de diseño de UX, y una nota de transparencia que describe los límites, los usos previstos y las características del servicio.

“Pensamos con mucho cuidado sobre las herramientas que creamos y cómo se van a usar, y en verdad tratamos de asegurarnos de que se van a usar de manera responsable para que los beneficios de esta tecnología puedan beneficiar a todos”, dijo Boyd de Microsoft.

Los principios de IA responsable han sido una guía útil para Farmlands, la cooperativa de suministros rurales más grande de Nueva Zelanda, donde los revisores humanos también forman parte de su trabajo con Azure OpenAI Service para mejorar el servicio al cliente y generar contenido nuevo para su sitio web.

Farmlands, la cooperativa de suministros rurales más grande de Nueva Zelanda, ha utilizado Azure OpenAI Service para resumir las interacciones con los clientes, de modo que los asociados no tengan que poner a los clientes en espera y pasar valiosos minutos desplazándose por las notas para ponerse al día. Foto cortesía de Tierras Agrícolas.

Farmlands usó la API de OpenAI y Azure OpenAI Service para condensar 350 mil interacciones con clientes en breves informes que ayudan a los asociados del centro de llamadas a comprender de manera rápida la situación de un cliente y responder de manera efectiva. En el pasado, los asociados tenían que revisar correos electrónicos y notas de casos mientras mantenían a un cliente en espera. Los resúmenes pueden captar sutilezas como el sarcasmo y complejidades como un caso que involucra 11 interacciones con un cliente que recibió el combustible equivocado.

“Ahorra tiempo al personal de nuestro centro de llamadas y mejora la experiencia de nuestros clientes”, dijo Gareth Pullar, gerente de análisis e información de Farmlands.

El minorista también utiliza el servicio para extraer palabras clave de las interacciones y clasificar las interacciones como «positivas», «neutrales» o «negativas». Ha comenzado a explorar un chatbot técnico interno y la generación de descripciones de productos para su sitio de comercio electrónico. El uso de Azure OpenAI Service significa que los ingenieros, que usan una pila completa de Azure, podrán obtener información sobre las tendencias de los clientes con mayor facilidad, mientras escalan su uso de contenido generado por modelos en toda la empresa, dijo Pullar.

“En términos de generar contenido, ha cambiado el juego”, dijo Jean van Schalkwyk, líder de inteligencia comercial de Farmlands. “Es una tecnología en verdad emocionante”.

Contenido relacionado:

Foto principal: Azure OpenAI Service ayudó a CarMax a convertir 100 mil reseñas de clientes en resúmenes legibles que muestran conclusiones clave y ayudan a las personas que compran un automóvil usado a tomar decisiones de compra informadas. Foto cortesía de CarMax.