IA en tiempo real: Microsoft anuncia la versión previa de Project Brainwave

Por: Allison Linn, News Center Corp

Cada día, miles de dispositivos y herramientas recorren las líneas de ensamblado manejadas por Jabil, proveedor de soluciones de manufactura, en su camino hacia las manos de los clientes.

En el camino, un sistema automatizado de inspección óptica los escanea en busca de cualquier señal de defectos, con la tendencia de asegurar que todas las anomalías potenciales sean detectadas. Luego envía esas partes detectadas a que sean revisadas de manera manual.

La velocidad de operaciones deja a los inspectores manuales con sólo segundos para decidir si el producto en verdad está defectuoso o no.

Ahí es donde Project Brainwave de Microsoft entraría a escena. Este proyecto es una arquitectura de hardware diseñada para acelerar los cálculos de IA en tiempo real. La arquitectura Project Brainwave está implementada en un tipo de chip de computadora de Intel llamado matriz de puertas de campo programable, o FPGA por sus siglas en inglés, para realizar cálculos de IA en tiempo real a un costo competitivo y con la latencia, o desfase, más bajos de la industria. Esto está basado en mediciones de desempeño interno y comparaciones con la información publicada por otras organizaciones.

Durante la conferencia Build de Microsoft, realizada en Seattle, la empresa anunció una versión previa de Project Brainwave integrada con Azure Machine Learning, que la compañía comenta hará de Azure la plataforma de cómputo en la nube más eficiente para IA.

Mark Russinovich, jefe técnico para la plataforma de cómputo en la nube de Azure, comentó que la versión previa de Project Brainwave marca el inicio de los esfuerzos de Microsoft por llevar el poder de los FPGA a los clientes para una variedad de propósitos.

“Creo que este es el primer paso en hacer los FPGA más una plataforma de propósito general para los clientes”, comentó Russinovich.

Jabil trabaja con Microsoft para ver cómo pueden utilizar Project Brainwave para utilizar de manera rápida y precisa la IA para escanear imágenes y marcar falsos positivos – o artículos que en realidad no tienen algún defecto. Este análisis más detallado liberará a la gente que realiza una revisión manual para buscar defectos y les permitirá enfocarse en casos más complejos.

Todos esos segundos ahorrados suman, comentó Ryan Litvak, gerente de TI de Jabil, pues los clientes fabricantes siempre están ansiosos por encontrar cualquier ganancia en eficiencia que puedan pasar a sus clientes.

“Es muy competitivo, así que cualquier cosa que puedas hacer para brindar una ganancia al cliente va a brindar una mejora gradual”, mencionó Litvak.

La versión previa de Project Brainwave incluye la capacidad de que los clientes puedan realizar un reconocimiento de imagen a una gran velocidad para aplicaciones como la que Jabil tiene en fase piloto, y permite a la gente realizar cálculos basados en IA en tiempo real, en lugar de dosificarla en grupos más pequeños de cálculos separados. Trabaja con TensorFlow, uno de los marcos de trabajo de uso más común para realizar cálculos de IA a través de redes neurales profundas, un método modelado de manera práctica a partir de teorías sobre cómo funciona el cerebro. Además, Microsoft trabaja en la construcción de la capacidad de soportar Microsoft Cognitive Toolkit, otro popular marco de trabajo para el aprendizaje profundo.

Microsoft también anunció una versión previa limitada para llevar al entorno a Project Brainwave, lo que significa que los clientes podrían aprovechar esa velocidad de cómputo en sus propios negocios e instalaciones, incluso si sus sistemas no están conectados a una red o a Internet.

“Ponemos a disposición de los clientes la IA en tiempo real tanto en la nube como en el entorno”, comentó Doug Burger, un distinguido ingeniero en Microsoft que lidera el grupo que fue el precursor de la idea de utilizar FPGA para el trabajo de IA.

Para Jabil, Litvak comentó que el esfuerzo de poner disponible en el entorno a Project Brainwave, que permitirá a su empresa ponerlo de manera directa en las instalaciones de manufactura, es clave para hacerlo práctico y rentable para implementarlo en todas sus operaciones.

Jabil es uno de los más grandes proveedores de soluciones para manufactura, además de uno de los más avanzados a nivel tecnológico, en el mundo. Sus clientes se acercan a ellos en cada etapa de sus planes de negocios, desde una idea en una servilleta a un producto ya desarrollado y listo para ensamblaje, pero todos tienen algo en común – la necesidad de operar de la manera más eficiente y rentable posible. Esto significa que la capacidad de ahorrar incluso algunos milisegundos de tiempo, y un poco de dinero, al no enviar cada cálculo hacia la nube suma.

Litvak mencionó que la capacidad de llevar Project Brainwave al entorno permitiría a Jabil escalar más allá de la fase piloto y de manera potencial, llevar esa capacidad a todas sus operaciones de manufactura.

Jabil también busca maneras de utilizar IA en Project Brainwave para predecir de mejor manera cuándo requieren mantenimiento las operaciones de manufactura como una manera de reducir los tiempos de parada.

De la investigación al producto

La versión previa pública de Project Brainwave llega cinco años después de que Burger, un ex académico que trabaja en los laboratorios de investigación en Microsoft, comenzara a hablar acerca de la idea de utilizar FPGA para un procesamiento más eficiente de cómputo. Conforme refinaba la idea, la actual revolución de AI se desató a una gran velocidad. Eso ha creado una necesidad masiva por sistemas que puedan procesar las grandes cantidades de datos requeridos para que los sistemas de IA hagan cosas como escanear documentos e imágenes para obtener información, reconocer habla y traducir conversaciones.

Burger comenta que Project Brainwave es perfecto para las demandas del cómputo de IA. El diseño de software de este proyecto puede evolucionar de manera rápida y ser remodelado en la FPGA después de cada mejora, para mantener el ritmo con los nuevos descubrimientos y mantenerse al día con los requerimientos de los cambiantes algoritmos de IA.

Un FPGA también puede ser reprogramado de manera rápida para responder a los nuevos avances en IA y hacerlo más flexible en un campo que cambia de manera rápida a diferencia de otros tipos de chips de cómputo.

Se espera que la demanda por sistemas que puedan manejar las cargas de trabajo de IA de manera rápida a un costo razonable vaya en aumento. Esto es debido a que las compañías buscan usos más sofisticados de IA, como analizar datos no estructurados como videos, y han comenzado a desarrollar algoritmos de IA más sofisticados que pueden hacer cosas como buscar esos videos dentro de todo el material de ciudades cercanas a los océanos.

“Vamos a necesitar mucho más poder de cómputo”, comentó Burger.

De Bing a Azure a todos los negocios

Los FPGA no eran algo nuevo cuando Burger y su equipo comenzaron a explorar la idea que llevó a la creación de Project Brainwave, pero hasta entonces nadie los había considerado de manera seria para realizar cómputo de gran escala. Así que el equipo se dio a la tarea de probar que podían ser utilizados en escenarios más prácticos.

Burger y su equipo encontraron socios para su proyecto, en un principio llamado Project Catapult, en el motor de búsqueda Bing y en los equipos de nube de Azure.

Eric Chung, investigador en el grupo Silicon Systems Futures de Microsoft y líder técnico en Project Brainwave, describe a Bing como “acotado por baja latencia”. Esa es una manera técnica de decir que cuando los clientes de Bing teclean una solicitud de búsqueda, esperan resultados casi instantáneos.

Esto significa que los ingenieros de Bing buscan de manera constante maneras de mejorar la calidad de sus resultados sin ceder un milisegundo de velocidad – en una época en que la cantidad y tipos de datos de motores de búsqueda van en aumento.

A través de los FPGA, el equipo fue capaz de incorporar de manera rápida tecnología de búsqueda basada en redes neurales profundas en Bing, para acelerar de manera importante la capacidad del sistema de entregar resultados.

“Eso sólo fue posible porque se realizaba en hardware programable”, comentó Steve Reinhardt, gerente asociado de ingeniería de hardware y líder de los esfuerzos de aceleración de hardware de Bing.

Ahora, Ted Way, gerente de programa en Azure Machine Learning, comentó que el hardware programable tiene otra gran ventaja – sería sencillo de reprogramar cuando lleguen nuevas innovaciones, mientras que otros sistemas podrían requerir que se actualice el hardware, lo que podría tomar meses o años.

Azure también ha utilizado FPGA en los años recientes para acelerar la red de nube de Azure.

IA en tiempo real para análisis geoespacial

Para muchos clientes, el mayor beneficio potencial de Project Brainwave es la capacidad de realizar análisis de IA sobre la marcha, en tiempo real.

En un día cualquiera, Esri, la compañía de analítica geoespacial, podría hacer análisis de tráfico en tiempo real, para ayudar a esta organización no lucrativa a categorizar la tierra en segmentos como edificios, carpas y agua, o predecir los tiempos de llegada de miles de vehículos.

Todos esos proyectos requieren que la compañía analice una amplia variedad de datos dispares, de fuentes como imágenes satelitales, transmisiones de video y sensores. Aunque existen métodos para incorporar esas Fuentes de datos, el cómputo intensivo involucrado puede llevar en ocasiones a retrasos.

Al utilizar IA, Omar Maher, líder de práctica para analítica avanzada en Esri, comentó que ellos han sido capaces de realizar de manera rápida análisis precisos y más a profundidad. Esto permite a los usuarios de Esri enfocarse en trabajo de un valor más alto como brindar recomendaciones sofisticadas a las personas interesadas.

“Ahorra tiempo, esfuerzo y dinero a nuestros clientes y les permite enfocarse en las cosas en verdad importantes”, comentó Maher.

Conforme mejoran las herramientas de IA, Maher comentó que la empresa sólo ha visto un incremento en la necesidad de procesar cantidades masivas de datos en tiempo real. Por ejemplo, la compañía podría requerir extraer información de miles de fuentes de video para detectar autos, bicicletas, autobuses, peatones y otros objetos para entender patrones y anormalidades de tráfico. O, podría querer realizar análisis en tiempo real de datos de satélite para detectar diferentes objetos, como hogares dañados.

Es por esto que Esri está en charlas con Microsoft acerca de la posibilidad de utilizar Project Brainwave para un análisis de IA en tiempo real que sea más eficiente y rentable.

“En definitiva, podemos ver el potencial, en especial con la IA en tiempo real”, mencionó Maher.

Imagen principal: Doug Burger sostiene un ejemplo de hardware utilizado para Project Brainwave. Foto por Scott Eklund/Red Box Pictures.