Nvidia Tesla T4: 75W de consumo y es 40x veces más rápida que una CPU en IA

Nvidia anunció hoy el lanzamiento de una nueva tarjeta gráfica, la Tesla T4, enfocada a los centros de datos especializados en Inteligencia Artificial. Lo más importante de esta gráfica es que emplea la nueva tecnología Turing, y con ello llega para nutrir la nueva plataforma Nvidia TensorRT Hyperscale Inference Platform. Según promete la compañía, su tarjeta gráfica es capaz de procesar 40x veces más rápido las consultas de proceso respecto a una CPU, siendo lo más importante que la gráfica tiene un consumo de tan solo 75W.

Con 75W de consumo nos ofrece un silicio Turing TU104 @ 12nm FinFET donde se esconden 320 Turing Tensor Cores, 2560 CUDA Cores a una frecuencia de 1582 MHz dándonos un rendimiento de coma flotante doble de 8.1 TFLOPs (FP32) y coma flotante simple de 65 TFLOPs (FP16), y se acompañada por 16 GB de memoria GDDR6 @ 10 GHz unida a una interfaz de memoria de 256 bits ofreciendo un ancho de banda de 320 GB/s.

“Estamos trabajando arduamente con Microsoft para ofrecer los servicios de inteligencia artificial más innovadores a nuestros clientes”, dijo Jordi Ribas, vicepresidente corporativo de productos Bing y AI en Microsoft.

“Usar una GPU Nvidia en cargas de trabajo de inferencia en tiempo real ha mejorado las ofertas de búsqueda avanzada de Bing, permitiéndonos reducir la latencia de detección de objetos para imágenes. Esperamos trabajar con el hardware y software de inferencia de próxima generación de Nvidia para ampliar la forma en que las personas se benefician de los productos de IA y servicios.”

“La inteligencia artificial se está volviendo cada vez más penetrante, y la inferencia es una capacidad crítica que los clientes necesitan para desplegar con éxito sus modelos de inteligencia artificial, por lo que nos complace anunciar que usaremos las GPUs Tesla T4 de Nvidia en nuestra Google Cloud Platform en breve”, dijo Chris Kleban, product manager de Google Cloud".

Saludos.