NVIDIA podría lanzar la GPU Hopper H100 PCIe con 120 más si estás dispuesto

La pila de hardware informático de alto rendimiento de NVIDIA ahora está equipada con la GPU Hopper H100 de primera línea. Cuenta con 16896 o 14592 Colores CUDA, en desarrollo si viene en SXM5 de la variante PCIe, siendo el primero más poderoso. Ambas variantes vienen con una interfaz de 5120 bits, con la versión SXM5 usando la memoria HBM3 ejecutándose en 3.0 Velocidad Gbps y la versión PCIe usando memoria HBM2E funcionando a 2.0 Gbps. Ambas versiones utilizan la misma capacidad limitada en 80 GB. Sin embargo, eso podría cambiar pronto con el último rumor que sugiere que NVIDIA podría estar preparando una versión PCIe de la GPU Hopper H100 con 120 GB de un tipo de memoria desconocido instalado.

According to the Chinese website "s-ss.cc" la 120 La variante GB de la tarjeta PCIe H100 contará con un chip GH100 completo con todo desbloqueado. Como sugiere el sitio, esta versión mejorará la capacidad de la memoria y el rendimiento en comparación con el SKU PCIe H100 normal. Con las cargas de trabajo de HPC aumentando en tamaño y complejidad, se necesita una asignación de memoria más significativa para un mejor rendimiento. Con los avances recientes en modelos de lenguaje grande (LLM), Las cargas de trabajo de IA utilizan billones de parámetros para el entrenamiento, la mayor parte se realiza en GPU como NVIDIA H100.