jakiro
Fuente: AI Style
El CEO de NVIDIA, Jensen Huang, dijo que el rendimiento del chip de IA de la compañía ha mejorado más rápido que la ley de Moore, un principio que alguna vez dominó el desarrollo de la tecnología informática durante décadas.
«Nuestro sistema se está desarrollando mucho más rápido que la ley de Moore», dijo Huang en una entrevista la mañana después de dar un discurso de apertura a 10,000 espectadores en la Conferencia CES en Las Vegas.
La ley de Moore fue propuesta en 1965 por el cofundador de Intel Gordon Moore.Se predice que el número de transistores en el chip se duplicará cada año, por lo que duplicará el rendimiento del chip.Este pronóstico se realizó básicamente en las siguientes décadas, lo que impulsó un aumento rápido en la potencia informática y una disminución significativa en los costos.
Aunque el impulso de la ley de Moore se ha ralentizado en los últimos años, Huang Renxun dijo que los chips AI de Nvidia se están desarrollando a un ritmo más rápido.La compañía dice que su último centro de datos Super Chips es más de 30 veces mejor en el rendimiento de inferencia de IA que la generación anterior.
Huang Renxun explicó que al innovar simultáneamente en varios niveles, como arquitectura, chips, sistemas, bibliotecas de programas y algoritmos, se pueden romper las limitaciones de la ley de Moore.
El CEO de NVIDIA hizo este reclamo audaz en un momento en que muchos cuestionaron si el desarrollo de IA se ha estancado.Los principales laboratorios de IA como Google, Openai y Anthrope están utilizando los chips AI de NVIDIA para entrenar y ejecutar sus modelos, y es probable que la mejora en el rendimiento de los chips conduzca a mayores avances en las capacidades de IA.
Esta no es la primera vez que Huang Renxun ha demostrado que Nvidia supera la ley de Moore.Mencionó en un podcast en noviembre que el campo de la IA está experimentando un desarrollo de «Ley de Supermos».
Refutó la declaración de que el progreso de la IA se ha ralentizado y señaló que actualmente hay tres leyes del desarrollo de la IA: pretruento (patrones de aprendizaje de datos masivos), post-entrenamiento (ajuste de fino a través de la retroalimentación humana, etc.) y la prueba -Calén en tiempo (dando a AI más tiempo de «pensamiento»).
Huang Renxun dijo que la ley de Moore ha promovido el desarrollo de la tecnología informática al reducir los costos informáticos, mejorar el rendimiento de la inferencia de IA también reducirá sus costos de uso.
Si bien el H100 de NVIDIA era el chip elegido por las compañías tecnológicas para capacitar modelos de IA, ya que estas compañías recurrieron a la fase de inferencia, algunas comenzaron a cuestionar si los chips caros de Nvidia podrían continuar manteniendo sus ventajas.
Actualmente, el modelo AI calculado cuando se usa pruebas es muy costoso de ejecutar.Tome el modelo O3 de OpenAI, por ejemplo, que es un rendimiento a nivel humano en las pruebas de inteligencia general, pero cuesta casi $ 20 por tarea, mientras que la tarifa de suscripción ChatGPT Plus es de $ 20 al mes.
En la nota clave del lunes, Huang Renxun presentó el último Centro de datos Super Chip, el GB200 NVL72.Este chip ha mejorado el rendimiento de la inferencia de IA en 30-40 veces en comparación con el H100 más vendido anterior.Dijo que este salto de rendimiento reducirá el costo de usar modelos como OpenAI O3 que requieren mucha informática de inferencia.
Huang Renxun enfatizó que su enfoque es mejorar el rendimiento de los chips, porque a largo plazo, un rendimiento más fuerte significa precios más bajos.
Dijo que mejorar la potencia informática es una solución directa para el rendimiento y los problemas de costos de la computación durante las pruebas.A largo plazo, los modelos de inferencia de IA también pueden proporcionar mejores datos para las etapas de pre-entrenamiento y posterior a la capacitación.
El precio de los modelos de IA ha disminuido significativamente durante el año pasado gracias a los avances informáticos de compañías de hardware como Nvidia.Aunque el último modelo de inferencia de OpenAI es costoso, Huang Renxun espera que esta tendencia de recorte de precios continúe.
Él también dijo:El rendimiento del chip de IA de Nvidia es 1,000 veces mayor que hace 10 años, lo que está mucho más allá de la velocidad de desarrollo de la ley de Moore.Además, no hay señal de una parada en este rápido impulso de desarrollo.
