Análisis
Un informe de Cast AI sobre 23,000 clústeres de Kubernetes en AWS, Azure y Google Cloud revela que el uso promedio de GPUs en centros de datos de hiperescaladores es solo del 5%, lo que indica que el 95% de la capacidad de cómputo está inactiva la mayor parte del tiempo. Esta ineficiencia se ha incrementado en los últimos tres años, con el uso de CPUs cayendo del 10% al 8% y el de memoria del 23% al 20%. A pesar de la baja utilización, las empresas continúan comprando recursos de forma masiva, aumentando el sobreaprovisionamiento de CPU al 69% y de memoria al 79%, impulsadas por el miedo a quedarse atrás en la carrera de la IA.
Hechos verificados
- 1El 95% de las GPUs en centros de datos de hiperescaladores (AWS, Azure, Google) están inactivas la mayor parte del tiempo.
- 2El uso promedio de GPUs en estos centros de datos es del 5%.
- 3El informe de Cast AI analizó 23,000 clústeres de Kubernetes.
- 4El uso de CPUs ha caído del 10% al 8% en el último año.
- 5El uso de memoria ha bajado del 23% al 20%.
- 6El sobreaprovisionamiento de CPU aumentó del 40% al 69%.
- 7El sobreaprovisionamiento de memoria pasó al 79%.