Centro de datos de IA: qué pasa dentro cuando preguntas a ChatGPT
Tu pregunta a ChatGPT no se responde en una nube abstracta: pasa por GPU, redes ultrarrápidas, enfriamiento líquido y baterías de respaldo reales. Así funciona por dentro y por qué le importa a tu negocio.
De la GPU a los generadores diésel: el recorrido físico de una respuesta de IA
Una pregunta a ChatGPT pasa por GPU, redes ultrarrápidas, enfriamiento líquido y baterías reales. Eso explica por qué la IA cuesta energía e infraestructura.
Cuando le escribes una pregunta a ChatGPT, la respuesta no sale de «la nube» como si fuera magia: sale de chips reales, en racks reales, que consumen electricidad y sueltan calor. Este artículo sigue ese recorrido dentro de un centro de datos de IA, desde la GPU hasta los generadores de respaldo, usando como ejemplo el rack GB200 NVL72 de NVIDIA.
En resumen
Tu pregunta a ChatGPT se procesa en GPU dentro de un centro de datos físico: servidores en racks, enfriamiento líquido y baterías con generadores de respaldo. Un rack NVIDIA GB200 NVL72 tiene 72 GPU que se comunican a 130 TB/s y, según Supermicro, una potencia total de 132 kW. Las fuentes no confirman que ChatGPT corra justo en ese rack.
- 72 GPU en un rack, comunicadas a 130 TB/s
- 132 kW por rack: el aire ya no basta
- UPS y generadores diésel si falla la red
Tu pregunta empieza en una GPU
Una sola GPU ya funciona como el centro de datos de IA más pequeño: es el chip donde se hace el cálculo que produce tu respuesta. En el rack que usamos de ejemplo, el NVIDIA GB200 NVL72, la pieza básica es el Superchip GB200 Grace Blackwell, que según la página oficial de NVIDIA conecta dos GPU Blackwell con una CPU Grace mediante la interconexión NVLink-C2C.
El problema es que no llega una sola pregunta. Llegan miles de usuarios a la vez, y un solo chip no alcanza para atenderlos.
Llega tu pregunta
Tu mensaje entra al centro de datos junto con los de miles de usuarios más.
Un balanceador la reparte
Un balanceador de carga decide a qué servidores del rack se envía cada pregunta.
Las GPU calculan
Los chips procesan la pregunta, a veces repartiendo el modelo entre varios, y devuelven la respuesta.
Miles de usuarios a la vez: racks y NVLink
Para atender tanta demanda se suman servidores en racks, y los modelos gigantes se parten entre varios chips que tienen que hablarse muy rápido. Según NVIDIA, el GB200 NVL72 conecta 72 GPU Blackwell y 36 CPU Grace en un diseño enfriado por líquido, y su NVLink Switch System ofrece 130 terabytes por segundo (TB/s) de comunicación entre GPU, de modo que el conjunto actúa como una sola GPU enorme.
| Métrica | Mejora según NVIDIA | Comparado con |
|---|---|---|
| Inferencia de LLM en tiempo real | 30x | GPU NVIDIA H100 |
| Entrenamiento de LLM | 4x | GPU NVIDIA H100 |
| Eficiencia energética | 25x | GPU NVIDIA H100 |
| Procesamiento de datos | 18x | CPU |
Son cifras del fabricante, y proyectadas
Estas mejoras salen de la página oficial de NVIDIA y se midieron en configuraciones específicas descritas en sus notas al pie. La propia página indica «Projected performance subject to change»: el rendimiento es proyectado y puede cambiar. Tómalas como referencia del fabricante, no como lo que obtendrás en tu negocio.
Todo ese cómputo se vuelve calor
Toda la electricidad que usan los chips termina como calor, y sacarlo del rack es uno de los mayores retos de un centro de datos de IA. En el enfriamiento por aire, según MLQ Academy, el aire frío entra por el pasillo frío, al frente del rack, y el aire caliente sale por atrás, hacia el pasillo caliente.
Enfriamiento por aire
El aire frío entra por delante del rack y el caliente sale por atrás. Funciona en racks tradicionales de 2 a 4 kW, según Vertiv.
Enfriamiento líquido
El líquido corre por placas pegadas a cada chip y el calor sale hacia las torres de enfriamiento. Según Vertiv, pasa a ser necesario sobre 100 kW.
El rack de ejemplo cruza ese umbral: según la ficha de Supermicro, el GB200 NVL72 tiene 132 kW de potencia total y usa una unidad de distribución de refrigerante (CDU) para el enfriamiento líquido. Por eso un rack así ya no se enfría solo con aire.
Una cuenta sencilla
Si un rack tradicional consume de 2 a 4 kW (Vertiv) y este consume 132 kW (Supermicro), el rack de IA tiene entre 33 y 66 veces más potencia. Es un cálculo propio con esas dos cifras, solo para dimensionar la diferencia.
Si se cae la luz: UPS y generadores
Si falla la red eléctrica, las baterías UPS sostienen todo el equipo mientras arrancan los generadores diésel. Esa es la secuencia que describe MLQ Academy al explicar un centro de datos de IA, y es la razón por la que la respuesta que recibes no se corta aunque haya un apagón en la red.
La demanda eléctrica de estos centros de datos es un tema aparte y grande. La Agencia Internacional de Energía (IEA) lo analiza en su informe Energy and AI. En las fuentes de este artículo no hay una cifra de consumo por pregunta a ChatGPT, así que no la damos.
En qué punto está esta tecnología
El GB200 NVL72 aparece como producto en el catálogo oficial de NVIDIA, con ficha técnica descargable, pero la página no confirma fechas de entrega, precios ni qué clientes lo usan. No es una noticia de lanzamiento: este artículo lo usa como ejemplo de cómo es un rack de IA moderno.
Lo que no está confirmado
Las fuentes no dicen en qué hardware exacto corre ChatGPT. Tampoco dan precios ni disponibilidad del GB200 NVL72. El menú del sitio de NVIDIA lista además otros sistemas, como GB300 NVL72 y Vera Rubin NVL72, pero la página consultada no da más detalles sobre ellos.
Qué significa para tu negocio en México y Latinoamérica
Cada respuesta de IA usa chips, electricidad y enfriamiento reales, y eso se refleja en lo que cuestan las herramientas que contratas. No necesitas comprar un rack: lo que sí conviene es entender qué estás pagando para elegir con criterio y no por moda. Estos son escenarios típicos, no casos con cifras medidas.
Agencias
Una agencia que usa IA para generar textos, ideas o análisis para sus clientes paga por uso. Conviene saber cuánto cómputo consume cada tarea antes de prometer un precio fijo.
SaaS
Un SaaS que integra IA mediante una API depende de la infraestructura de otro. Si el servicio se cae o sube de precio, su producto lo resiente: pregunta por continuidad y condiciones.
Soporte
Un chatbot de atención recibe muchas preguntas a la vez, igual que el balanceador de carga del centro de datos. Define un volumen esperado y pide el costo por ese volumen.
Ecommerce
Una tienda en línea que añade IA a la búsqueda de productos o a las respuestas a clientes paga cada consulta. Calcula si el beneficio supera ese costo antes de activarla en todo el catálogo.
- Define la tarea concreta que la IA va a resolver antes de elegir herramienta.
- Pide por escrito cómo se cobra: por uso, por usuario o por volumen.
- Pregunta qué pasa si el servicio se cae y qué respaldo tiene.
- Prueba con un volumen pequeño antes de activarla en todo el negocio.
Un rack, en números (fuentes citadas)
Esas son las cifras del GB200 NVL72 según NVIDIA y Supermicro. Sirven como ejemplo de la escala física detrás de una respuesta de IA, no como el hardware confirmado de un servicio concreto.
Preguntas frecuentes
¿Dónde se procesa una pregunta a ChatGPT?
Se procesa en GPU dentro de un centro de datos físico, no en una nube abstracta. Allí hay servidores en racks, redes entre chips, enfriamiento y respaldo eléctrico. Las fuentes de este artículo no detallan el hardware exacto que usa ChatGPT.
¿Por qué un centro de datos de IA necesita enfriamiento líquido?
Porque los racks de IA concentran muchísima potencia. Según Vertiv, los racks tradicionales son de 2 a 4 kW y el líquido pasa a ser necesario sobre 100 kW; según Supermicro, el GB200 NVL72 tiene 132 kW de potencia total.
¿Qué es el NVIDIA GB200 NVL72?
Es un sistema de NVIDIA a escala de rack que, según su página oficial, conecta 72 GPU Blackwell y 36 CPU Grace en un diseño enfriado por líquido. Sus GPU se comunican a 130 TB/s mediante NVLink.
¿Qué pasa si se va la luz en un centro de datos de IA?
Las baterías UPS sostienen el equipo mientras arrancan los generadores diésel. Así lo describe MLQ Academy al explicar cómo funciona un centro de datos de IA por dentro.
¿Cuánta electricidad gasta una pregunta a ChatGPT?
No está confirmado en las fuentes de este artículo, así que no damos una cifra. Lo que sí se sabe es la potencia del rack de ejemplo (132 kW, según Supermicro). Para la demanda eléctrica global, consulta el informe Energy and AI de la IEA.
¿Ya puedo usar o comprar el GB200 NVL72?
No está confirmado. La página de NVIDIA lo presenta como producto, pero no da fechas de entrega ni precios. Para un negocio, lo habitual es usar IA mediante servicios ya listos, no comprar un rack.
Fuentes
- Nvidia: página oficial del GB200 NVL72
- Nvidia Technical Blog: GB200 NVL72 para entrenamiento e inferencia de modelos de billones de parámetros
- MLQ Academy: Inside an AI data center
- Supermicro: ficha del rack GB200 NVL72
- Vertiv: qué es un centro de datos de IA
- Agencia Internacional de Energía (IEA): Energy and AI, demanda eléctrica de los centros de datos
Entiende la IA antes de pagarla
En Zadrig Technology hacemos software e IA para negocios en México y Latinoamérica. Agenda una demostración y te ayudamos a elegir herramientas con criterio, no por moda.
Escríbenos por WhatsApp
