Centro de datos de IA: qué pasa dentro cuando preguntas a ChatGPT

Tu pregunta a ChatGPT no se responde en una nube abstracta: pasa por GPU, redes ultrarrápidas, enfriamiento líquido y baterías de respaldo reales. Así funciona por dentro y por qué le importa a tu negocio.

De la GPU a los generadores diésel: el recorrido físico de una respuesta de IA

Nvidia · Infraestructura de IA
Centro de datos de IA: lo que pasa cuando preguntas a ChatGPT

Una pregunta a ChatGPT pasa por GPU, redes ultrarrápidas, enfriamiento líquido y baterías reales. Eso explica por qué la IA cuesta energía e infraestructura.

NVIDIACentro de datos

Cuando le escribes una pregunta a ChatGPT, la respuesta no sale de «la nube» como si fuera magia: sale de chips reales, en racks reales, que consumen electricidad y sueltan calor. Este artículo sigue ese recorrido dentro de un centro de datos de IA, desde la GPU hasta los generadores de respaldo, usando como ejemplo el rack GB200 NVL72 de NVIDIA.

En resumen

Tu pregunta a ChatGPT se procesa en GPU dentro de un centro de datos físico: servidores en racks, enfriamiento líquido y baterías con generadores de respaldo. Un rack NVIDIA GB200 NVL72 tiene 72 GPU que se comunican a 130 TB/s y, según Supermicro, una potencia total de 132 kW. Las fuentes no confirman que ChatGPT corra justo en ese rack.

  • 72 GPU en un rack, comunicadas a 130 TB/s
  • 132 kW por rack: el aire ya no basta
  • UPS y generadores diésel si falla la red

Tu pregunta empieza en una GPU

Una sola GPU ya funciona como el centro de datos de IA más pequeño: es el chip donde se hace el cálculo que produce tu respuesta. En el rack que usamos de ejemplo, el NVIDIA GB200 NVL72, la pieza básica es el Superchip GB200 Grace Blackwell, que según la página oficial de NVIDIA conecta dos GPU Blackwell con una CPU Grace mediante la interconexión NVLink-C2C.

El problema es que no llega una sola pregunta. Llegan miles de usuarios a la vez, y un solo chip no alcanza para atenderlos.

Llega tu pregunta

Tu mensaje entra al centro de datos junto con los de miles de usuarios más.

→

Un balanceador la reparte

Un balanceador de carga decide a qué servidores del rack se envía cada pregunta.

→

Las GPU calculan

Los chips procesan la pregunta, a veces repartiendo el modelo entre varios, y devuelven la respuesta.

Miles de usuarios a la vez: racks y NVLink

Para atender tanta demanda se suman servidores en racks, y los modelos gigantes se parten entre varios chips que tienen que hablarse muy rápido. Según NVIDIA, el GB200 NVL72 conecta 72 GPU Blackwell y 36 CPU Grace en un diseño enfriado por líquido, y su NVLink Switch System ofrece 130 terabytes por segundo (TB/s) de comunicación entre GPU, de modo que el conjunto actúa como una sola GPU enorme.

MétricaMejora según NVIDIAComparado con
Inferencia de LLM en tiempo real30xGPU NVIDIA H100
Entrenamiento de LLM4xGPU NVIDIA H100
Eficiencia energética25xGPU NVIDIA H100
Procesamiento de datos18xCPU

Son cifras del fabricante, y proyectadas

Estas mejoras salen de la página oficial de NVIDIA y se midieron en configuraciones específicas descritas en sus notas al pie. La propia página indica «Projected performance subject to change»: el rendimiento es proyectado y puede cambiar. Tómalas como referencia del fabricante, no como lo que obtendrás en tu negocio.

Todo ese cómputo se vuelve calor

Toda la electricidad que usan los chips termina como calor, y sacarlo del rack es uno de los mayores retos de un centro de datos de IA. En el enfriamiento por aire, según MLQ Academy, el aire frío entra por el pasillo frío, al frente del rack, y el aire caliente sale por atrás, hacia el pasillo caliente.

Enfriamiento por aire

El aire frío entra por delante del rack y el caliente sale por atrás. Funciona en racks tradicionales de 2 a 4 kW, según Vertiv.

Enfriamiento líquido

El líquido corre por placas pegadas a cada chip y el calor sale hacia las torres de enfriamiento. Según Vertiv, pasa a ser necesario sobre 100 kW.

El rack de ejemplo cruza ese umbral: según la ficha de Supermicro, el GB200 NVL72 tiene 132 kW de potencia total y usa una unidad de distribución de refrigerante (CDU) para el enfriamiento líquido. Por eso un rack así ya no se enfría solo con aire.

Una cuenta sencilla

Si un rack tradicional consume de 2 a 4 kW (Vertiv) y este consume 132 kW (Supermicro), el rack de IA tiene entre 33 y 66 veces más potencia. Es un cálculo propio con esas dos cifras, solo para dimensionar la diferencia.

Si se cae la luz: UPS y generadores

Si falla la red eléctrica, las baterías UPS sostienen todo el equipo mientras arrancan los generadores diésel. Esa es la secuencia que describe MLQ Academy al explicar un centro de datos de IA, y es la razón por la que la respuesta que recibes no se corta aunque haya un apagón en la red.

La demanda eléctrica de estos centros de datos es un tema aparte y grande. La Agencia Internacional de Energía (IEA) lo analiza en su informe Energy and AI. En las fuentes de este artículo no hay una cifra de consumo por pregunta a ChatGPT, así que no la damos.

En qué punto está esta tecnología

El GB200 NVL72 aparece como producto en el catálogo oficial de NVIDIA, con ficha técnica descargable, pero la página no confirma fechas de entrega, precios ni qué clientes lo usan. No es una noticia de lanzamiento: este artículo lo usa como ejemplo de cómo es un rack de IA moderno.

Lo que no está confirmado

Las fuentes no dicen en qué hardware exacto corre ChatGPT. Tampoco dan precios ni disponibilidad del GB200 NVL72. El menú del sitio de NVIDIA lista además otros sistemas, como GB300 NVL72 y Vera Rubin NVL72, pero la página consultada no da más detalles sobre ellos.

Qué significa para tu negocio en México y Latinoamérica

Cada respuesta de IA usa chips, electricidad y enfriamiento reales, y eso se refleja en lo que cuestan las herramientas que contratas. No necesitas comprar un rack: lo que sí conviene es entender qué estás pagando para elegir con criterio y no por moda. Estos son escenarios típicos, no casos con cifras medidas.

Agencias

Una agencia que usa IA para generar textos, ideas o análisis para sus clientes paga por uso. Conviene saber cuánto cómputo consume cada tarea antes de prometer un precio fijo.

SaaS

Un SaaS que integra IA mediante una API depende de la infraestructura de otro. Si el servicio se cae o sube de precio, su producto lo resiente: pregunta por continuidad y condiciones.

Soporte

Un chatbot de atención recibe muchas preguntas a la vez, igual que el balanceador de carga del centro de datos. Define un volumen esperado y pide el costo por ese volumen.

Ecommerce

Una tienda en línea que añade IA a la búsqueda de productos o a las respuestas a clientes paga cada consulta. Calcula si el beneficio supera ese costo antes de activarla en todo el catálogo.

  • Define la tarea concreta que la IA va a resolver antes de elegir herramienta.
  • Pide por escrito cómo se cobra: por uso, por usuario o por volumen.
  • Pregunta qué pasa si el servicio se cae y qué respaldo tiene.
  • Prueba con un volumen pequeño antes de activarla en todo el negocio.

Un rack, en números (fuentes citadas)

GPU Blackwell72
CPU Grace36
Comunicación entre GPU (NVLink)130 TB/s
Potencia total (Supermicro)132 kW

Esas son las cifras del GB200 NVL72 según NVIDIA y Supermicro. Sirven como ejemplo de la escala física detrás de una respuesta de IA, no como el hardware confirmado de un servicio concreto.

Preguntas frecuentes

¿Dónde se procesa una pregunta a ChatGPT?

Se procesa en GPU dentro de un centro de datos físico, no en una nube abstracta. Allí hay servidores en racks, redes entre chips, enfriamiento y respaldo eléctrico. Las fuentes de este artículo no detallan el hardware exacto que usa ChatGPT.

¿Por qué un centro de datos de IA necesita enfriamiento líquido?

Porque los racks de IA concentran muchísima potencia. Según Vertiv, los racks tradicionales son de 2 a 4 kW y el líquido pasa a ser necesario sobre 100 kW; según Supermicro, el GB200 NVL72 tiene 132 kW de potencia total.

¿Qué es el NVIDIA GB200 NVL72?

Es un sistema de NVIDIA a escala de rack que, según su página oficial, conecta 72 GPU Blackwell y 36 CPU Grace en un diseño enfriado por líquido. Sus GPU se comunican a 130 TB/s mediante NVLink.

¿Qué pasa si se va la luz en un centro de datos de IA?

Las baterías UPS sostienen el equipo mientras arrancan los generadores diésel. Así lo describe MLQ Academy al explicar cómo funciona un centro de datos de IA por dentro.

¿Cuánta electricidad gasta una pregunta a ChatGPT?

No está confirmado en las fuentes de este artículo, así que no damos una cifra. Lo que sí se sabe es la potencia del rack de ejemplo (132 kW, según Supermicro). Para la demanda eléctrica global, consulta el informe Energy and AI de la IEA.

¿Ya puedo usar o comprar el GB200 NVL72?

No está confirmado. La página de NVIDIA lo presenta como producto, pero no da fechas de entrega ni precios. Para un negocio, lo habitual es usar IA mediante servicios ya listos, no comprar un rack.

Entiende la IA antes de pagarla

En Zadrig Technology hacemos software e IA para negocios en México y Latinoamérica. Agenda una demostración y te ayudamos a elegir herramientas con criterio, no por moda.

Escríbenos por WhatsApp
WhatsApp +52 81 4641 5229

Leave A Comment