¿Cuál es el gran problema en los centros de datos de IA?

Es un gran número que es difícil de imaginar. En todo el mundo, alrededor de 3 TF (2.2 TN £) se gastarán en centros de datos que admiten IA para 2029.

Esta estimación proviene del Morgan Stanley Investment Bank, que agrega que alrededor de la mitad de esta suma se realizará en los costos de construcción, y la mitad de los costosos equipos que respaldan la revolución de la IA.

Para poner este número en perspectiva, es casi Lo que toda la economía francesa valió la pena en 2024.

Solo en el Reino Unido, se estima que Otros 100 centros de datos se construirá en los próximos años para satisfacer la demanda de procesamiento de AI.

Algunos de ellos serán construidos para Microsoft que a principios de este mes Anunciado por $ 30 mil millones (22 mil millones de libras esterlinas) en el sector del Reino Unido IA.

¿Cuáles son los centros de datos de la IA son diferentes de la construcción tradicional que contiene los rangos de servidores de computadora que mantienen nuestras fotos personales, nuestras cuentas de redes sociales y nuestras aplicaciones de trabajo?

¿Y valen esta formidable carne de gastos?

Los centros de datos han estado en tamaño durante años. La industria tecnológica inventó un nuevo término hiperescal para describir los sitios donde el requisito de energía se convierte en docenas de megavatios, antes de que Gigawatts, mil veces más grande que los megavatios, esté en el escenario.

Pero la IA se realiza en este juego. La mayoría de los modelos de IA se basan en chips de TI costosos de NVIDIA para tratar las tareas.

Las pulgas nvidia están disponibles en grandes gabinetes que cuestan aproximadamente $ 4 millones cada una. Y estos gabinetes contienen la clave de por qué los centros de datos de IA son diferentes.

Modelos de idiomas grandes (LLM) que forman el software AI debe romper el lenguaje en todos los pequeños elementos de posible significado. Esto solo es posible con una red de computadoras que trabajan al unísono y una proximidad extremadamente cercana.

¿Por qué es tan importante la proximidad? Cada distancia de metro entre dos chips agrega un nanosegundo, una mil millones de segundo, al tiempo de procesamiento.

Puede que no parezca mucho tiempo, pero cuando se ejecuta un almacén lleno de computadoras, estos retrasos microscópicos acumulan y diluyen el rendimiento necesario en la IA.

Los gabinetes de tratamiento de IA están bloqueados para eliminar este elemento de latencia y crear lo que el sector tecnológico llama procesamiento paralelo, que funciona como una computadora enorme. Todo desarrolla densidad, una palabra mágica en los círculos de construcción de la IA.

La densidad elimina los cuellos de botella de procesamiento que los centros de datos regulares ven al trabajar con procesadores asentados varios metros.

Sin embargo, estas densas hileras de gabinetes comen Power Gigawatts y la formación LLM produce puntos en este apetito por la electricidad.

Estos puntos equivalentes a miles de casas que se iluminan y apagan las teteras al unísono cada segundo.

Este tipo de demanda irregular en una cuadrícula local debe administrarse cuidadosamente.

Consultoría de ingeniería del centro de datos de Daniel Bizo de, el Instituto de tiempo de actividad analiza los centros de datos para vivir.

“Los centros de datos normales son un zumbido regular en segundo plano en comparación con la demanda de que una carga de trabajo en IA hecha en la red”.

Al igual que estas hervidores sincronizados repentinos en las sobretensiones de la IA presentan lo que el Sr. Bizo llama un problema singular.

“Se desconoce la carga de trabajo singular en esta escala”, explica el Sr. Bizo, “es un desafío de ingeniería extremo, es como el programa Apollo”.

Los operadores del centro de datos omiten el problema de energía de varias maneras.

Dirigiéndose a la BBC a principios de este mes, el CEO de Nvidia, Jensen Huang, dijo que en el Reino Unido a corto plazo, esperaba que se pudieran usar más turbinas de gas “fuera de la cuadrícula para que no nos enojemos en la red”.

Dijo que la propia IA concibe mejores turbinas de gas, paneles solares, turbinas eólicas y energía de fusión para producir energía duradera más rentable.

Microsoft invierte miles de millones de dólares en proyectos de energía, incluido un acuerdo con Constellation Energy que verá Energía nuclear producida nuevamente en la isla de tres millas.

Google, perteneciente al alfabeto, También invierta en energía nuclear Como parte de una estrategia para operar Energía libre de carbono para 2030.

Mientras tanto, Amazon Web Services (AWS), que forma parte del gigante minorista de Amazon, dice que ya es El comprador empresarial más grande Energía renovable en el mundo.

La industria del centro de datos es perfectamente consciente de que los legisladores vigilan los inconvenientes de las fábricas de IA, su intenso consumo de energía con un impacto potencial en la infraestructura local y el medio ambiente.

Uno de estos impactos ambientales incluye un suministro de agua pesado para enfriar las fichas en el trabajo.

En el estado estadounidense de Virginia, que alberga una población de expansión de centros de datos que mantienen gigantes tecnológicos como Amazon y Google en los negocios, se está estudiando una factura que vincula nuevos sitios con cifras de consumo de agua.

Mientras tanto, una fábrica de IA propuesta en el norte de Lincolnshire en el Reino Unido ha encontrado objeciones de agua angliana, que es responsable de mantener los grifos en el sitio del sitio propuesto.

Anglian Water enfatiza que no está obligado a proporcionar agua para el uso no domestico y sugiere agua reciclada de la etapa final del tratamiento con efluentes, como el refrigerante en lugar del agua potable.

Dados los problemas prácticos y los enormes costos que enfrentan los centros de datos de IA, ¿es realmente todo el movimiento una gran burbuja?

Un orador en la reciente Conferencia del Centro de Datos inventó el término “Bragawatts” para describir cómo la industria está hablando sobre la escala de los sitios de IA ofrecidos.

Zahl Limbuwala es especialista en el centro de datos de Tech Investment Advisors DTCP. Reconoce las grandes preguntas sobre el futuro del gasto del Centro de datos de IA.

“La trayectoria actual es muy difícil de creer. Ciertamente ha habido mucha jactancia. Pero la inversión debe ofrecer un rendimiento o el mercado se corrigirá”.

Teniendo en cuenta estas advertencias, todavía piensa que AI merece un lugar especial en términos de inversión. “La IA tendrá más impacto que las tecnologías anteriores, incluida Internet. Por lo tanto, es posible que necesitemos todos estos gigavatios”.

Señala que aumentar los centros de datos en la IA “son bienes raíces en el mundo de la tecnología”. Burbujas de tecnología especulativa, como el auge de Dotcom en la década de 1990, no tenía base de ladrillo y mortero. Los centros de datos de IA son muy sólidos. Pero el boom de gastos detrás de ellos no puede durar para siempre.