terça-feira, outubro 8, 2024
InícioTECNOLOGIAComo o enorme consumo de energia da IA ​​generativa está sobrecarregando nossa...

Como o enorme consumo de energia da IA ​​generativa está sobrecarregando nossa rede


Graças ao boom da inteligência artificial, novos data centers estão surgindo tão rápido quanto as empresas conseguem construí-los. Isso se traduziu em uma enorme demanda por energia para operar e resfriar os servidores internos. Agora, as preocupações estão aumentando sobre se os EUA podem gerar eletricidade suficiente para a adoção generalizada da IA ​​e se nossa rede envelhecida será capaz de lidar com a carga.

“Se não começarmos a pensar sobre esse problema de energia de forma diferente agora, nunca veremos esse sonho que temos”, disse Dipti Vachani, chefe automotivo da Arm. Os processadores de baixo consumo da empresa de chips se tornaram cada vez mais populares entre os hiperescaladores como Google, Microsoft Oráculo e Amazonas — precisamente porque podem reduza o consumo de energia em até 15% em data centers.

NvidiaO mais recente chip de IA da, Grace Blackwell, incorpora CPUs baseadas em Arm que, segundo a empresa, podem executar modelos de IA generativa com 25 vezes menos energia do que a geração anterior.

“Economizar até a última gota de energia será um projeto fundamentalmente diferente de quando você tenta maximizar o desempenho”, disse Vachani.

Essa estratégia de reduzir o uso de energia por meio da melhoria da eficiência computacional, frequentemente chamada de “mais trabalho por watt”, é uma resposta à crise energética da IA. Mas não é nem de longe o suficiente.

Uma consulta do ChatGPT usa quase 10 vezes mais energia do que uma pesquisa típica do Google, de acordo com um relatório por Goldman Sachs. A geração de uma imagem de IA pode usar tanta potência quanto carregar seu smartphone.

Este problema não é novo. Estimativas em 2019 encontraram o treinamento de um grande modelo de linguagem produziu tanto CO2 quanto toda a vida útil de cinco carros movidos a gasolina.

Os hiperescaladores que constroem data centers para acomodar esse enorme consumo de energia também estão vendo as emissões dispararem. O mais recente relatório ambiental do Google relatório mostrou que as emissões de gases de efeito estufa aumentaram quase 50% de 2019 a 2023, em parte devido ao consumo de energia dos data centers, embora também tenha dito que seus data centers são 1,8 vezes mais eficientes em termos de energia do que um data center típico. Emissões da Microsoft aumentou quase 30% de 2020 a 2024, também devido em parte aos data centers.

E em Kansas City, onde a Meta está construindo um data center focado em IA, as necessidades de energia são tão altas que planos para fechar uma usina elétrica a carvão estão sendo suspensos.

Centenas de cabos Ethernet conectam racks de servidores em um data center Vantage em Santa Clara, Califórnia, em 8 de julho de 2024.

Katie Tarasov

Perseguindo o poder

Há mais de 8.000 data centers em todo o mundocom a maior concentração nos EUA E, graças à IA, haverá muito mais até o final da década. Boston Consulting Group estimativas a demanda por data centers aumentará de 15% a 20% a cada ano até 2030, quando se espera que eles representem 16% do consumo total de energia dos EUA. Isso é um aumento de apenas 2,5% antes do ChatGPT da OpenAI ser lançado em 2022, e é equivalente à energia usada por cerca de dois terços do total de casas nos EUA.

A CNBC visitou um data center no Vale do Silício para descobrir como o setor pode lidar com esse rápido crescimento e onde encontrará energia suficiente para torná-lo possível.

“Suspeitamos que a quantidade de demanda que veremos de aplicativos específicos de IA será tão grande ou maior do que vimos historicamente na computação em nuvem”, disse Jeff Tench, vice-presidente executivo da Vantage Data Center para a América do Norte e APAC.

Muitas grandes empresas de tecnologia contratam firmas como a Vantage para hospedar seus servidores. Tench disse que os data centers da Vantage normalmente têm capacidade para usar mais de 64 megawatts de energia, ou tanta energia quanto dezenas de milhares de lares.

“Muitos deles estão sendo ocupados por clientes individuais, onde eles terão todo o espaço alugado para eles. E quando pensamos em aplicações de IA, esses números podem crescer significativamente além disso, para centenas de megawatts”, disse Tench.

Santa Clara, Califórnia, onde a CNBC visitou a Vantage, há muito tempo é um dos pontos mais procurados do país para clusters de data centers perto de clientes famintos por dados. A sede da Nvidia era visível do telhado. Tench disse que há uma “desaceleração” no norte da Califórnia devido à “falta de disponibilidade de energia das concessionárias aqui nesta área”.

A Vantage está construindo novos campi em Ohio, Texas e Geórgia.

“A própria indústria está procurando lugares onde haja acesso próximo a energias renováveis, eólicas ou solares, e outras infraestruturas que possam ser aproveitadas, seja como parte de um programa de incentivo para converter o que seria uma usina a carvão em gás natural, ou cada vez mais buscando maneiras de extrair energia de instalações nucleares”, disse Tench.

A Vantage Data Centers está expandindo um campus fora de Phoenix, Arizona, para oferecer 176 megawatts de capacidade

Centros de Dados Vantage

Endurecimento da grade

A rede envelhecida geralmente não está equipada para lidar com a carga, mesmo quando energia suficiente pode ser gerada. O gargalo ocorre ao levar energia do local de geração até onde ela é consumida. Uma solução é adicionar centenas ou milhares de milhas de linhas de transmissão.

“Isso é muito caro e consome muito tempo, e às vezes o custo é repassado aos moradores em um aumento na conta de serviços públicos”, disse Shaolei Ren, professor associado de engenharia elétrica e de computação na Universidade da Califórnia, em Riverside.

Um esforço de US$ 5,2 bilhões para expandir linhas para uma área da Virgínia conhecida como “beco do data center” foi encontrou oposição de contribuintes locais que não querem ver suas contas aumentarem para financiar o projeto.

Outra solução é usar software preditivo para reduzir falhas em um dos pontos mais fracos da rede: o transformador.

“Toda a eletricidade gerada deve passar por um transformador”, disse Tecnologias VIE O CEO Rahul Chaturvedi, acrescentando que há 60 milhões a 80 milhões deles nos EUA

O transformador médio também tem 38 anos, então eles são uma causa comum de quedas de energia. Substituí-los é caro e lento. A VIE faz um pequeno sensor que se conecta aos transformadores para prever falhas e determinar quais podem suportar mais carga para que ele possa ser deslocado para longe daqueles com risco de falha.

Chaturvedi disse que os negócios triplicaram desde que o ChatGPT foi lançado em 2022 e deve dobrar ou triplicar novamente no ano que vem.

O CEO da VIE Technologies, Rahul Chaturvedi, segura um sensor em 25 de junho de 2024, em San Diego. A VIE os instala em transformadores antigos para ajudar a prever e reduzir falhas na rede.

Tecnologias VIE

Resfriando servidores

Os data centers de IA generativa também exigirão de 4,2 bilhões a 6,6 bilhões de metros cúbicos de retirada de água até 2027 para permanecerem resfriados, de acordo com Pesquisa de Ren. Isso é mais do que a retirada anual total de água de metade do Reino Unido

“Todo mundo está preocupado com a IA ser intensiva em energia. Podemos resolver isso quando levantarmos a bunda e pararmos de ser tão idiotas sobre energia nuclear, certo? Isso é solucionável. A água é o fator limitante fundamental para o que está por vir em termos de IA”, disse Tom Ferguson, sócio-gerente da Burnt Island Ventures.

A equipe de pesquisa de Ren descobriu que cada 10 a 50 prompts do ChatGPT podem consumir aproximadamente o que você encontraria em uma garrafa de água padrão de 16 onças.

Grande parte dessa água é usada para resfriamento evaporativo, mas o data center da Vantage em Santa Clara tem grandes unidades de ar condicionado que resfriam o edifício sem qualquer retirada de água.

Outra solução é usar líquido para resfriamento direto no chip.

“Para muitos data centers, isso requer uma quantidade enorme de retrofit. No nosso caso na Vantage, há cerca de seis anos, implantamos um design que nos permitiria acessar aquele circuito de água fria aqui no piso do data hall”, disse Tench, da Vantage.

Empresas como MaçãSamsung e Qualcomm têm elogiado os benefícios da IA ​​no dispositivo, mantendo consultas que consomem muita energia fora da nuvem e de data centers com falta de energia.

“Teremos tanta IA quanto esses data centers suportarem. E pode ser menos do que as pessoas desejam. Mas, no final das contas, há muitas pessoas trabalhando para encontrar maneiras de aliviar algumas dessas restrições de fornecimento”, disse Tench.



CNBC

ARTIGOS RELACIONADOS
- Advertisment -

Mais popular