|
인공지능 열풍에 힘입어 엔비디아 칩, A100, H100 등의 제품은 말 그대로 수천, 수만개가 팔렸습니다. 이 중 H100의 경우 제품 하나가 일반 가정집 PC보다 더 많은 700W 정도를 소비하고 있습니다.
이들 제품은 인공지능 작업에서 핵심이 되므로, 이 엔비디아 제품에서 비롯되는 전력 소비는 미국 주요 도시의 전체 전력 혹은 일부 국가에 맞먹을 정도로 많은 전력을 사용하고 있습니다.
에너지 솔루션을 제공하는 프랑스 슈나이더 일렉트릭은 지난 10월, AI 애플리케이션으로 소비되는 총 전력은 중동 키프로스 국가와 비슷한 수준이라는 추정치를 제시했습니다.
마이크로소프트 데이터 센터 기술 거버넌스 및 전략의 수석 전기 엔지니어인 Paul Churnock은 추가적인 엔비디아 H100 제품이 출하되는 2024년 말까지 전체 엔비디아 H100이 사용하는 전력은 애리조나주 피닉스의 전체 가구 전력 소비량에 맞먹을 것이라고 전망했습니다. 다만 텍사스 휴스턴과 같은 대도시에 비해서는 낮습니다.
Churnock은 “H100의 700W 전력 소비는 연간 활용도 61%로, 평균 가구(가구당 2.51명)의 전력 소비에 해당한다. 엔비디아 H100이 2024년에 150~200만대가 판매될 것으로 예상되는 가운데, 가정용 전력과 비교해서 H100 칩의 소비전력은 텍사스 휴스턴 바로 뒤, 애리조나주 피닉스보다 높은 전력을 소비할 것”이라고 전망했습니다.
실제로 여기서 제시된 연간 활용도 61%를 기준으로 H100은 연간 3,740kWh의 전력을 사용합니다. 여기에 2024년에 추가적으로 판매될 150~200만대의 H100 제품을 고려하면 연간 소비전력이 무려 13,091,820,000kWh, 약 13,000GWh(기가와트시)가 됩니다.
이를 조금 더 멀리서 보면 이 13,000GWh라는 수치는 조지아, 리투아니아, 과테말라와 같은 일부 국가의 전체 소비전력에 맞먹습니다. 하지만 효율 관점에서는 여전히 AI 및 HPC 제품은 개선중입니다. 차세대 AI 제품이될 엔비디아 B100 제품은 H100보다 절대적인 소비전력은 증가하겠지만, 성능이 큰 폭으로 증가해 결국 소비전력 당 성능, 즉 W 당 성능은 개선될 것입니다. |
