2025년 핫칩 컨퍼런스에서 구글이 차세대 TPU 플랫폼인 아이언우드(Ironwood)를 공개했습니다. 이 플랫폼은 4614 TFLOPs의 뛰어난 컴퓨팅 파워를 자랑하며, 구글의 최신 기술이 집약된 사례로 주목받고 있습니다.
TPU 플랫폼의 발전 과정
TPU v4와 TPU v5p
구글은 2022년에 TPU v4를 공개했으며, 이 칩은 각각 275 TFLOPs의 연산 능력을 가지고 있습니다. 이 시스템은 4096개의 칩과 32GB의 HBM 메모리를 포함하고 있습니다. 이후 1년이 지나 TPU v5p가 출시되었고, 이 칩은 459 TFLOPs의 성능과 8960개의 칩, 95GB의 HBM 메모리를 갖추고 있습니다.
아이언우드의 성능
아이언우드는 2년 만에 연산 능력이 대폭 향상되어, 팟 당 9216개의 칩과 192GB(7.4 TB/s)의 HBM 메모리를 장착한 시스템으로 발전했습니다. 이로 인해 연산 능력이 불과 3년 만에 16배 증가했습니다. 그러나 이 같은 성능 향상은 전력 소모의 증가를 뜻하기도 합니다.
아이언우드 시스템 구조
PCBA 및 랙 구성
아이언우드 칩은 네 개씩 짝을 이뤄 Ironwood PCBA 메인보드 위에 배치됩니다. 이러한 PCBA는 16개가 모여 하나의 랙을 구성하며, 43개의 랙 블록이 ICI(InterChip Interconnect) 네트워크로 연결되어 전체 시스템을 형성합니다. 이 시스템은 수냉식으로 설계되어 있으며, 운영 시 100kW 이상의 전력이 소모됩니다.
슈퍼팟 시스템
구글은 144개의 랙을 연결한 아이언우드 슈퍼팟(Ironwood Superpod) 시스템도 개발 중입니다. 이는 대규모 AI 모델 훈련 및 추론을 지원하는 강력한 인프라로 기대됩니다.
TPU와 GPU의 비교
TPU는 주로 텐서플로 중심의 AI 모델 훈련 및 추론에 최적화된 프로세서입니다. 반면, GPU는 좀 더 범용적인 용도로 사용됩니다. 구글의 TPU가 엔비디아의 GPU와 비교하여 어떤 성능을 보여줄지에 대한 궁금증이 커지고 있으며, 향후 구체적인 성과가 공개되기를 기대합니다.
자주 묻는 질문
TPU란 무엇인가요?
TPU는 텐서플로와 AI 모델의 훈련 및 추론을 최적화한 프로세서입니다.
아이언우드의 전력 소모는 얼마인가요?
아이언우드 시스템은 운영 시 100kW 이상의 전력이 소모됩니다.
TPU와 GPU의 주요 차이점은 무엇인가요?
TPU는 AI 모델에 특화된 반면, GPU는 더 다양한 용도로 사용됩니다.
아이언우드 슈퍼팟은 어떤 용도로 사용되나요?
아이언우드 슈퍼팟은 대규모 AI 모델의 훈련 및 추론을 지원하는 시스템입니다.
구글의 TPU 성능은 어떻게 평가되나요?
구글의 TPU 성능은 엔비디아 GPU와 비교할 때 상이한 특성을 가지고 있어, 구체적인 성과가 공개되기를 기대하고 있습니다.
이전 글: 현역가왕 투표하기 방법 및 방청신청 안내