NVIDIA Blackwell: 조 단위 모델을 위한 AI 인프라 세대교체

한 문장 요약: NVIDIA가 차세대 B200 GPU와 GB200 Grace Blackwell Superchip을 포함한 Blackwell 플랫폼을 발표했다.

무엇이 발표됐나

NVIDIA의 공식 발표일은 2024-03-18다. 이날 공개된 Blackwell GPU 플랫폼의 핵심은 다음과 같다. 2080억 트랜지스터, 2세대 Transformer Engine, 5세대 NVLink를 바탕으로 대규모 학습·추론 비용 절감을 제시했다.

기술적으로 볼 지점

두 다이를 고대역폭 링크로 연결하고 FP4 등 저정밀 연산과 랙 규모 NVLink 패브릭을 결합해 모델 병렬 처리 효율을 높였다.

왜 중요했고, 무엇을 경계해야 하나

모델 경쟁의 병목이 알고리즘뿐 아니라 전력, 네트워크, 메모리, 랙 설계 전반이라는 사실을 선명하게 드러냈다.

최대 25배 비용·에너지 개선은 특정 비교 조건의 주장으로 실제 워크로드와 소프트웨어 성숙도에 따라 차이가 날 수 있었다.

이 글은 발표 당시의 핵심을 빠르게 확인하기 위한 브리핑이다. 수치와 제공 범위는 아래 1차 출처를 기준으로 정리했으며, 별도의 직접 벤치마크를 수행했다는 의미는 아니다.

공식 1차 출처

• NVIDIA Blackwell Platform Arrives — NVIDIA, 2024-03-18