슈퍼마이크로 2124GQ-NART 4 GPU 서버 (2U)

슈퍼마이크로 2124GQ-NART 4 GPU 서버 (2U)

2124GQ-NART

NIVIDA A100 및 RTX 3090 GPU가 요즘 너무 많은 관심을 받고 있다 보니, 구매를 하고 싶어도 못하는 상황이 오고 있습니다.

GPU는 PCI-E 타입과 NVLink 타입이 있는데요. 오늘 소개 시켜드릴 서버는 NVLink 타입의 GPU 서버인 슈퍼마이크로 2124GQ-NART 4 GPU 서버입니다. 

 

목차

1. 2124GQ-NART (Angled View)

2. 2124GQ-NART (Top View)

3. 2124GQ-NART (Front View)

4. 2124GQ-NART (Rear View)

 

1. 2124GQ-NART (Angled View)

슈퍼마이크로 2124GQ-NART을 소개 하기 전에 간단하게 설명을 드리면 서버 메모리 사이에 CPU가 있습니다. CPU 위에 장착된 것은 CPU의 열을 내려주는 히트싱크(Heatsink)라고 합니다.

 

또한 4개의 히트싱크가 보이는데요. 4개의 히트싱크 아래에 A100 NVLink가 CPU와 비슷한 형태로 MainBoard에 장착이 되는 형태의 모습입니다. 

 

2. 2124GQ-NART (Top View)

2124GQ-NART의 구조인데요. AMD 기반의 EPYC CPU 7002 Series를 지원하며 280W TDP를 지원하게 됩니다. 또한 메모리 슬롯 32개를 지원하며 총 8TB의 대용량 메모리를 인식하게 됩니다.

 

TPM(Trusted Platform Module) Port가 있으며 4개의 Nvidia A100 GPU가 장착됩니다. A100 GPU는 SXM4 타입으로 400W까지 고전력 시스템인데요. A100은 40GB(HBM2)와 80GB(HBM2e) 두 가지 모델을 선택하실 수 있습니다.

 

3. 2124GQ-NART (Front View)

전면에는 간단한 Power/Reset Button과 상태 LEDs가 표시되며 Pull-out Tag에 시스템 Hostname등을 기입할 수 있으며, 4개의 핫스왑 베이가 있는데요.

4개의 핫스왑 베이는 SATA3, SAS3, NVMe를 지원하는 하이브리드 형태의 베이입니다. 또한 4개의 External 팬의 있는데요. GPU의 발열을 잡기 위하여 12K RPM을 지원하게 됩니다.

 

혹시 LEDs 상태창이 궁금하신 분은 아래 링크의 포스팅 에서 확인할 수 있습니다.

https://kyumdoctor.co.kr/12 

슈퍼마이크로 AS-4124GS-TNR 상세정보 PCI-E 4.0

 

4. 2124GQ-NART (Rear View)

후면에는 중요한 1+1 Redundant 2200W 파워가 지원이 되며, 1개의 VGA 및 UID LED & Button이 있으며, 2개의 10GbE LAN Port와 USB 포트가 있습니다. 또한 1개의 IPMI Management Port가 있습니다.

 

마지막으로 PCI-E 4.0 8배속 LP슬롯 + 4개의 PCI-E 4.0 16배속 LP타입을 지원하며, Optional 파트로 BBU를 추가 장착하여 Raid Controller의 데이터 손실을 방지할 수 있습니다.

 

IPMI 포트를 이용하는 방법은 아래 포스팅에서 확인 하실수 있습니다.

https://kyumdoctor.co.kr/19 

SUPERMICRO IPMICFG 사용 방법

 

슈퍼마이크로 서버군은 굉장히 다양한데요. 제가 요즘 계속해서 GPU 서버를 포스팅하는 이유는 그만큼 GPU 서버의 활용도가 다양해지고 사용군들이 딥러닝, AI 업체 등에서 굉장히 많아졌습니다. 또한 그에 맞는 플랫폼들이 많은데요.

Docker 및 Anaconda, kubernetes, Nvidia의 NGC등 활용할 수 있는 부분이 많습니다. 제가 포스팅 중 많이 말씀드리는 GPU 서버는 구매 전 설계도 굉장히 중요합니다.

4 GPU 서버는 10A 정도의 전력을 차지하지만 8 GPU 서버나 16 GPU 서버는 15A - 20A 정도의 고전력을 차지 하다보니 사용하는 Rack의 배치 PDU 등을 고려하지 않을 수가 없습니다.

 

다음에는 HPC에서 많이 사용되는 서버 및 울트라 서버, NVMe 시스템 등에 대해 다양하게 다뤄보도록 하겠습니다.