HW 호환성 완전 정리

 

 

Hardware · 호환성 & 아키텍처

HW 호환성 완전 정리
인터페이스 · 보틀넥 · 아키텍처 해결 기술

인터페이스는 연결을 만들고, 보틀넥은 성능을 제한하며, 아키텍처는 그 제한을 제거한다

개요 컴퓨터 아키텍처의 핵심 질문

컴퓨터 아키텍처는 컴퓨팅 장치와 메모리 간의 데이터 이동을 최적화하는 것이다. 시스템 구성 시 4가지 질문을 순서대로 확인한다.

①연산이 부족한가? → CPU/GPU 성능

②메모리가 부족한가? → RAM/VRAM 용량

③저장장치가 느린가? → SSD 인터페이스

④인터페이스가 막혔는가? → PCIe/DDR 세대

---

1 인터페이스 — 연결 가능 여부 + 최대 성능 제한

인터페이스에서 확인할 것은 ① 연결 가능 여부와 ② 최대 성능 제한 두 가지다.

예시	설명
DDR5 RAM + DDR4 메인보드	핀 배열·PMIC·노치 위치 다름 → 물리적으로 연결 불가
PCIe 5.0 SSD + PCIe 3.0 메인보드	장착은 가능하지만 PCIe 3.0 속도로 동작 (성능 제한)

---

2 보틀넥 — 가장 느린 구간이 전체 성능을 결정한다

전체 성능이 아무리 좋아도 호환이 제대로 이루어지지 않으면 가장 느린 구간의 성능으로 발현된다.

상황	결과
NVMe SSD를 PCIe 3.0에 장착	작동은 되지만 성능이 절반으로 제한
CPU는 빠른데 RAM이 느릴 경우	CPU가 계속 대기 상태 → CPU 낭비
GPU는 빠른데 CPU가 느릴 경우	GPU가 CPU를 기다리게 됨 → GPU 낭비

좁은 도로 = 교통 체증. 해결책은 도로를 넓히는 것(대역폭 확장)이다.

---

3 아키텍처 — 보틀넥을 구조적으로 제거하는 기술

기술	해결하는 병목	효과
GPU Direct Storage	SSD → RAM → GPU (RAM 병목)	SSD → GPU 직접 전달 → 지연 감소, CPU 부담 감소
NVLink	GPU↔GPU PCIe 병목	GPU 간 직접 초고속 연결 (~900GB/s)
HBM	CPU↔DDR RAM 대역폭 부족	GPU 내부에 초고속 메모리 탑재
CXL	HBM 용량 부족	DDR RAM의 메모리를 빌려 HBM 용량을 일시적으로 확장

반응형

---

4 실제 구성 예시 — AI 서버 H100 2장 기준

기준 : H100 2ea + Xeon Gold 1ea + Memory 384GB + Power 1600W

구성 요소	값	근거
CPU	Xeon Gold (32코어 64스레드)	GPU 1개당 8~16코어 할당 권장 → H100 2개 충분히 감당
Memory	384GB (64GB × 6개)	VRAM 94GB × 2 = 188GB의 2배 = 376GB 필요 → 384GB 적정
메모리 채널	6개 슬롯	CPU가 8채널 지원 → 채널 최대 활용으로 성능 최적화
Power	1600W	H100 350W×2 + Xeon 300W + 기타 150W ≈ 1150W → 1600W는 70~80% 사용 (효율 구간)

파워 서플라이는 전체 용량의 70~80% 구간에서 가장 효율적으로 동작한다. 최대 용량에 근접하면 발열과 효율이 나빠진다.

---

핵심 한 줄 요약

인터페이스연결 가능 여부 + 최대 성능 제한 두 가지를 확인

보틀넥가장 느린 구간이 전체 시스템 성능을 결정

GPU Direct StorageSSD → GPU 직접 전달로 RAM 병목 제거

NVLinkGPU 간 PCIe 병목 제거 — 900GB/s 직접 연결

HBM / CXL대역폭 부족·용량 부족을 구조적으로 해결

파워 설계TDP 합산의 70~80% 수준 PSU가 효율·안정 최적 구간

Tags

#HW호환성 #보틀넥 #PCIe호환 #DDR5 #NVLink #HBM #CXL #GPUDirectStorage #H100 #AI서버구성 #서버설계 #하드웨어기초

▼ 티스토리 태그 입력란 복사용

HW호환성, 보틀넥, PCIe호환, DDR5, NVLink, HBM, CXL, GPUDirectStorage, H100, AI서버구성, 서버설계, 하드웨어기초