# 내가 매달 NVDIA를 사모으는 이유

작성자: 안광섭 (오스왈드)
게시일: 2023-06-21T12:14:21.000Z
원문: https://oswarld.com/blog/3dk58wg2eg3k32nqevxz/

구독 버튼을 통해 구독을 해주시면 알찬 소식으로 매일 받아보실 수 있습니다.

댓글과 이모지를 남겨주시면 큰 힘이 됩니다. 공유까지 해주시면 더 좋구요!

![](https://upload.cafenono.com/image/slashpagePost/20230621/211416_ftzHmUDYWIulOl0TH2?q=75&s=1280x180&t=outside&f=webp)

*   틱톡 운영사 바이트댄스는 약 10만대의 A100 과 H800(H100의 너프 버전)를 구매, 대당 약 $10,000
    *   A100, H100 등은 엔디비아에서 만드는 고연산을 위한 GPU 제품명
    *   작년 9월에 중국 관련 기업 규제가 들어가며 못사는게 맞는데... 8월에 주문한 걸 이제 받았다고
*   그럼 엔디비아의 최신 GPU H100은?
    *   성능은 현존하는 어떤 인공지능 연산 유닛보다 좋음
    *   H100 GPU는 랙 1개에 1개가 꽂힘 → 랙 하나는 전기 3,300W 소모
    *   가격도 흉악한 수준 대단 수만달러 (싯가..)
    *   그럼에도 불구하고 H100 주문 건수가 너무 많아서 수급이 불가능
*   대체제라고 할만한 것이 현재 TPU 정도인데 사실 대체제가 없음
*   설령 대체제가 나온다고 해도 엔디비아 만큼 성능이 나올까? 거의 불가능
*   인공지능이 보편화 되고 연산이 복잡해 질 수록, 모델의 규모가 커질 수록 GPU 품귀현상은 계속 일어남

[

![](https://proxy.cafenono.com/external-image?url=https%3A%2F%2Fwww.nvidia.com%2Fcontent%2Fdam%2Fen-zz%2FSolutions%2Fgtcs22%2Fdata-center%2Fh100%2Fh100-og.jpg)

NVIDIA**NVIDIA H100 Tensor 코어 GPU**NVIDIA H100 Tensor 코어 GPU는 엔터프라이즈에서 엑사스케일 HPC와 매개 변수가 조 단위인 AI에 이르기까지 워크로드를 안전하게 가속화합니다.www.nvidia.com ↗

](https://www.nvidia.com/ko-kr/data-center/h100/)

[

![](https://proxy.cafenono.com/external-image?url=https%3A%2F%2Fcdn.mos.cms.futurecdn.net%2Fpw99H8Sk7qvjDGWaMzWrUM-1200-80.jpg)

Tom's Hardware**China's ByteDance Has Gobbled Up $1 Billion of Nvidia GPUs for AI This Year**Chinese companies are frantically pre-ordering GPUs before government sanctions fully kick inwww.tomshardware.com ↗

](https://www.tomshardware.com/news/chinas-bytedance-has-gobbled-up-dollar1-billion-of-nvidia-gpus-for-ai-this-year)