팁이있는TV

데이터센터를 덮치는 엔비디아 쓰나미   [리포트] AI Weekly, 특이점이 온다 #36 - 데이터센터를 덮치는 엔비디아 쓰나미(미래에셋증권 한종목 김은지, '24.10.23.) - AI에 관한 엔비디아의 해자  · Perplexity AI의 기업가치 90억 달러 평가와 Marvell의 가격 인상 결정 또한 AI 수요 지속을 방증  · MS CEO는 스케일링 법칙이 무어의 법칙을 대체했으며, 컴퓨팅 파워가 6개월마다 2배씩 증가 중이라 언급   · OCP* 회의에서 GB200 NVL72 랙에 대한 2025년까지의 강한 수요 전망이 컨센서스를 형성    * Open Compute Project : 전 세계 최대 규모의 개방형 데이터센터 기술 협력 협회    * 블랙웰(Blackwell) : 인공지능 시대..

엔비디아, GTC 2024 [리포트] 엔비디아 GTC 2024 제대로 알기 (미래에셋증권 한종목 김은지, '24.04.04.) - GTC 2024에서 살펴봐야 할 세 가지 포인트 - 하드웨어 · 새로운 GPU 아키텍처인 Blackwell을 공개 · FP6과 FP4를 지원해 학습 시간을 대폭 단축했고, NVLink 인터커넥트를 통해 추론 속도를 크게 개선 · CPU와 GPU의 조합, 그리고 HBM 메모리의 대폭 확대를 통해 슈퍼컴퓨팅급 성능을 데이터센터에서 구현 · 단일 랙에서 PUE 1.1 이하의 놀라운 전력 효율을 달성해 AI 전용 데이터센터의 새로운 표준을 제시 - NIM · 기업들이 손쉽게 자체 AI 모델을 개발하고 배포할 수 있도록 기존의 NeMo에 더해 NIM이라는 신규 서비스를 출시 · NeM..