DDR5, CXL3.0, GDDR7 ÃÖ´ë ´ë¿ªÆø ¹®ÀÇ

   Á¶È¸ 1497   Ãßõ 0    

쪽팔리면 질문하지 맙시다. 소중한 답변 댓글을 삭제하는건 부끄러운 일 입니다 

얼마전 발표된 Nvidia B200 GPU에 사용된 HBM3e가 192GB용량에 8TB/s 대역폭을 지원한다고 하는데...

그럼 우리가 사용하고 있는 PC사양의 메모리 DDR5-7200 (곧 나온다고 치고...) 의 최대 대역폭을 어떻게 계산해야 하나요?

그리고 서버급에서 사용 예정인 CXL 3.0 의 메모리 익스펜더가 PCIe Gen6 x16 지원하더라도 대역폭은 128GB/s 인데...

최소 1TB/s 대역폭을 지원 위해서라면 메모리 익스펜더 모듈 8개 (1024 / 128 = 8) 장착해야 할것 같은데.. 제 생각이 맞나요??

마지막으로.. 곧 GPU카드에 사용될 GDDR7 의 최대 대역폭은 또 어떻게 계산해야 하나요?

요즘 하도 HBM..HBM 하길래... 얼마나 빠른지 궁금해서요..

ªÀº±Û Àϼö·Ï ½ÅÁßÇÏ°Ô.
SiCMOS 03-22
¸Þ¸ð¸® ºñÆ® ¶óÀÎ´ç ¼Óµµ * ºñÆ® Æø °è»êÇÏ½Ã¸é µË´Ï´Ù. GDDR7À̸é 32Gbps * 256ºñÆ®/8 ÀÌ·±½ÄÀÌÁÒ
HBMÀº ºñÆ® ÆøÀÌ 1024ºñÆ® ÀÌ»ó¿¡ sm ÄÚ¾î °¡±îÀÌ ºÙ¾îÀÖ´Ù º¸´Ï Ŭ·°ÀÌ ´õ ³ô½À´Ï´Ù.
¹Ú¹®Çü 03-22
¾î¶² ´ë¿ªÆøº¸´Ù ³ÐÀº °ÍÀÌ HBM ÀÔ´Ï´Ù.  ±×·¡¼­ À̸§µµ HBM
 
HBMÀ» µû¶ó ÀâÀ» ÁÁÀº ¹æ¹ýÀº ¾ø¾î¿ä..

±×¸®°í Áß¿äÇÑ °ÍÀº

CPU ¿Í OS Ä¿³Î·ÎºÎÅÍ ÀÚÀ¯·Î¿ö¾ß ÇÕ´Ï´Ù ±×·¡¼­ ºñ½Ñ HBMÀ» ÇÒ ¼ö ¹Û¿¡ ¾ø¾ú´ø °ÍÀ̱¸¿ä.
*** OS Ä¿³Î°ú CPU ¿Í ²á¦²á¦ Çϱ⠽ÃÀÛÇÏ¸é ³Ê¹« ´À·ÁÁ®¿ä.. ¿ì¸® ¿î¿µÃ¼Á¦µéÀÌ ±×·¯°í ÀÖÁÒ.
*** ±×¸®°í GPU°¡ ¹Ù·Î ¿·¿¡ Ç°Àº °ÍÀº ¾ÆÁÖ ÀÛÀº Latency µµ ÇÑ ÀÌÀ¯À̱⵵ ÇÕ´Ï´Ù.

CXLÀº GPU¸¦ À§ÇÑ °ÍÀº ¾Æ´Ï°í.. ´Ù¸¥ ÀåÄ¡µé¿¡°Ô ¸Þ¸ð¸®¿¡ ´ëÇÑ ºÎ´ãÀ» ÁÙÀÌ°í CXLÀÇ ¸Þ¸ð¸®¸¦ °øÀ¯Çؼ­ »ç¿ëÇÒ ¼ö ÀÖ´Â °ÍÀÌÁÒ.
ÀÌ ¶ÇÇÑ OSÄ¿³Î°ú CPU·Î ºÎÅÍ ¹ù¾î³ª¾ß Çϴµ¥.. ¾Æ¸¶µµ RDMA over NVMe °°Àº »õ·Î¿î ÇÁ·ÎÅäÄÝÀÌ »ý±æ °ÍÀ¸·Î º¸ÀÔ´Ï´Ù.
 Â÷ÈÄ¿¡ Ãß°¡ ÇÒ ¼öµµ ÀÖ´Â ±×·± ÀåÄ¡¸ç ºñ½ÎÁÒ...

Nvidia GPUµé °£ÀÇ Åë½ÅÀ» NVlink·Î ÇØ°áÇÏ·Á ÇÏ°í ÀÖ½À´Ï´Ù. ¿¬»êĨ°ú °¢ ¸Þ¸ð¸®µéÀÇ Åë½ÅÀ» NVlink °¡ ´ã´çÇÏ°Ô µÇ´Â °ÍÀÌÁÒ.


GDDR7 Max Bandwidth by JEDEC
https://www.anandtech.com/show/21287/jedec-publishes-gddr7-specifications-pam3-ecc-higher-density

HBM3e by SAMSUNG ( ¿Ö ¹«¸®ÇÏ°Ô ÀûÃþÀ» ÇÏ´ÂÁö ±×´ë·Î ³ª¿À³×¿ä..)
https://www.anandtech.com/show/21104/samsung-announces-shinebolt-hbm3e-memory-hbm-hits-36gb-stacks-at-98-gbps

*** ±×¸®°í B200Àº Grace chip °ú Çϸð´Ï ¦¦²áÇÏ´Â ¼­¹ö¿¡¿ä.... ½´ÆÛÄÄÇ»ÅÍ°¡ µÇ°í ½ÍÀº Node ÀÔ´Ï´Ù.
*** B100 ¶ÇÇÑ ¼­¹ö¸¦ À§ÇÑ ¸ÞÀκ¸µå¿¡ °¡±õ½À´Ï´Ù.

ºñµð¿À Ä«µå°°Àº ¸ð¾çÀº H100 ÀÌ ¸¶Áö¸·ÀÏÁöµµ ¸ð¸¨´Ï´Ù. 
B100Àº ¼ÒºñÀü·ÂÀÌ 700W ¶ó¼­ ºñµð¿ÀÄ«µåÃÄ·³ ¸¸µé¼ö°¡ ¾ø¾ú°ÚÁÒ...
´äº¯ÇØ ÁֽŠ¸ðµç ºÐµé¿¡°Ô °¨»çµå¸³´Ï´Ù. ¸¹Àº µµ¿òÀÌ µÆ½À´Ï´Ù.


QnA
Á¦¸ñPage 118/5687
2014-05   4988272   Á¤ÀºÁØ1
2015-12   1524273   ¹é¸Þ°¡
01-30   1223   ktww
2023-04   1223   ¹Ì¼ö¸Ç
07-02   1223   ¹Ì´ã
01-12   1223   ¸Ô¯ÀÌ
2022-11   1223   ¹èÁؼ®
2023-05   1223   2CPUÃÖÁÖÈñ
07-25   1223   Á¤ÀºÁØ1
2023-02   1223   dateno1
03-21   1224   Espial
2023-11   1224   »þ¸Û
2022-11   1224   Ȧ¸¯0o0
2022-05   1224   Âî·Ï
2023-05   1224   tuffguy7
2022-10   1224   °í·¡1006
2023-03   1224   ±è´ëÆò
2022-11   1224   lenux8
04-24   1224   ¹Ì´ã
2022-01   1224   µå¸®µ¥ÀÌ
2022-04   1224   mads
05-16   1224   stones