DDR5, CXL3.0, GDDR7 ÃÖ´ë ´ë¿ªÆø ¹®ÀÇ

   Á¶È¸ 1490   Ãßõ 0    

쪽팔리면 질문하지 맙시다. 소중한 답변 댓글을 삭제하는건 부끄러운 일 입니다 

얼마전 발표된 Nvidia B200 GPU에 사용된 HBM3e가 192GB용량에 8TB/s 대역폭을 지원한다고 하는데...

그럼 우리가 사용하고 있는 PC사양의 메모리 DDR5-7200 (곧 나온다고 치고...) 의 최대 대역폭을 어떻게 계산해야 하나요?

그리고 서버급에서 사용 예정인 CXL 3.0 의 메모리 익스펜더가 PCIe Gen6 x16 지원하더라도 대역폭은 128GB/s 인데...

최소 1TB/s 대역폭을 지원 위해서라면 메모리 익스펜더 모듈 8개 (1024 / 128 = 8) 장착해야 할것 같은데.. 제 생각이 맞나요??

마지막으로.. 곧 GPU카드에 사용될 GDDR7 의 최대 대역폭은 또 어떻게 계산해야 하나요?

요즘 하도 HBM..HBM 하길래... 얼마나 빠른지 궁금해서요..

ªÀº±Û Àϼö·Ï ½ÅÁßÇÏ°Ô.
SiCMOS 03-22
¸Þ¸ð¸® ºñÆ® ¶óÀÎ´ç ¼Óµµ * ºñÆ® Æø °è»êÇÏ½Ã¸é µË´Ï´Ù. GDDR7À̸é 32Gbps * 256ºñÆ®/8 ÀÌ·±½ÄÀÌÁÒ
HBMÀº ºñÆ® ÆøÀÌ 1024ºñÆ® ÀÌ»ó¿¡ sm ÄÚ¾î °¡±îÀÌ ºÙ¾îÀÖ´Ù º¸´Ï Ŭ·°ÀÌ ´õ ³ô½À´Ï´Ù.
¹Ú¹®Çü 03-22
¾î¶² ´ë¿ªÆøº¸´Ù ³ÐÀº °ÍÀÌ HBM ÀÔ´Ï´Ù.  ±×·¡¼­ À̸§µµ HBM
 
HBMÀ» µû¶ó ÀâÀ» ÁÁÀº ¹æ¹ýÀº ¾ø¾î¿ä..

±×¸®°í Áß¿äÇÑ °ÍÀº

CPU ¿Í OS Ä¿³Î·ÎºÎÅÍ ÀÚÀ¯·Î¿ö¾ß ÇÕ´Ï´Ù ±×·¡¼­ ºñ½Ñ HBMÀ» ÇÒ ¼ö ¹Û¿¡ ¾ø¾ú´ø °ÍÀ̱¸¿ä.
*** OS Ä¿³Î°ú CPU ¿Í ²á¦²á¦ Çϱ⠽ÃÀÛÇÏ¸é ³Ê¹« ´À·ÁÁ®¿ä.. ¿ì¸® ¿î¿µÃ¼Á¦µéÀÌ ±×·¯°í ÀÖÁÒ.
*** ±×¸®°í GPU°¡ ¹Ù·Î ¿·¿¡ Ç°Àº °ÍÀº ¾ÆÁÖ ÀÛÀº Latency µµ ÇÑ ÀÌÀ¯À̱⵵ ÇÕ´Ï´Ù.

CXLÀº GPU¸¦ À§ÇÑ °ÍÀº ¾Æ´Ï°í.. ´Ù¸¥ ÀåÄ¡µé¿¡°Ô ¸Þ¸ð¸®¿¡ ´ëÇÑ ºÎ´ãÀ» ÁÙÀÌ°í CXLÀÇ ¸Þ¸ð¸®¸¦ °øÀ¯Çؼ­ »ç¿ëÇÒ ¼ö ÀÖ´Â °ÍÀÌÁÒ.
ÀÌ ¶ÇÇÑ OSÄ¿³Î°ú CPU·Î ºÎÅÍ ¹ù¾î³ª¾ß Çϴµ¥.. ¾Æ¸¶µµ RDMA over NVMe °°Àº »õ·Î¿î ÇÁ·ÎÅäÄÝÀÌ »ý±æ °ÍÀ¸·Î º¸ÀÔ´Ï´Ù.
 Â÷ÈÄ¿¡ Ãß°¡ ÇÒ ¼öµµ ÀÖ´Â ±×·± ÀåÄ¡¸ç ºñ½ÎÁÒ...

Nvidia GPUµé °£ÀÇ Åë½ÅÀ» NVlink·Î ÇØ°áÇÏ·Á ÇÏ°í ÀÖ½À´Ï´Ù. ¿¬»êĨ°ú °¢ ¸Þ¸ð¸®µéÀÇ Åë½ÅÀ» NVlink °¡ ´ã´çÇÏ°Ô µÇ´Â °ÍÀÌÁÒ.


GDDR7 Max Bandwidth by JEDEC
https://www.anandtech.com/show/21287/jedec-publishes-gddr7-specifications-pam3-ecc-higher-density

HBM3e by SAMSUNG ( ¿Ö ¹«¸®ÇÏ°Ô ÀûÃþÀ» ÇÏ´ÂÁö ±×´ë·Î ³ª¿À³×¿ä..)
https://www.anandtech.com/show/21104/samsung-announces-shinebolt-hbm3e-memory-hbm-hits-36gb-stacks-at-98-gbps

*** ±×¸®°í B200Àº Grace chip °ú Çϸð´Ï ¦¦²áÇÏ´Â ¼­¹ö¿¡¿ä.... ½´ÆÛÄÄÇ»ÅÍ°¡ µÇ°í ½ÍÀº Node ÀÔ´Ï´Ù.
*** B100 ¶ÇÇÑ ¼­¹ö¸¦ À§ÇÑ ¸ÞÀκ¸µå¿¡ °¡±õ½À´Ï´Ù.

ºñµð¿À Ä«µå°°Àº ¸ð¾çÀº H100 ÀÌ ¸¶Áö¸·ÀÏÁöµµ ¸ð¸¨´Ï´Ù. 
B100Àº ¼ÒºñÀü·ÂÀÌ 700W ¶ó¼­ ºñµð¿ÀÄ«µåÃÄ·³ ¸¸µé¼ö°¡ ¾ø¾ú°ÚÁÒ...
´äº¯ÇØ ÁֽŠ¸ðµç ºÐµé¿¡°Ô °¨»çµå¸³´Ï´Ù. ¸¹Àº µµ¿òÀÌ µÆ½À´Ï´Ù.


QnA
Á¦¸ñPage 117/5686
2015-12   1514365   ¹é¸Þ°¡
2014-05   4978215   Á¤ÀºÁØ1
2016-09   6325   Àü¼³¼ÓÀǹ̡¦
11-02   254   »¡°­Åä³¢
2019-01   2279   ±èÁ¦¿¬
11-10   406   ±èÇѱ¹2
2012-06   5845   ¿¹°ü½Å±Ô½Ä
2023-02   1564   ¹¹µçÆȾƿä
11-14   542   È­¶õ
2012-06   4895   ÀÓÁ¾¿­
2019-01   3253   ±è¿ìÁø
2020-03   2292   ÃÖÀ翵
2014-05   5361   ±è°Ç¿ì
2021-07   2646   ºí·¢ÆÞ
2012-07   6714   ¹Ú¹®Çü
2014-06   5333   ³ªÆÄÀÌ°­½ÂÈÆ
2015-10   5860   °Ü¿ï³ª¹«
2023-03   5068   ³²°æ¸²
2016-10   16775   µÎ½Ã¿ÀºÐ
2012-08   6277   2CPUÃÖÁÖÈñ
2012-08   4947   ÀÌÁ¾¿ø
2023-03   2030   ³ª·Î¿Í