DDR5, CXL3.0, GDDR7 ÃÖ´ë ´ë¿ªÆø ¹®ÀÇ

   Á¶È¸ 1546   Ãßõ 0    

쪽팔리면 질문하지 맙시다. 소중한 답변 댓글을 삭제하는건 부끄러운 일 입니다 

얼마전 발표된 Nvidia B200 GPU에 사용된 HBM3e가 192GB용량에 8TB/s 대역폭을 지원한다고 하는데...

그럼 우리가 사용하고 있는 PC사양의 메모리 DDR5-7200 (곧 나온다고 치고...) 의 최대 대역폭을 어떻게 계산해야 하나요?

그리고 서버급에서 사용 예정인 CXL 3.0 의 메모리 익스펜더가 PCIe Gen6 x16 지원하더라도 대역폭은 128GB/s 인데...

최소 1TB/s 대역폭을 지원 위해서라면 메모리 익스펜더 모듈 8개 (1024 / 128 = 8) 장착해야 할것 같은데.. 제 생각이 맞나요??

마지막으로.. 곧 GPU카드에 사용될 GDDR7 의 최대 대역폭은 또 어떻게 계산해야 하나요?

요즘 하도 HBM..HBM 하길래... 얼마나 빠른지 궁금해서요..

ªÀº±Û Àϼö·Ï ½ÅÁßÇÏ°Ô.
SiCMOS 03-22
¸Þ¸ð¸® ºñÆ® ¶óÀÎ´ç ¼Óµµ * ºñÆ® Æø °è»êÇÏ½Ã¸é µË´Ï´Ù. GDDR7À̸é 32Gbps * 256ºñÆ®/8 ÀÌ·±½ÄÀÌÁÒ
HBMÀº ºñÆ® ÆøÀÌ 1024ºñÆ® ÀÌ»ó¿¡ sm ÄÚ¾î °¡±îÀÌ ºÙ¾îÀÖ´Ù º¸´Ï Ŭ·°ÀÌ ´õ ³ô½À´Ï´Ù.
¹Ú¹®Çü 03-22
¾î¶² ´ë¿ªÆøº¸´Ù ³ÐÀº °ÍÀÌ HBM ÀÔ´Ï´Ù.  ±×·¡¼­ À̸§µµ HBM
 
HBMÀ» µû¶ó ÀâÀ» ÁÁÀº ¹æ¹ýÀº ¾ø¾î¿ä..

±×¸®°í Áß¿äÇÑ °ÍÀº

CPU ¿Í OS Ä¿³Î·ÎºÎÅÍ ÀÚÀ¯·Î¿ö¾ß ÇÕ´Ï´Ù ±×·¡¼­ ºñ½Ñ HBMÀ» ÇÒ ¼ö ¹Û¿¡ ¾ø¾ú´ø °ÍÀ̱¸¿ä.
*** OS Ä¿³Î°ú CPU ¿Í ²á¦²á¦ Çϱ⠽ÃÀÛÇÏ¸é ³Ê¹« ´À·ÁÁ®¿ä.. ¿ì¸® ¿î¿µÃ¼Á¦µéÀÌ ±×·¯°í ÀÖÁÒ.
*** ±×¸®°í GPU°¡ ¹Ù·Î ¿·¿¡ Ç°Àº °ÍÀº ¾ÆÁÖ ÀÛÀº Latency µµ ÇÑ ÀÌÀ¯À̱⵵ ÇÕ´Ï´Ù.

CXLÀº GPU¸¦ À§ÇÑ °ÍÀº ¾Æ´Ï°í.. ´Ù¸¥ ÀåÄ¡µé¿¡°Ô ¸Þ¸ð¸®¿¡ ´ëÇÑ ºÎ´ãÀ» ÁÙÀÌ°í CXLÀÇ ¸Þ¸ð¸®¸¦ °øÀ¯Çؼ­ »ç¿ëÇÒ ¼ö ÀÖ´Â °ÍÀÌÁÒ.
ÀÌ ¶ÇÇÑ OSÄ¿³Î°ú CPU·Î ºÎÅÍ ¹ù¾î³ª¾ß Çϴµ¥.. ¾Æ¸¶µµ RDMA over NVMe °°Àº »õ·Î¿î ÇÁ·ÎÅäÄÝÀÌ »ý±æ °ÍÀ¸·Î º¸ÀÔ´Ï´Ù.
 Â÷ÈÄ¿¡ Ãß°¡ ÇÒ ¼öµµ ÀÖ´Â ±×·± ÀåÄ¡¸ç ºñ½ÎÁÒ...

Nvidia GPUµé °£ÀÇ Åë½ÅÀ» NVlink·Î ÇØ°áÇÏ·Á ÇÏ°í ÀÖ½À´Ï´Ù. ¿¬»êĨ°ú °¢ ¸Þ¸ð¸®µéÀÇ Åë½ÅÀ» NVlink °¡ ´ã´çÇÏ°Ô µÇ´Â °ÍÀÌÁÒ.


GDDR7 Max Bandwidth by JEDEC
https://www.anandtech.com/show/21287/jedec-publishes-gddr7-specifications-pam3-ecc-higher-density

HBM3e by SAMSUNG ( ¿Ö ¹«¸®ÇÏ°Ô ÀûÃþÀ» ÇÏ´ÂÁö ±×´ë·Î ³ª¿À³×¿ä..)
https://www.anandtech.com/show/21104/samsung-announces-shinebolt-hbm3e-memory-hbm-hits-36gb-stacks-at-98-gbps

*** ±×¸®°í B200Àº Grace chip °ú Çϸð´Ï ¦¦²áÇÏ´Â ¼­¹ö¿¡¿ä.... ½´ÆÛÄÄÇ»ÅÍ°¡ µÇ°í ½ÍÀº Node ÀÔ´Ï´Ù.
*** B100 ¶ÇÇÑ ¼­¹ö¸¦ À§ÇÑ ¸ÞÀκ¸µå¿¡ °¡±õ½À´Ï´Ù.

ºñµð¿À Ä«µå°°Àº ¸ð¾çÀº H100 ÀÌ ¸¶Áö¸·ÀÏÁöµµ ¸ð¸¨´Ï´Ù. 
B100Àº ¼ÒºñÀü·ÂÀÌ 700W ¶ó¼­ ºñµð¿ÀÄ«µåÃÄ·³ ¸¸µé¼ö°¡ ¾ø¾ú°ÚÁÒ...
´äº¯ÇØ ÁֽŠ¸ðµç ºÐµé¿¡°Ô °¨»çµå¸³´Ï´Ù. ¸¹Àº µµ¿òÀÌ µÆ½À´Ï´Ù.


QnA
Á¦¸ñPage 5442/5691
2014-05   5016410   Á¤ÀºÁØ1
2015-12   1551872   ¹é¸Þ°¡
05-01   1558   »ç½ÄÀÌ
2023-02   1557   chotws
2023-09   1557   ¹Ì´ã
2022-01   1557   lenux8
2023-05   1557   ÀÌÀ±ÁÖ
2023-07   1557   ¹«¾Æ
2023-12   1557   ¾Æ¸¶µ¥¿ì¾²
2022-05   1557   Initu2
2023-06   1557   »õÃÑ
03-26   1557   ¹ð±×´Ï
2023-06   1557   ¸ÞÅ»Æ÷½º
2022-02   1557   ÀÎõIº£¸®
01-04   1557   JJAMTIGER
2022-11   1556   ¸¶À½ÀÌ°¥´ë
2023-07   1556   ÁÒ½´¾Æ
03-11   1556   Caig
2023-02   1556   ksh2580
2021-11   1556   ±èÁØ¿¬
2022-09   1556   Çã¾î
05-07   1556   ȸ¿ø