LLM, »ý¼ºÇü AI... Study Ç϶ó°í Çϴµ¥...

   Á¶È¸ 1531   Ãßõ 0    

쪽팔리면 질문하지 맙시다. 소중한 답변 댓글을 삭제하는건 부끄러운 일 입니다 

LLM, 생성형 AI 쪽으로 Study 하라고 하네요. (PC로 14세대 i9 CPU + RTX 4080 GPU 1대 구입 예정)

뉴스으로만 봤지.. AI 이쪽은 전혀 모르는데.... 무엇부터 시작해야 할지.. 막막합니다.

어디부터 접근을 시도해 봐야할까요??

ªÀº±Û Àϼö·Ï ½ÅÁßÇÏ°Ô.
Àúµµ Ãë¹Ì ¿µ¿ª¿¡¼­¸¸ ´Ù·ç°í À־ Àü¹®ÀûÀÎ ´äº¯Àº µÇÁö ¸øÇØ Á˼ÛÇÕ´Ï´Ù..
https://github.com/ggerganov/llama.cpp ¿¡¼­ ½ÃÀÛÇغ¸½Ã´Â°Ç ¾î¶°½Å°¡¿ä ?
mongodb 04-09
Rag
¾ó¸¶Àü¿¡ NVidia ¿¡¼­ ¼³Ä¡¸¸ ÇÏ¸é °£´ÜÇÏ°Ô ÃªGPT °°Àº ÇÁ·Î±×·¥À» ¾µ ¼ö ÀÖ°Ô À©µµ¿ë ¼³Ä¡ ÇÁ·Î±×·¥À» °ø°³ÇÑ ÀûÀÌ ÀÖ½À´Ï´Ù.
Çѹø È®ÀÎÇØ º¸½Ã±¸¿ä.

ChatRTX
https://blogs.nvidia.com/blog/chat-with-rtx-available-now/
https://www.nvidia.com/en-us/ai-on-rtx/chatrtx/

±×¿Ü ±êÇé µîÀ» ÅëÇØ °ø°³µÈ LLM ¸ðµ¨µéÀ» ÀÔ¼öÇϼż­
ÇØ´ç ȨÆäÀÌÁö¿¡¼­ Á¦°øÇÏ´Â °£´ÜÇÑ »ç¿ë¹æ¹ý µîÀ» ¼÷ÁöÇϼż­ Python À¸·Î µ¹·Áº¸½Ã´Â ¹æ¹ýÀÌ ÀÖ½À´Ï´Ù.

°ø°³µÈ LLM µéÀ» ¸ð¾Æ¼­ ¼Ò°³ÇÑ °÷µµ Àֳ׿ä
https://github.com/eugeneyan/open-llms?utm_source=pytorchkr
Èì.. Github À̶õ °÷À» ¸ÕÀú °øºÎÇØ¾ß °Ú³×¿ä.
LLM ÇϽ÷Á¸é 4080 1°³º¸´Ù 4060ti 16gb 2Àå ±¸¸ÅÇÏ½Ã´Â°Ô °¡¼ººñ°¡ ÁÁ½À´Ï´Ù.
4090 1°³ »ìµ·À¸·Î 4060ti 16gb 3ÀåÀÌ ±¹·êÀÌÁÒ.
vram ¿ë·®ÀÌ ²Ï Áß¿äÇؼ­ Àß ¾Ë¾Æº¸½Ã°í Çϵå¿þ¾î ¼±ÅÃÇÏ½Ã´Â°Ô ÁÁ°Ú½À´Ï´Ù.

óÀ½ ½ºÅ¸Æ®(ÀÌ·Ð °øºÎ) ´Â ±×³É nvidia ±×·¡ÇÈÄ«µå ¾Æ¹«°Å³ª (vram 8±â°¡ ÀÌ»ó) À¸·Î ½ÃÀÛÇϼŵµ µË´Ï´Ù.
¾îÂ÷ÇÇ ´Ü¼ø °øºÎ¿ëÀ¸·Î´Â ´äº¯ Ä÷¸®Æ¼°¡ Áß¿äÇÏÁö ¾Ê±â ¶§¹®¿¡ ¾çÀÚÈ­ µÈ ¸ðµ¨ ¿Ã¸®¸é µÇ°Åµç¿ä.
ÀÖ´Â Àåºñ·Î °¡º±°Ô ½ÃÀÛÇØ º¸½Ã´Â°Íµµ ÁÁ½À´Ï´Ù.
ikaros7 04-11
ÇÁ·Î±×·¡¹ÖÀº Çغ¸½Å°Ç°¡¿ä? ÆÄÀ̽ãÀº¿ä? ½ÃÀÛÀº ±×°Ô µÇ°Ú°í¿ä.

±× ´ÙÀ½¿¡´Â pytorch tutorialÀ» ã¾Æ¼­ º¸½Ã°í, (¿ä»õ´Â tensorflow º¸´Ùµµ pytorch¸¦ ´õ ¸¹ÀÌ ½á¿ä)

¿©±â±îÁö ÇÏ½Ã¸é ±âº» Áغñ°¡ µÇ½Å°Å±¸¿ä.

ÀÌ·ÐÀûÀÎ ºÎºÐÀ» ÀÌÇØÇÏ·Á¸é Æ®·£½ºÆ÷¸Ó¿¡ ´ëÇؼ­µµ Á» ã¾Æº¸¼Å¾ß Çϴµ¥ ÀÌ ºÎºÐÀº °Ç³Ê¶Ú´Ù°í Çϸé,

sllm Æ©Å丮¾óÀ» ã¾Æº¸½Ã°Å³ª,
¾Æ´Ï¸é kaggle¿¡¼­ llm competitionÀ» ã¾Æº¸¼¼¿ä. ¿ä»õ´Â llm ÂÊ competition µ¹¾Æ°¡´Â°Ô Ç×»ó ÀÖ½À´Ï´Ù. °Å±â¿¡ Âü°¡ÀÚµéÀÌ Çã±ëÆäÀ̽º ÀÌ¿ëÇÑ sllm ÇнÀ, ÀçÇнÀ ¹æ¹ýÀ» °øÀ¯ÇÏ´Ï µµ¿òÀÌ ¸¹ÀÌ µÇ½Ç°Ì´Ï´Ù.
´äº¯ÇØ ÁֽŠ¸ðµç ºÐµé °¨»çÇÕ´Ï´Ù... Èûµé°ÚÁö¸¸ Çѹø ÇØ ºÁ¾ß°Ú³×¿ä.


QnA
Á¦¸ñPage 4099/5688
2015-12   1535011   ¹é¸Þ°¡
2014-05   4999185   Á¤ÀºÁØ1
2022-08   1376   Çã¿ì´ë
2018-08   3605   ¾Ë¼±¾÷ü
2013-12   4247   Å©¸®¹Ì
2018-08   4558   Á¦Ç๫»ó
2013-12   3741   ¹Ú¼º¸¸
2016-06   7048   ´ÃÆĶõ
2017-05   6688   ¼Û»óº´
2015-04   4882   Win31
04-09   1532   ¹«¸íÀÎ12
2011-07   6177   Larry
2013-12   4828   ¹Ú¼º¸¸
2018-09   5868   ¿¥ºê¸®¿À
04-15   1750   lvlnx
2011-08   6338   ´À´å
2018-09   3621   ´ëÇѹα¹
2022-09   1148   lenux8
2022-09   1870   min1597
2017-06   3623   ±è»óÀÏ
2019-11   2842   Ãʺ¸Á¶Á¾»ç
2021-02   2564   ö