LLM, »ý¼ºÇü AI... Study Ç϶ó°í Çϴµ¥...

   Á¶È¸ 1513   Ãßõ 0    

쪽팔리면 질문하지 맙시다. 소중한 답변 댓글을 삭제하는건 부끄러운 일 입니다 

LLM, 생성형 AI 쪽으로 Study 하라고 하네요. (PC로 14세대 i9 CPU + RTX 4080 GPU 1대 구입 예정)

뉴스으로만 봤지.. AI 이쪽은 전혀 모르는데.... 무엇부터 시작해야 할지.. 막막합니다.

어디부터 접근을 시도해 봐야할까요??

ªÀº±Û Àϼö·Ï ½ÅÁßÇÏ°Ô.
Àúµµ Ãë¹Ì ¿µ¿ª¿¡¼­¸¸ ´Ù·ç°í À־ Àü¹®ÀûÀÎ ´äº¯Àº µÇÁö ¸øÇØ Á˼ÛÇÕ´Ï´Ù..
https://github.com/ggerganov/llama.cpp ¿¡¼­ ½ÃÀÛÇغ¸½Ã´Â°Ç ¾î¶°½Å°¡¿ä ?
mongodb 04-09
Rag
¾ó¸¶Àü¿¡ NVidia ¿¡¼­ ¼³Ä¡¸¸ ÇÏ¸é °£´ÜÇÏ°Ô ÃªGPT °°Àº ÇÁ·Î±×·¥À» ¾µ ¼ö ÀÖ°Ô À©µµ¿ë ¼³Ä¡ ÇÁ·Î±×·¥À» °ø°³ÇÑ ÀûÀÌ ÀÖ½À´Ï´Ù.
Çѹø È®ÀÎÇØ º¸½Ã±¸¿ä.

ChatRTX
https://blogs.nvidia.com/blog/chat-with-rtx-available-now/
https://www.nvidia.com/en-us/ai-on-rtx/chatrtx/

±×¿Ü ±êÇé µîÀ» ÅëÇØ °ø°³µÈ LLM ¸ðµ¨µéÀ» ÀÔ¼öÇϼż­
ÇØ´ç ȨÆäÀÌÁö¿¡¼­ Á¦°øÇÏ´Â °£´ÜÇÑ »ç¿ë¹æ¹ý µîÀ» ¼÷ÁöÇϼż­ Python À¸·Î µ¹·Áº¸½Ã´Â ¹æ¹ýÀÌ ÀÖ½À´Ï´Ù.

°ø°³µÈ LLM µéÀ» ¸ð¾Æ¼­ ¼Ò°³ÇÑ °÷µµ Àֳ׿ä
https://github.com/eugeneyan/open-llms?utm_source=pytorchkr
Èì.. Github À̶õ °÷À» ¸ÕÀú °øºÎÇØ¾ß °Ú³×¿ä.
LLM ÇϽ÷Á¸é 4080 1°³º¸´Ù 4060ti 16gb 2Àå ±¸¸ÅÇÏ½Ã´Â°Ô °¡¼ººñ°¡ ÁÁ½À´Ï´Ù.
4090 1°³ »ìµ·À¸·Î 4060ti 16gb 3ÀåÀÌ ±¹·êÀÌÁÒ.
vram ¿ë·®ÀÌ ²Ï Áß¿äÇؼ­ Àß ¾Ë¾Æº¸½Ã°í Çϵå¿þ¾î ¼±ÅÃÇÏ½Ã´Â°Ô ÁÁ°Ú½À´Ï´Ù.

óÀ½ ½ºÅ¸Æ®(ÀÌ·Ð °øºÎ) ´Â ±×³É nvidia ±×·¡ÇÈÄ«µå ¾Æ¹«°Å³ª (vram 8±â°¡ ÀÌ»ó) À¸·Î ½ÃÀÛÇϼŵµ µË´Ï´Ù.
¾îÂ÷ÇÇ ´Ü¼ø °øºÎ¿ëÀ¸·Î´Â ´äº¯ Ä÷¸®Æ¼°¡ Áß¿äÇÏÁö ¾Ê±â ¶§¹®¿¡ ¾çÀÚÈ­ µÈ ¸ðµ¨ ¿Ã¸®¸é µÇ°Åµç¿ä.
ÀÖ´Â Àåºñ·Î °¡º±°Ô ½ÃÀÛÇØ º¸½Ã´Â°Íµµ ÁÁ½À´Ï´Ù.
ikaros7 04-11
ÇÁ·Î±×·¡¹ÖÀº Çغ¸½Å°Ç°¡¿ä? ÆÄÀ̽ãÀº¿ä? ½ÃÀÛÀº ±×°Ô µÇ°Ú°í¿ä.

±× ´ÙÀ½¿¡´Â pytorch tutorialÀ» ã¾Æ¼­ º¸½Ã°í, (¿ä»õ´Â tensorflow º¸´Ùµµ pytorch¸¦ ´õ ¸¹ÀÌ ½á¿ä)

¿©±â±îÁö ÇÏ½Ã¸é ±âº» Áغñ°¡ µÇ½Å°Å±¸¿ä.

ÀÌ·ÐÀûÀÎ ºÎºÐÀ» ÀÌÇØÇÏ·Á¸é Æ®·£½ºÆ÷¸Ó¿¡ ´ëÇؼ­µµ Á» ã¾Æº¸¼Å¾ß Çϴµ¥ ÀÌ ºÎºÐÀº °Ç³Ê¶Ú´Ù°í Çϸé,

sllm Æ©Å丮¾óÀ» ã¾Æº¸½Ã°Å³ª,
¾Æ´Ï¸é kaggle¿¡¼­ llm competitionÀ» ã¾Æº¸¼¼¿ä. ¿ä»õ´Â llm ÂÊ competition µ¹¾Æ°¡´Â°Ô Ç×»ó ÀÖ½À´Ï´Ù. °Å±â¿¡ Âü°¡ÀÚµéÀÌ Çã±ëÆäÀ̽º ÀÌ¿ëÇÑ sllm ÇнÀ, ÀçÇнÀ ¹æ¹ýÀ» °øÀ¯ÇÏ´Ï µµ¿òÀÌ ¸¹ÀÌ µÇ½Ç°Ì´Ï´Ù.
´äº¯ÇØ ÁֽŠ¸ðµç ºÐµé °¨»çÇÕ´Ï´Ù... Èûµé°ÚÁö¸¸ Çѹø ÇØ ºÁ¾ß°Ú³×¿ä.


QnA
Á¦¸ñPage 245/5687
2015-12   1527102   ¹é¸Þ°¡
2014-05   4991117   Á¤ÀºÁØ1
2021-12   1510   ²Å»ì
2023-01   1510   ȸ¿ø
06-07   1510   Çϼ¿È£ÇÁ
2022-05   1510   ¯´Ô
2023-02   1510   EYESSHOT
2022-03   1511   ¸¶Áö¸·¼¼´ë
2022-01   1511   ±è¿µ±â
2023-03   1511   °­Çѱ¸
02-06   1511   piedPiper
2022-10   1511   °ø¹é±â
2023-04   1512   VSPress
07-06   1512   ¹Ú¹®Çü
2023-12   1512   ¿­¸Å²É
07-18   1512   ¾ÈÇü°ï
2022-11   1512   epowergate
2022-10   1513   ±è¹ÎöGC
2022-08   1513   ºû³ª·¡
2023-01   1513   meviesta
2021-12   1513   ¸»¶û¸»¶ûÄ«¿ì
2022-08   1513   ÀÌÁöÆ÷Åä