LLM, »ý¼ºÇü AI... Study Ç϶ó°í Çϴµ¥...

   Á¶È¸ 1461   Ãßõ 0    

쪽팔리면 질문하지 맙시다. 소중한 답변 댓글을 삭제하는건 부끄러운 일 입니다 

LLM, 생성형 AI 쪽으로 Study 하라고 하네요. (PC로 14세대 i9 CPU + RTX 4080 GPU 1대 구입 예정)

뉴스으로만 봤지.. AI 이쪽은 전혀 모르는데.... 무엇부터 시작해야 할지.. 막막합니다.

어디부터 접근을 시도해 봐야할까요??

ªÀº±Û Àϼö·Ï ½ÅÁßÇÏ°Ô.
Àúµµ Ãë¹Ì ¿µ¿ª¿¡¼­¸¸ ´Ù·ç°í À־ Àü¹®ÀûÀÎ ´äº¯Àº µÇÁö ¸øÇØ Á˼ÛÇÕ´Ï´Ù..
https://github.com/ggerganov/llama.cpp ¿¡¼­ ½ÃÀÛÇغ¸½Ã´Â°Ç ¾î¶°½Å°¡¿ä ?
mongodb 04-09
Rag
¾ó¸¶Àü¿¡ NVidia ¿¡¼­ ¼³Ä¡¸¸ ÇÏ¸é °£´ÜÇÏ°Ô ÃªGPT °°Àº ÇÁ·Î±×·¥À» ¾µ ¼ö ÀÖ°Ô À©µµ¿ë ¼³Ä¡ ÇÁ·Î±×·¥À» °ø°³ÇÑ ÀûÀÌ ÀÖ½À´Ï´Ù.
Çѹø È®ÀÎÇØ º¸½Ã±¸¿ä.

ChatRTX
https://blogs.nvidia.com/blog/chat-with-rtx-available-now/
https://www.nvidia.com/en-us/ai-on-rtx/chatrtx/

±×¿Ü ±êÇé µîÀ» ÅëÇØ °ø°³µÈ LLM ¸ðµ¨µéÀ» ÀÔ¼öÇϼż­
ÇØ´ç ȨÆäÀÌÁö¿¡¼­ Á¦°øÇÏ´Â °£´ÜÇÑ »ç¿ë¹æ¹ý µîÀ» ¼÷ÁöÇϼż­ Python À¸·Î µ¹·Áº¸½Ã´Â ¹æ¹ýÀÌ ÀÖ½À´Ï´Ù.

°ø°³µÈ LLM µéÀ» ¸ð¾Æ¼­ ¼Ò°³ÇÑ °÷µµ Àֳ׿ä
https://github.com/eugeneyan/open-llms?utm_source=pytorchkr
Èì.. Github À̶õ °÷À» ¸ÕÀú °øºÎÇØ¾ß °Ú³×¿ä.
LLM ÇϽ÷Á¸é 4080 1°³º¸´Ù 4060ti 16gb 2Àå ±¸¸ÅÇÏ½Ã´Â°Ô °¡¼ººñ°¡ ÁÁ½À´Ï´Ù.
4090 1°³ »ìµ·À¸·Î 4060ti 16gb 3ÀåÀÌ ±¹·êÀÌÁÒ.
vram ¿ë·®ÀÌ ²Ï Áß¿äÇؼ­ Àß ¾Ë¾Æº¸½Ã°í Çϵå¿þ¾î ¼±ÅÃÇÏ½Ã´Â°Ô ÁÁ°Ú½À´Ï´Ù.

óÀ½ ½ºÅ¸Æ®(ÀÌ·Ð °øºÎ) ´Â ±×³É nvidia ±×·¡ÇÈÄ«µå ¾Æ¹«°Å³ª (vram 8±â°¡ ÀÌ»ó) À¸·Î ½ÃÀÛÇϼŵµ µË´Ï´Ù.
¾îÂ÷ÇÇ ´Ü¼ø °øºÎ¿ëÀ¸·Î´Â ´äº¯ Ä÷¸®Æ¼°¡ Áß¿äÇÏÁö ¾Ê±â ¶§¹®¿¡ ¾çÀÚÈ­ µÈ ¸ðµ¨ ¿Ã¸®¸é µÇ°Åµç¿ä.
ÀÖ´Â Àåºñ·Î °¡º±°Ô ½ÃÀÛÇØ º¸½Ã´Â°Íµµ ÁÁ½À´Ï´Ù.
ikaros7 04-11
ÇÁ·Î±×·¡¹ÖÀº Çغ¸½Å°Ç°¡¿ä? ÆÄÀ̽ãÀº¿ä? ½ÃÀÛÀº ±×°Ô µÇ°Ú°í¿ä.

±× ´ÙÀ½¿¡´Â pytorch tutorialÀ» ã¾Æ¼­ º¸½Ã°í, (¿ä»õ´Â tensorflow º¸´Ùµµ pytorch¸¦ ´õ ¸¹ÀÌ ½á¿ä)

¿©±â±îÁö ÇÏ½Ã¸é ±âº» Áغñ°¡ µÇ½Å°Å±¸¿ä.

ÀÌ·ÐÀûÀÎ ºÎºÐÀ» ÀÌÇØÇÏ·Á¸é Æ®·£½ºÆ÷¸Ó¿¡ ´ëÇؼ­µµ Á» ã¾Æº¸¼Å¾ß Çϴµ¥ ÀÌ ºÎºÐÀº °Ç³Ê¶Ú´Ù°í Çϸé,

sllm Æ©Å丮¾óÀ» ã¾Æº¸½Ã°Å³ª,
¾Æ´Ï¸é kaggle¿¡¼­ llm competitionÀ» ã¾Æº¸¼¼¿ä. ¿ä»õ´Â llm ÂÊ competition µ¹¾Æ°¡´Â°Ô Ç×»ó ÀÖ½À´Ï´Ù. °Å±â¿¡ Âü°¡ÀÚµéÀÌ Çã±ëÆäÀ̽º ÀÌ¿ëÇÑ sllm ÇнÀ, ÀçÇнÀ ¹æ¹ýÀ» °øÀ¯ÇÏ´Ï µµ¿òÀÌ ¸¹ÀÌ µÇ½Ç°Ì´Ï´Ù.
´äº¯ÇØ ÁֽŠ¸ðµç ºÐµé °¨»çÇÕ´Ï´Ù... Èûµé°ÚÁö¸¸ Çѹø ÇØ ºÁ¾ß°Ú³×¿ä.


QnA
Á¦¸ñPage 242/5679
2014-05   4942341   Á¤ÀºÁØ1
2015-12   1479171   ¹é¸Þ°¡
2023-10   1459   ÀÌ¿µ±Ô
2022-11   1459   ¿¡½º¿ÀÅõ
2022-10   1459   Á¤»ó¹é
07-21   1459   Uinx
06-16   1459   inquisitive
2022-09   1459   ½Ô¸ÇÆ®
2023-12   1460   È£¹Ú°í±¸¸¶
2021-10   1460   ZaseJK
04-14   1460   ¹Ì¼ö¸Ç
2023-12   1460   ÇåÅÍD
03-14   1460   ¹ä¾Ë1±èÇü±Ù1
05-29   1460   Àü¼³¼ÓÀǹ̡¦
2022-09   1460   °Ü¿ï³ª¹«
04-05   1461   ½Å¿ì¼·
2022-03   1461   pibang
01-11   1461   ¿µ»êȸ»ó
2023-08   1461   ¹ÌÄ£°¨ÀÚ
2023-08   1461   ¿µ»êȸ»ó
2021-11   1461   ġŲŸ¿Ã
06-08   1461   ±è¹Î¼ö2