LLM, »ý¼ºÇü AI... Study Ç϶ó°í Çϴµ¥...

   Á¶È¸ 1466   Ãßõ 0    

쪽팔리면 질문하지 맙시다. 소중한 답변 댓글을 삭제하는건 부끄러운 일 입니다 

LLM, 생성형 AI 쪽으로 Study 하라고 하네요. (PC로 14세대 i9 CPU + RTX 4080 GPU 1대 구입 예정)

뉴스으로만 봤지.. AI 이쪽은 전혀 모르는데.... 무엇부터 시작해야 할지.. 막막합니다.

어디부터 접근을 시도해 봐야할까요??

ªÀº±Û Àϼö·Ï ½ÅÁßÇÏ°Ô.
Àúµµ Ãë¹Ì ¿µ¿ª¿¡¼­¸¸ ´Ù·ç°í À־ Àü¹®ÀûÀÎ ´äº¯Àº µÇÁö ¸øÇØ Á˼ÛÇÕ´Ï´Ù..
https://github.com/ggerganov/llama.cpp ¿¡¼­ ½ÃÀÛÇغ¸½Ã´Â°Ç ¾î¶°½Å°¡¿ä ?
mongodb 04-09
Rag
¾ó¸¶Àü¿¡ NVidia ¿¡¼­ ¼³Ä¡¸¸ ÇÏ¸é °£´ÜÇÏ°Ô ÃªGPT °°Àº ÇÁ·Î±×·¥À» ¾µ ¼ö ÀÖ°Ô À©µµ¿ë ¼³Ä¡ ÇÁ·Î±×·¥À» °ø°³ÇÑ ÀûÀÌ ÀÖ½À´Ï´Ù.
Çѹø È®ÀÎÇØ º¸½Ã±¸¿ä.

ChatRTX
https://blogs.nvidia.com/blog/chat-with-rtx-available-now/
https://www.nvidia.com/en-us/ai-on-rtx/chatrtx/

±×¿Ü ±êÇé µîÀ» ÅëÇØ °ø°³µÈ LLM ¸ðµ¨µéÀ» ÀÔ¼öÇϼż­
ÇØ´ç ȨÆäÀÌÁö¿¡¼­ Á¦°øÇÏ´Â °£´ÜÇÑ »ç¿ë¹æ¹ý µîÀ» ¼÷ÁöÇϼż­ Python À¸·Î µ¹·Áº¸½Ã´Â ¹æ¹ýÀÌ ÀÖ½À´Ï´Ù.

°ø°³µÈ LLM µéÀ» ¸ð¾Æ¼­ ¼Ò°³ÇÑ °÷µµ Àֳ׿ä
https://github.com/eugeneyan/open-llms?utm_source=pytorchkr
Èì.. Github À̶õ °÷À» ¸ÕÀú °øºÎÇØ¾ß °Ú³×¿ä.
LLM ÇϽ÷Á¸é 4080 1°³º¸´Ù 4060ti 16gb 2Àå ±¸¸ÅÇÏ½Ã´Â°Ô °¡¼ººñ°¡ ÁÁ½À´Ï´Ù.
4090 1°³ »ìµ·À¸·Î 4060ti 16gb 3ÀåÀÌ ±¹·êÀÌÁÒ.
vram ¿ë·®ÀÌ ²Ï Áß¿äÇؼ­ Àß ¾Ë¾Æº¸½Ã°í Çϵå¿þ¾î ¼±ÅÃÇÏ½Ã´Â°Ô ÁÁ°Ú½À´Ï´Ù.

óÀ½ ½ºÅ¸Æ®(ÀÌ·Ð °øºÎ) ´Â ±×³É nvidia ±×·¡ÇÈÄ«µå ¾Æ¹«°Å³ª (vram 8±â°¡ ÀÌ»ó) À¸·Î ½ÃÀÛÇϼŵµ µË´Ï´Ù.
¾îÂ÷ÇÇ ´Ü¼ø °øºÎ¿ëÀ¸·Î´Â ´äº¯ Ä÷¸®Æ¼°¡ Áß¿äÇÏÁö ¾Ê±â ¶§¹®¿¡ ¾çÀÚÈ­ µÈ ¸ðµ¨ ¿Ã¸®¸é µÇ°Åµç¿ä.
ÀÖ´Â Àåºñ·Î °¡º±°Ô ½ÃÀÛÇØ º¸½Ã´Â°Íµµ ÁÁ½À´Ï´Ù.
ikaros7 04-11
ÇÁ·Î±×·¡¹ÖÀº Çغ¸½Å°Ç°¡¿ä? ÆÄÀ̽ãÀº¿ä? ½ÃÀÛÀº ±×°Ô µÇ°Ú°í¿ä.

±× ´ÙÀ½¿¡´Â pytorch tutorialÀ» ã¾Æ¼­ º¸½Ã°í, (¿ä»õ´Â tensorflow º¸´Ùµµ pytorch¸¦ ´õ ¸¹ÀÌ ½á¿ä)

¿©±â±îÁö ÇÏ½Ã¸é ±âº» Áغñ°¡ µÇ½Å°Å±¸¿ä.

ÀÌ·ÐÀûÀÎ ºÎºÐÀ» ÀÌÇØÇÏ·Á¸é Æ®·£½ºÆ÷¸Ó¿¡ ´ëÇؼ­µµ Á» ã¾Æº¸¼Å¾ß Çϴµ¥ ÀÌ ºÎºÐÀº °Ç³Ê¶Ú´Ù°í Çϸé,

sllm Æ©Å丮¾óÀ» ã¾Æº¸½Ã°Å³ª,
¾Æ´Ï¸é kaggle¿¡¼­ llm competitionÀ» ã¾Æº¸¼¼¿ä. ¿ä»õ´Â llm ÂÊ competition µ¹¾Æ°¡´Â°Ô Ç×»ó ÀÖ½À´Ï´Ù. °Å±â¿¡ Âü°¡ÀÚµéÀÌ Çã±ëÆäÀ̽º ÀÌ¿ëÇÑ sllm ÇнÀ, ÀçÇнÀ ¹æ¹ýÀ» °øÀ¯ÇÏ´Ï µµ¿òÀÌ ¸¹ÀÌ µÇ½Ç°Ì´Ï´Ù.
´äº¯ÇØ ÁֽŠ¸ðµç ºÐµé °¨»çÇÕ´Ï´Ù... Èûµé°ÚÁö¸¸ Çѹø ÇØ ºÁ¾ß°Ú³×¿ä.


QnA
Á¦¸ñPage 242/5680
2015-12   1482414   ¹é¸Þ°¡
2014-05   4945723   Á¤ÀºÁØ1
2021-10   1465   ÀüÁø
2021-10   1465   Ææµà¾ó
2022-05   1465   yummy
2023-12   1465   ÇåÅÍD
2022-07   1465   ¹ÙºÎÆÃÀÌ
2022-03   1465   guest1
03-10   1465   »ï¼ºÄÄÀ¯Àú
2022-10   1465   ¹«¾Æ
2023-07   1465   ÇÁ·Î°ÔÀ̸Ó
2023-08   1466   ¸¶¹ý»ç¿ÀÁî
04-14   1466   ¹Ì¼ö¸Ç
2023-10   1466   chotws
2021-05   1466   ¼ÛÁøÇö
2021-11   1466   ġŲŸ¿Ã
01-31   1466   ÅëÅë9
2022-09   1466   ½Ô¸ÇÆ®
04-18   1466   ¹Ì´ã
2022-09   1467   ¹«½î»Ôó·³
2021-12   1467   ¯´Ô
2022-06   1467   ¹Ì¼ö¸Ç