LLM, »ý¼ºÇü AI... Study Ç϶ó°í Çϴµ¥...

   Á¶È¸ 1445   Ãßõ 0    

쪽팔리면 질문하지 맙시다. 소중한 답변 댓글을 삭제하는건 부끄러운 일 입니다 

LLM, 생성형 AI 쪽으로 Study 하라고 하네요. (PC로 14세대 i9 CPU + RTX 4080 GPU 1대 구입 예정)

뉴스으로만 봤지.. AI 이쪽은 전혀 모르는데.... 무엇부터 시작해야 할지.. 막막합니다.

어디부터 접근을 시도해 봐야할까요??

ªÀº±Û Àϼö·Ï ½ÅÁßÇÏ°Ô.
Àúµµ Ãë¹Ì ¿µ¿ª¿¡¼­¸¸ ´Ù·ç°í À־ Àü¹®ÀûÀÎ ´äº¯Àº µÇÁö ¸øÇØ Á˼ÛÇÕ´Ï´Ù..
https://github.com/ggerganov/llama.cpp ¿¡¼­ ½ÃÀÛÇغ¸½Ã´Â°Ç ¾î¶°½Å°¡¿ä ?
mongodb 04-09
Rag
¾ó¸¶Àü¿¡ NVidia ¿¡¼­ ¼³Ä¡¸¸ ÇÏ¸é °£´ÜÇÏ°Ô ÃªGPT °°Àº ÇÁ·Î±×·¥À» ¾µ ¼ö ÀÖ°Ô À©µµ¿ë ¼³Ä¡ ÇÁ·Î±×·¥À» °ø°³ÇÑ ÀûÀÌ ÀÖ½À´Ï´Ù.
Çѹø È®ÀÎÇØ º¸½Ã±¸¿ä.

ChatRTX
https://blogs.nvidia.com/blog/chat-with-rtx-available-now/
https://www.nvidia.com/en-us/ai-on-rtx/chatrtx/

±×¿Ü ±êÇé µîÀ» ÅëÇØ °ø°³µÈ LLM ¸ðµ¨µéÀ» ÀÔ¼öÇϼż­
ÇØ´ç ȨÆäÀÌÁö¿¡¼­ Á¦°øÇÏ´Â °£´ÜÇÑ »ç¿ë¹æ¹ý µîÀ» ¼÷ÁöÇϼż­ Python À¸·Î µ¹·Áº¸½Ã´Â ¹æ¹ýÀÌ ÀÖ½À´Ï´Ù.

°ø°³µÈ LLM µéÀ» ¸ð¾Æ¼­ ¼Ò°³ÇÑ °÷µµ Àֳ׿ä
https://github.com/eugeneyan/open-llms?utm_source=pytorchkr
Èì.. Github À̶õ °÷À» ¸ÕÀú °øºÎÇØ¾ß °Ú³×¿ä.
LLM ÇϽ÷Á¸é 4080 1°³º¸´Ù 4060ti 16gb 2Àå ±¸¸ÅÇÏ½Ã´Â°Ô °¡¼ººñ°¡ ÁÁ½À´Ï´Ù.
4090 1°³ »ìµ·À¸·Î 4060ti 16gb 3ÀåÀÌ ±¹·êÀÌÁÒ.
vram ¿ë·®ÀÌ ²Ï Áß¿äÇؼ­ Àß ¾Ë¾Æº¸½Ã°í Çϵå¿þ¾î ¼±ÅÃÇÏ½Ã´Â°Ô ÁÁ°Ú½À´Ï´Ù.

óÀ½ ½ºÅ¸Æ®(ÀÌ·Ð °øºÎ) ´Â ±×³É nvidia ±×·¡ÇÈÄ«µå ¾Æ¹«°Å³ª (vram 8±â°¡ ÀÌ»ó) À¸·Î ½ÃÀÛÇϼŵµ µË´Ï´Ù.
¾îÂ÷ÇÇ ´Ü¼ø °øºÎ¿ëÀ¸·Î´Â ´äº¯ Ä÷¸®Æ¼°¡ Áß¿äÇÏÁö ¾Ê±â ¶§¹®¿¡ ¾çÀÚÈ­ µÈ ¸ðµ¨ ¿Ã¸®¸é µÇ°Åµç¿ä.
ÀÖ´Â Àåºñ·Î °¡º±°Ô ½ÃÀÛÇØ º¸½Ã´Â°Íµµ ÁÁ½À´Ï´Ù.
ikaros7 04-11
ÇÁ·Î±×·¡¹ÖÀº Çغ¸½Å°Ç°¡¿ä? ÆÄÀ̽ãÀº¿ä? ½ÃÀÛÀº ±×°Ô µÇ°Ú°í¿ä.

±× ´ÙÀ½¿¡´Â pytorch tutorialÀ» ã¾Æ¼­ º¸½Ã°í, (¿ä»õ´Â tensorflow º¸´Ùµµ pytorch¸¦ ´õ ¸¹ÀÌ ½á¿ä)

¿©±â±îÁö ÇÏ½Ã¸é ±âº» Áغñ°¡ µÇ½Å°Å±¸¿ä.

ÀÌ·ÐÀûÀÎ ºÎºÐÀ» ÀÌÇØÇÏ·Á¸é Æ®·£½ºÆ÷¸Ó¿¡ ´ëÇؼ­µµ Á» ã¾Æº¸¼Å¾ß Çϴµ¥ ÀÌ ºÎºÐÀº °Ç³Ê¶Ú´Ù°í Çϸé,

sllm Æ©Å丮¾óÀ» ã¾Æº¸½Ã°Å³ª,
¾Æ´Ï¸é kaggle¿¡¼­ llm competitionÀ» ã¾Æº¸¼¼¿ä. ¿ä»õ´Â llm ÂÊ competition µ¹¾Æ°¡´Â°Ô Ç×»ó ÀÖ½À´Ï´Ù. °Å±â¿¡ Âü°¡ÀÚµéÀÌ Çã±ëÆäÀ̽º ÀÌ¿ëÇÑ sllm ÇнÀ, ÀçÇнÀ ¹æ¹ýÀ» °øÀ¯ÇÏ´Ï µµ¿òÀÌ ¸¹ÀÌ µÇ½Ç°Ì´Ï´Ù.
´äº¯ÇØ ÁֽŠ¸ðµç ºÐµé °¨»çÇÕ´Ï´Ù... Èûµé°ÚÁö¸¸ Çѹø ÇØ ºÁ¾ß°Ú³×¿ä.


QnA
Á¦¸ñPage 97/5677
2015-12   1474566   ¹é¸Þ°¡
2014-05   4937605   Á¤ÀºÁØ1
04-09   1357   Tree
04-09   1446   ¹«¸íÀÎ12
04-09   975   ÇåÅÍD
04-09   1123   ¿µ»êȸ»ó
04-08   1743   ÄĹÚ
04-08   1419   ¹Ú¹®Çü
04-08   1632   ¸í¶û
04-08   1294   ¹üÀÌ´Ô
04-08   1412   È£¹Ú°í±¸¸¶
04-08   1667   ±èÁ¦¿¬
04-08   1444   ¿µ»êȸ»ó
04-08   1179   »ßµ¹À̽½ÇÄÀÌ
04-08   1243   Èæ±â»ç
04-07   1265   ¸·¿ï¾ú¾î¿ä
04-07   1676   ¹«½î»Ôó·³
04-07   1453   ¹Ú¹®Çü
04-07   1330   ±è¹ÎöGC
04-07   1487   ¯´Ô
04-07   989   °í¾çÀ̴¾ֿË
04-07   1896   ¹®¾î¼÷ȸ