|
(광고) 단통법 시대의 인터넷가입 가이드(ver2.0) (234) |
백메가 |
2015-12 |
1769943 |
25 |
2015-12
1769943
1 백메가
|
|
[필독] 처음 오시는 분을 위한 안내 (737) |
정은준1 |
2014-05 |
5244536 |
0 |
2014-05
5244536
1 정은준1
|
107813 |
슈퍼마이크로 cpu에 있는 이게 뭘까요? (13) |
미담 |
2023-05 |
1820 |
0 |
2023-05
1820
1 미담
|
107812 |
비컴 / 공기압축기 앞에 꽂는걸 머라고 하나요? (6) |
구차니 |
2023-05 |
1629 |
0 |
2023-05
1629
1 구차니
|
107811 |
공기주입기 호스가 너무 쉽게 빠집니다ㅠ (5) |
NinaDobrev |
2023-05 |
1995 |
0 |
2023-05
1995
1 NinaDobrev
|
107810 |
호스팅 관련 (vmware, hyper-v 등등) (14) |
Super호스팅 |
2023-05 |
1691 |
0 |
2023-05
1691
1 Super호스팅
|
107809 |
시스코 IOS 파일 다운로드 받을때 구형 장비 찾는 방법 (8) |
김루노 |
2023-05 |
1874 |
0 |
2023-05
1874
1 김루노
|
107808 |
cpu cooler를 어디에 활용하면 좋을까요? (5) |
NiteFlite9 |
2023-05 |
1952 |
0 |
2023-05
1952
1 NiteFlite9
|
107807 |
EPYC 9004 듀얼 소켓 보드 구매처 (19) |
whatmatrix |
2023-05 |
4464 |
0 |
2023-05
4464
1 whatmatrix
|
107806 |
서버(제온/에픽) 아닌 일반 데탑 CPU에 메모리 512GB 까지 장착되는 장비가 있을까요? (20) |
naan |
2023-05 |
2883 |
0 |
2023-05
2883
1 naan
|
107805 |
ASUS WS C246 PRO는 어떤가요? (11) |
이매망량2 |
2023-05 |
2165 |
0 |
2023-05
2165
1 이매망량2
|
107804 |
스위치 브라켓도 아무거나 호환 안되겠죠? (8) |
일론머스크 |
2023-05 |
2143 |
0 |
2023-05
2143
1 일론머스크
|
107803 |
자작nas만들때 제온E를 쓰면 이득이 있나요? (23) |
이매망량2 |
2023-05 |
3558 |
0 |
2023-05
3558
1 이매망량2
|
107802 |
레노보 노트북, 윈도우10, 로그인 후 화면 블랙 현상 (6) |
블루영상 |
2023-05 |
2212 |
0 |
2023-05
2212
1 블루영상
|
107801 |
[비컴] 승강기 안전장치 고장... (10) |
강민준1 |
2023-05 |
2111 |
0 |
2023-05
2111
1 강민준1
|
107800 |
레이드 컨트롤러 관련 질문 (21) |
서울강북미… |
2023-05 |
2948 |
0 |
2023-05
2948
1 서울강북미…
|
107799 |
레이드 컨트롤러 관련 질문 |
sbg2005 |
2023-05 |
1165 |
0 |
2023-05
1165
1 sbg2005
|
107798 |
CS 프로그래밍과 서버 구조 (5) |
아인시스 |
2023-05 |
1929 |
0 |
2023-05
1929
1 아인시스
|
107797 |
L3 스위치를 구매하려고하는데...추천좀 해주세요... (16) |
워니님 |
2023-05 |
2377 |
0 |
2023-05
2377
1 워니님
|
107796 |
DELL T7920 에 테슬라 K80 설치가 안됩니다. (11) |
레볼루션 |
2023-05 |
3465 |
0 |
2023-05
3465
1 레볼루션
|
107795 |
MS IIS 웹서버 메모리 부족 에러 (1) |
tantan11 |
2023-05 |
2348 |
0 |
2023-05
2348
1 tantan11
|
107794 |
9년 된 서버 장례 절차 문의..... (7) |
코관 |
2023-05 |
2052 |
0 |
2023-05
2052
1 코관
|
많이 쓰다, 요즘은 잊고 사네요
sentence similarity는 문자유사성을 찾는 AI 기능이고,
120기가에 1.5만개면, 1개 파일당 약 8MB 정도라는 가정하에서는
milvus라는 local vector database의 index 를 사용하시는게 좋을거 같네요
이런류는 index 없이 ssd보다 빠른 램디스크라고 해도, 인덱스없이 통짜로 120기가 전체를 읽는다면, 아마도 만족할만한 성능을 안나올것으로 보여지네요
물론, ssd보다는 램디스크가 좀더 성능이 나오긴하겠지만, index를 사용해서, 필요한 데이터만 읽는것과 비교하면 성능차이는 많이날듯하네요
고행이 예상되는지라 최후로 미루고 싶었습니다.
일단은... 저사양 인텔 제품이라도 들여서 docker 로 돌려보던가 해야겠습니다 ㅠ.ㅠ
램디스크 성능 NVMe보다 엄청나게 응답이 빠르긴해도 그런게 필요한게 아니라면 속도는 옵테인으로도 충분해보입니다
그리고 위에도 적혀있듯이 아무리 램디스크로 가더라도 인덱스 있는것만큼 빠르진 않을꺼에요
아니면 젠4 가셔야겠죠
이번 4세대 제온 스케일러블과 EPYC 에서는 EPYC는 깡성능은 확실히 인텔을 앞서지만 스토리지나 소프트웨어 기능은 인텔보다 적다라고도 할 수 있습니다..
(그 전 세대들도 거의 그러 해왔었습니다..)
이번 인텔 4세대에서 보여줄 다음 세대의 NVME VROC 기능과 소프트웨어 라이센스 기능이 기대가 됩니다..
문제는 그런 기능을 재대로 구현하려면 조립 시스템으로는 안되고 (케이블이 거의 전용급) 최소 베어본 시스템으로 가야 한다는 점입니다..
간장게장님이 RAID 게시판에 올리신 댓글 중 일부분입니다..
Intel® Server System M50FCP2UR TPS
https://cdrdv2-public.intel.com/710132/Intel_Server_System_M50FCP2UR_TPS_Rev1_1.pdf
저 링크 열면 메뉴얼이 나오는데 76 페이지 보시면 스토리지 기술에 대해 나와 있습니다..
나오고나서 좀 시간이 흘러야 쓸만한지 알 수 있겠죠..
근데 AMD EPYC 4세대 제품에서는 몇제품 메뉴얼을 보아도 아직 스토리지 관련 기술에 대해서는 특별히 발전된 것이 없어 보이고 옛날과 같이
NVME는 각 드라이브들과는 연결은 되지만 RAID 펑션 같은게 없는 듯합니다.. (OS에서 소프트웨어 레이드로 묶던지 해야겠죠..)
뭔가 특별한 가속 기능이 있는건 아니지만 '단순히 기능을 제공한다' 수준은 있을꺼라 생각합니다
가속 기능 지원 문제도 있고, RAID 관계없이 성능이 조금 떨어지는 문제도 있습니다 (둘 다 신형 하이엔드로 구성후 동일한 제품의 디스크 달아서 벤치 돌려도 좀 차이가 나더군요)
개인적으로는 시퓨의 라이센스 락 기능은 또 잉텔이 이상한거 간보는것같아서 좋아하진 않습니다 (서버 시장에서 가속 기능으로 저러는건 넘겨도, 저러다가 반응이 괜찮으면 각종 제품의 다양한 기능에 다 적용 (예를 들어 L4 Cache 쓸려면 라이센스 필요, AVX512 쓸려면 라이센스 필요등)할꺼같아서 불안합니다)
이 제품 (AMD EPYC 4세대) 확인했는데 메뉴얼이나 스팩에 RAID 라는용어 자체가 검색이 안됩니다..
U.2 Nvme 여러개 꼽고 묶어 사용하려면 OS 설치시 OS에서 제공하는 소프트웨어 레이드 밖에 방법이 없어 보입니다..
AMD EPYC 시스템은 세대 관계없이 거의 동일한 듯하며 하드웨어 레이드가 필요하면 레이드 카드를 꼽아 쓰라고 할 듯합니다..
그나마 128 Lane같은 풍부한 확장성을 제공하니 다행이네요
imdisk로 200G 램디스크로 잡고, 거기다 stable diffusion 디렉토리 통째로 카피해서 넣으니, 뭔가 좀 빨라긴것 같기는 합니다.
기본 VRAM에서 돌아가는거고, 디스크 거의 쓰지도 않는 소프트인지라 디스크 빨라져도 보템이 안 되요
인덱스의 전략은 RDBMS와 분석용 데이터는 방식이 다릅니다. 딥러닝 쪽이라면 분석용으로 봐야되고 그런건 대부분 컬럼스토어 인덱스 구조로 사용합니다.
위와같은 용도는 대부분 인메모리 테이블이나 인메모리DB 기능을 이용하기도 합니다.(이런건 단점이 데이터 변함이 없는 고정된 데이터라야 가능한 구조고)
많은 데이터를 분석하는 경우는 대부분 메모리 단이나 캐쉬단에 배치시켜서 돌리곤 해요. 같은 데이터 맨날 저장소쪽에서 불러들이고 하는게 쓸데없는 병목현상이기 때문입니다.
NVME에 올라간것 보다 메모리에 상주해 있다가 불러오면 몇배는 더 빠르긴 할겁니다. 작은 사이즈 파일들은 많이 빠르죠.
데스크탑이 128G 인경우는 70-80G정도 캐쉬로 잡고 쓰고 있고 서버가 256G 정도인 경우는 200G 정도 RAID 스토리지에 읽기캐쉬용도로 배치시켜서 사용하고 있습니다. 속도는 넘사벽으로 빠르기는 할건데 그래도 테스트는 해봐야 됩니다.
일부 프로그램들에 불협화음으로 ..
시스템의 가끔 트러블이 생깁니다. 지원 못하는 프로그램인지.
아니면 윈도우 기본 구성만 설정된 것인지. 하여튼 시스템이 불안해집니다.
한 4~5년은 잘 썼는데 이제는 않쓰게 됩니다.
Primo Ramdisk 사용했습니다.
성능이 낮은 시스템 일 수록 효과는 좋아요.
특히 하드드라이브를 운영체제로 쓰는 시스템에 좋습니다.
이제는 SSD가 있어서
잊어먹고 삽니다..
AVX 512이면.. 스케일러블로 가야 겠는데요.
어쩌다 AMD로 가셨는지.
400GB짜리 하나 사서 돌려보고 우와~ 했지만 OS용으로는 용량이 모잘라서 800GB/1.6B짜리로 다시 사서 쓰는데 단순 미디어 같은 데이터 저장용이 아니라면 M.2 SSD하고 저용량 파일 랜덤 I/O 속도 차이 체감 큽니다.