다음주에 생애 최초로 서버 납품을 나가서 우분투, cuda, cudnn, docker등등 설치할 예정입니다..
cuda부터는 버전도 많고 명령어도 많아져서 다 외우기도 벅차고 보면서 타이핑 하는데에 한계가 있을듯 한데요
개인 노트북 들고가서 서버와 연결하여 명령어 복붙할 방법이 있을까요?
1. 노트북에 서버 터미널 여는 방법(인터넷 연결 없이 물리선만으로 가능한지?)
2. putty 같은거 이용해서 접속하는 방법?(대학이라 개인 노트북에 연결이 될지 모르겠네요?)
고민이 많습니다 잘 할 수있을지도 걱정되고 제가 생각한 방법이 맞는지도 모르겠네요
반갑습니다
출장 작업은 일반적으로 작업 성능이 절반정도 떨어진다고 들었습니다..
그리고 작업하다가 문제가 발생하면 그 안에서 해결할 수 있는 방법이 거의 없습니다..
만약에 사무실에서 작업한다고 하면 어떻게 하는것이 효율적인가요?
그사람이 하라는대로 우선 하면 됩니다..
그러나 노트북 들고가서 작업을 하려고 해도 서버가 위치하는 학교 안에 네트웍이 아예 없거나 랜선을 하나 더 달고 싶어도 학교 전산실에서 허가를 받아야
되는 경우 이런 작업을 하는 것이 마음대로 되지 않고 시간이 많이 걸릴수 있습니다..
(랜선 하나 더 설치하는데에도 시간이 많이 걸릴수 있습니다.. 학교 보안과 관련 되는 것이기에..)
작업하러가서 작업 자체가 안될 정도로 환경이 안되어 있다면 작업 책임자에게 보고하고 해결 방법을 의논해보시고
보통 이런 경우는 빨리 철수 하고 그 서버를 학교에서 반출한 다음 사무실에 가지고 와서 셋팅을 하는 것이 좋습니다..
그러나 GPU 서버는 전기를 많이 먹기에 전기공사를 따로 해야 하는 경우도 발생할 수 있고
한두푼 하는 것도 아니며 무게가 장난이 아니기에 서버 반출하려면 학교에 허가가 나와야 반출이 되고요..
반출 같은 것이 전혀 허락이 안된다면 그 안에서 해결할수 있는 방법을 찾아서 그것이 해결된 다음 다시 학교에 들어가서 설치 작업해야 합니다..
즉 어디든 간에 설치할 수 있는 환경 자체가 안되어 있으면 작업이 불가능합니다..
학교 안에서 작업하는데 이것저것하는데 문제가 발생하고 안되면 학교의 서버 담당자나 담당교수님에게 협조를 요청해야 합니다..
그러나 그것은 보통 설치 담당자나 영업 담당자의 일입니다..
보통 그런 셋팅이나 설치는 작업하기 전에 사전 조사를 하던지 이것저것 필요하다라고 이야기 하고 그것이 준비되면 들어가서 작업하는 경우가 대부분입니다..
주된 일이 그런 작업이라면 테스트 시스템 갖추어서 많이 연습해서 익숙해져야 합니다.. 그리고 자신 만의 작업 방법을 만들어두면 좋겠죠..
요즘 서버는 서버앞에서 키보드 마우스 모니터 직결하고 직접 설치하는 것 외에는 IPMI (iKVM)을 사용하여 내부 혹은 외부 네트워크를 통해 다른 컴퓨터에서
웹브라우져를 열어 거기에서 네트워크로 OS를 설치하고 셋팅하고 하는 것이 일반적입니다..
IPMI 도 사용하는 방법을 알고 익숙해져야 사용이 가능합니다..
그러나 IPMI 기능이 없는 서버는 사용하지 못하고요.. 그 때는 직접 설치하는 것 외 방법이 없습니다..
Putty 같은 터미널로 연결하려고 해도 그 서버에 OS가 설치되어 있어야 하고 상황에 따라서는 네트웍이 연결되어 있어야 하며 계정도 있어야 합니다..
그리고 GPU 서버는 시리얼로 연결해서 터미널로 연결해서 셋팅하는 것은 아마도 거의 없을 것으로 생각되네요..
시리얼 터미널 연결은 요즘은 거의 네트워크 장비쪽의 영역이니까요..
자신이 맏은 일을 시간을 투자해 더 공부해서 익숙해지는 것 외에는 아마 방법이 없을 듯합니다..
그리고 자신의 일의 영역을 정확히 해두는 것이 중요합니다..
회사에서 이거해라 저거해라 해도 그 모든 지시나 오더를 본인이 다 할수 있다라고는 개인적으로 생각되지 않습니다..
못하는 것은 못한다고 해야 위에서 다음 판단을 할 수 있습니다..
그리고 드라이버 설치나 쿠다 설치 같은 것은 제가 보기에는 그 서버의 OS 설치한 사람의 일로 보여지는데요..
OS 재대로 아는 것도 쉬운 일은 아니지만 프로그램 설치하다가 문제가 생겨서 고객 데이터 다 날려먹는 일이 발생하면 (머 극단적인 경우입니다만)
그것대로 대처하는 것은 참 힘듭니다..
아마 학교쪽의 서버라면 상황에 따라 교수나 대학원생이 직접 자기가 소프트웨어 셋팅부터 모든 것을 다 하는 경우도 있고
그것을 할 수 있는 사람이 없으면 보통 그런 설치나 셋팅을 할 수 있는 사람에게 외주주고 서버를 관리하게 합니다..
말씀드리자면 저는 이 회사에 엔지니어로 입사했습니다. 하지만 사수가 없고. 전공생은 아니고 학원에서 클라우드를 배우면서 리눅스를 다룬것이 다 이기 때문에 능숙하지는 않습니다 하지만 배워나가야 하는 제 업무입니다. 원래는 GPU위주로 납품하는 회사였기 때문에 기 납품된 서버에 GPU를 장착하고 관련 SW를 설치해줘야 한다고 들었습니다.
이제는 서버부분까지 확장하면서 OS설치 및 GPU관련 SW를 설치/ 기본셋팅 해야하죠. 저는 처음부터 서버(GPU포함)납품을 나가게 되었네요.
물론 OS설치하는 부분은 개인PC를 밀고 충분히 연습하여 어려움은 없을 것 같지만 중요한 부분은 cuda설치 부분이 명령어가 길고 시간이 오래 소요될 것 같아서
이것저것 알아보다가 노트북에 서버를 연결해서 복붙할 수 없을까 짱구를 굴려보고 게시판에 글을 남기게 된것입니다.
불가능하다면 명령어를 전부 외우던지 컨닝을 해야겠지요.. 하지만 요즘 같은 시대에 더 좋은 방법이 없을리가 없어 선배님들의 조언을 구하고자 한것입니다.
어느 부분이 어떻게 되었든 제가 헤쳐나가야 하는데 사수가 없다보니 어떤걸 알아야 하는지도 모르겠고, 여기에 질문글을 남기면서도 뭘 물어봐야할지 잘 모르겠네요 죄송합니다
작업하다가 명령어 기억 안나는때가 있을터이니 쪽 팔리더라도 그 작업의 모든 것을 프린터 해가지고 들어가세요..
그리고 아마 엔비디아 GPU 판매하는 곳일 듯한데 기술지원은 어디서 받나요??
국내 엔비디아 총판 기술 담당이나 엔비디아 코리아 기술영업 담당 과 연결되어 최소 이메일 정도는 왔다 갔다 해야 모가 될텐데요..
저는 대략 20여년 정도 엔지니어쪽으로 레이드 장비와 서버 장비를 맏아서 직원 생활해왔지만 기본적으로는 하드웨어쪽으로만 일했고
OS도 윈도우즈 겨우 설치했습니다만 (지금도 그렇습니다..) 그나마 제조사와 직접 컨택 라인이 있어서 이리 저리 지원 받아 일을 처리해왔습니다..
고객이 모라모라 문제 이야기 하면 영어 콩글리쉬 번역해서 제조사에 테스트 시키고 문제 풀어주고 고객이 모르면 하는 방법까지 제조사에 만들라고
시켜서 만들어서 문제 해결했었습니다..
물론 영어로 이메일과 기초 영어화화는 하지요.. 외국에서 손님오면 공항에 데리러가기도 하고 그랬습니다..
IDC에서 문제 해결한다고 몇박 몇일 거의 논스탑으로 일해본 적도 있고 대기업쪽에 납품하는 것도 해보았습니다..
머 어쨌던 지금 하시는 일을 계속 하시려면 사무실 내에 테스트 환경을 갖추고 문제가 되는 것이나 자신이 모르는 것은 계속 테스트 할수 있는 만큼
테스트 해서 그 결과를 자신의 것으로 만들어야 합니다..
그리고 20여년전이나 지금이나 컴퓨터에 대한 질문에 대한 답은 거의 구글신이 다 가지고 있습니다..
준비 철저히 해서 들어가겠습니다 ㅎㅎ; 공급사와 컨텍은 되지만서도.. 시시콜콜한 질문을 하기에 주저되는 부분이 있네요..
교육은 어렵더라도 테스트환경 갖추고, 셋팅후 납품하는 방법이나 기타등등 고려해서 회사에 건의하고 만들어 나가야겠네요
감사합니다
필요하면 핸드폰 연결하구요..
랜선은 가져가셔야 겠네요.
전산실이면 잠바 가지고 가세요.
처음 부터 너무 무리하시네요.. 전문가와 같이 가시지...
작업 방법이 달라질 것 같습니다.
가까이 할 수 있고, 서버에 남는 랜 포트가 있는 상황에서
노트북,랜선 준비하셔서 서버 랜포트 빈곳에 꼽고
서버 해당 랜포트에 사설 IP (예컨데 192.168.100.2) 할당하고
노트북에도 사설 IP (192.168.100.1) 할당해서
서버쪽에서 ssh 데몬이 떠 있는지, 방화벽이 막혀 있는건 아닌지 확인한 다음
사설 IP간 통신을 통해 노트북에서 putty 등의 ssh 툴로 서버 sshd 에 접근이 가능할 것입니다.
하지만 이 과정에 랜에 IP 잡고, 방화벽 열고, SSH 붙이는 것 자체가 쉽지 않은 일이 될 수도 있고요.
서버 OS버전에 따라서 CUDA 및 관련 라이브러리 설치하는 것 자체도
해당 서버에서 외부 인터넷에 연결 가능해야 관련 패키지들 설치가 가능할 것인데,
이런부분 통신이 가능한지도 사전에 확인이 필요할 수도 있고요.
통신이 안될 경우 해당 OS에 설치가 필요한 패키지들(.deb 혹은 .rpms)을 미리 다 준비해놔야 하는 점 등이 예상 됩니다.
서버에다가 핸드폰 테더링 해서 붙이는 것도 어려운 일이고,
간접적으로 가져간 노트북에 핸드폰 테더링 해서 필요한 패키지를 현장에서 받아다 설치하는 것도 보통 일이 아닐 겁니다.
추가적으로 CUDA도 고객사가 원하는 버전이 무엇인지 확인할 필요도 있을 것이고요.
GPU 서버를 요즘 주로 AI 작업하느라 업체에 설치 요구를 많이 하는건데,
python 버전에도 영향 있고, pytorch 같은걸 쓰는 경우, CUDA 버전이 11.8, 12.1 등 옛날 버전을 요구할수 있어서
원하는 버전이 아닌 경우 재설치가 필요할 수도 있습니다. 별말 없으면 대부분 최신버전을 설치하게 될텐데,
최신버전 설치하면 기존에 나와있는 AI 라이브러리들이 구버전으로 기 구축된 관계로 잘 안돌아가게 됩니다.
암튼 그래서 이를 대비해서 예상되는 작업 방향을 정리하면
1. 설치할 OS환경 정보 미리 파악하고 (설치해야 되는 CUDA 버전도 확인하시고)
2. 설치할 패키지 모두 미리 확보하시고 (서버가 USB접근 가능하면 USB에 담고)
3. 입력할 명령어는 사전에 미리 파악해서 프린트 한다음 현장에서는 준비된 명령을 순차적으로 입력
하는 것으로 마무리될 수 있을 정도로 사전에 같은 환경에서 미리 예행연습 해두시면 잘 대비가 되지 않을까 생각합니다.
미리 설치해서 테스트 해보지 않으면, 십중팔구 현장에서 문제가 생기고 대처하는 데 시간이 무한히 흘러갈 거라 예상됩니다..
여러가지 면에서, 가급적이면 전문가와 대동하시는 게 좋을 것 같고요.