그러니까 CUDA나 openCL 프로그램에서 cpu 멀티코어의 역할이 의심스러워서요.
gpgpu 프로그램에서 cpu는 싱글 쓰레드 gpu는 멀티 쓰레드를 담당하는 것으로
알고 있는데요.
프로그램중 절대 시리얼 그러니까 순차 프로세스 그러니까 병렬화가 불가능한
부분은 cpu가 처리합니다. 멀티코어 cpu를 가진다고 해도 사용할 수 없습니다.
그냥 단일 코어가 처리합니다.
그리고 병열화가 가능한 부분은 몇백개에서 1000개에 육박하는 gpu 코어가
처리합니다.
그러니까 gpgpu 프로그램에서 멀티 코어 cpu는 단일 코어만 사용한다.
그러니까 멀티 코어 cpu는 의미 없다는 것이지요.
이것이 제가 알고 있는 gpgpu 프로그램이 작동하는 방식입니다.
CUDA나 openCL 모두 빠르게 발전하기 때문에 멀티 코어 cpu를 사용할 수
있는 명령어가 추가되었는지는 알지 못합니다.
사실 멀티 코어 cpu를 사용하는 것은 예전 MPI같은 것이 있었습니다.
이거 cpu 병렬 처리 기술입니다.
근데 일단 병렬 처리가 가능하다면 gpgpu도 가능하고
몇 않되는 cpu의 코어들을 사용하는 것보다 위어서 언급한
천개 가까운 gpu 코어를 사용하는 것이 훨씬 효과적입니다.
그러니까 gpgpu 프로그램을 위한 최선의 cpu/gpu 조합은
단일 코어 cpu + 가능한한 많은 gpu라는 것입니다.
혹시 잘못 알고 있는 부분이 있으면 지적해 주세요.
GPU 시스템에서 CPU가 그리 높을 필요가 없지요..
CUDA라면 커널을 올리고 데이터 복사가 된 이후부터는 CPU가 할 일이 별로 없습니다.
카피엔진이 두 개 이상인 Quadro나 Tesla급이면서 데이터 송수신이 잦은 경우 양방향 통신(멀티쓰레드)을 제어해야하는 업무가 추가되기는 합니다만
방법론적으로 보면 커널이 실행된 이후 CPU는 연산과정에서 의미가 없습니다.
커널을 실행파일과 함께 컴파일 하지 않는 경우 (특히 Shader기반, OpenGL Compute Shader와 같이)
실행때 커널/셰이더를 컴파일을 해줘야 하기 때문에 CPU의 성능이 프로그램 최초 실행속도에 영향을 줍니다.
다만 이 경우는 여러개의 컴파일을 동시에 실행하게 작성하지 않는 경우 (대부분의 경우) 다중작업과 상관이 없습니다.
OpenCL은 멀티코어CPU의 의미가 있을 수 있습니다.
OpenCL의 입장에서 GPU와 CPU는 모두 개별 CU로 취급 가능하기 때문에 이론적으로는 CPU와 GPU를 동시에 활용한 멀티작업을 할 수 있습니다.
이론만 따지면 CPU, GPU, 부가적인 처리장치(XeonPi등..)을 개별 CU로 묶어 데이터처리 클라이언트로 만들고
그 클라이언트를 클라우드로 묶어 상위 호스트 입장에서 개별 CU로 취급도 가능합니다.
다만, 각 하드웨어 벤더가 OpenCL용 드라이버를 각기 만들고 있는 상황이고, 최적화 문제도 있기 때문에
실제 서로 연계해서 사용시 안정적일지는 확실하지 않습니다..
다른 머신은 노스우드 2.8기가 cpu에 같은 지포스 980 두개로 시스템을 꾸몃다고 생각해봅시다. 시스템이 단가는
상당한 차이가 있을 것입니다만 성능은 어떨까요. 만일 어차피 cpu의 단일 코어만 계산에 기여한다면
쿼드 코어중 나머지 3개 코어는 CUDA의 경우는 노는 것이고 openCL의 경우 추가로 연동되겠지요.
980 카드는 코어가 2048개입니다 2천개 쓰레드가 동시에 가동 가능하다는 것입니다. 두개를 설치하면
4천개 코어입니다. 3개의 추가 코어가 의미가 있을까요?
하지만 결과는 상황에 따라 다릅니다.
설계 목표의 특징으로 인해, GPU의 상대적인 약점은 Latency이고 CPU의 상대적인 약점은 Throughput입니다.
CPU는 처리할 데이터가 같은 연산이 반복되는 대량의 작업을 필요로 하는 경우 처리할 주체 (ALU) 수에 직접 영향을 받을 수 밖에 없습니다.
GPU는 분기문 무시 방침, VRAM의 대역폭, 제한된 캐시, 스케쥴러의 성능등의 약점을 가지고 있고, GPU 세대에 따라서 데이터 타입(char,int,float..)의 영향도 있습니다. 결과적으로 아무리 수천의 코어를 동원해도 실제 작동은 몇개만 하는 상황도 가능합니다.
GPGPU 시스템은 위의 서로간 상대적인 약점을 잘 보완해 줄 때 최상의 성능을 가질 수 있습니다.
DAQ, 네트워크등으로 수집되는 데이터를 잘 정리하고 GPU가 처리하기 쉬운 형태로 넘겨주고, 처리된 데이터의 예외적인 후처리는 CPU의 몫이고,
데이터병렬, 프로그램병렬의 조건이 잘 갖춰진 상태에서 반복작업을 최대한 효율적으로 실행하는것이 GPU의 목적입니다.
다시말해, 시스템 전체가 같은 프로그램을 반복해서 수행하는 경우라면 cpu코어는 큰 의미가 없습니다. (gpu 1코어가 cpu 1코어와 동급이 아니라는 것을 감안해도)
이것은 gpu로 만든 클라우드시스템, 데이터센터등의 경우 cpu의 성능이 뛰어나지 않은 이유가 됩니다.
하지만 시스템의 구성 목적에 따라서 gpu외적인 것을 처리하기 위해 많은 cpu코어가 도움이 되는 경우는 있습니다.
예를 들어 tegra tk1[4core arm + 196 cuda core]으로 자동주행차량을 제어시 arm은 네트워크, 카메라등 외부장치 및 os를 관장, cuda는 영상처리를 관장하는등의 경우입니다.
gpu의 코어는 혼자 작동가능하지 않다는것을 참고로 병렬처리의 개념을 확인해 보시는것을 추천드립니다.
어떤 데이터를 어떻게 쓸까 -> gpu가 적합한가 를 만족해야 의미가 있습니다. 다시 말해, gpu는 도구일 뿐이라는것입니다.
자동주행 차량의 경우도 멀티코어를 어떻게 쓰느냐에 따라 성능이 달라지지 코어가 늘어난다고 성능이 비례하지 않습니다.
말씀드린대로 GPU는 적어도 현시점에서 보완재이지 대체재가 아닙니다.
다시말해 그것을 쓸 수 있도록 구성되고 사용되는 시스템이 아닌이상 의미가 없습니다.
1. 저사양 CPU + GPU, 그리고 그 클라우드 서비스는 아마존 EC2의 GPU 인스턴스를 참고로 하시면 될 듯 합니다.
2. NAS의 경우가 제가 답변 이전 사족을 달게된 이유와 비슷합니다. 그럴수도 아닐수도 있습니다.
3. 자동주행차랑 쿼드코어 : MCU (GPIO 제어 가능한)의 목적이 외부장치 제어이고, 쿼드코어는 Tegra K1의 구성이 쿼드이기 때문입니다.
4. 멀티코어 활용을 위한 특별한 소프트웨어.. : 이것도 2번항과 비슷합니다. 구성과 프로그램을 어떻게 만드느냐에 따라 다릅니다. 멀티코어를 사용할 필요가 있다면 쓰게 만드는게 당연합니다.
무작정 tesla k20 하나 얻어와서 꼽고 공부시작했는데.. 좋은정보 얻어갑니다!