클러스터링이나 그리드 컴퓨팅은 특수목적의 연산(대표적으로 행렬)을 여러 대의 컴퓨터로 분배하여 빠르게 처리하기 위한 방법이고, 로드 밸런싱은 작업을 여러 대의 컴퓨터에 효과적으로 분배하여 클라이언트의 요구에 신속히 답변하기 위한 방법입니다. 대표적인 예로 야후와 같은 웹서비스가 로드밸런싱을 이용하여 대규모 사용자를 동시처리하도록 하죠.
여기에 짧게 설명을 드리기는 어려우니 자세한 개념은 아래 링크를 참고하세요.
http://linux.clusterkorea.org <-- 로드 밸런싱
http://kldp.org/HOWTO/html/Parallel-Processing/Parallel-Processing-HOWTO.html
http://kldp.org/Translations/html/Cluster_QuickStart-KLDP/Cluster_QuickStart-KLDP.html
http://kldp.org/HOWTO/html/Beowulf/Beowulf-HOWTO.html
짧은글 일수록 신중하게.