Parallel Programming

병렬 프로그래밍(Parallel Programming)

• 하나의 프로그램이 동시에 여러 개의 작업을 처리하도록 하는 프로그래밍 기법으로 이를 통해 더 빠르게 프로그램을 실행할 수 있으며, 대용량 데이터나 복잡한 계산 등을 처리할 때 유용.
  
  

구현방법

• 멀티프로세싱(Multiprocessing)

  여러 개의 프로세스를 생성하여 각각의 프로세스에서 작업을 처리하는 방법으로 독립적인 프로세스를 이용하기 때문에 안정성이 높으며, 여러 개의 CPU를 사용하여 병렬 처리가 가능.

• 멀티쓰레딩(Multithreading)

  하나의 프로세스에서 여러 개의 쓰레드를 생성하여 각각의 쓰레드에서 작업을 처리하는 방법으로 메모리 공간을 적게 차지하고, 쓰레드간 데이터 공유가 쉬우며, I/O 작업이 많은 경우에 유용.

• SIMD(Single Instruction Multiple Data)

  하나의 명령어로 여러 개의 데이터를 처리하는 방법으로 대용량 데이터를 처리할 때 유용하며, 대표적으로 벡터 연산과 GPU가 있음.

• OpenMP(Open Multi-Processing)

  C, C++, 포트란 등에서 사용되는 공유 메모리를 이용한 병렬 처리 라이브러리로 쓰레드 생성, 동기화 등을 쉽게 구현할 수 있으며, 간단한 작업을 병렬 처리할 때 유용.

• MPI(Message Passing Interface)

  분산환경에서 동작하는 병렬 처리 라이브러리로 여러 대의 컴퓨터에서 작업을 분할하여 각각의 컴퓨터에서 처리한 결과를 모아 최종 결과를 도출하고 대규모 병렬 처리에 유용.
  
  

결론

• 위와 같은 방법으로 병렬 프로그래밍을 구현할 수 있으며, 멀티프로세싱과 멀티쓰레딩을 이용한 병렬 프로그래밍이 가장 널리 사용되고 있음.
• 하지만 병렬 프로그래밍을 구현할 때는 동기화와 데이터 공유 등에 주의해야 하며, 잘못된 구현은 오히려 성능 저하를 야기할 수 있음.