GPU (Graphic Processing Unit)
- CPU 연산에 비해 엄청나게 많은 수의 부동소수점 곱셈 연산을 발생시킨다
- 부동 소수점 곱셈 : 소수점이 있는 두 개의 숫자간의 곱셈
CPU vs GPU 구조
- 그래픽 처리에 필요한 계산에는 복잡한 명령어 세트나 많은 수의 레지스터가 필요하지 않습니다. 복잡한 캐시 구조도 필요 없습니다. 그냥 동일한 형태의 계산-부동 소수점 곱셈-을 대량으로 수행하면 됩니다.
- cpu도 부동소수점 연산이 가능하지만, 정교한 아키텍쳐를 가지고 있으니
- 복잡한 일을 하는게 더 효율적인다
GPU는 대규모 병렬 곱셈 공장!
- GPU 는 단순한 형태의 대량 계산을 CPU로부터 독립시키는 고안된 Co-process
- 그래픽 처리에 필요한 대량 부동소수점 연산을 저비용으로 수행
WHY GPU is AWSEOM in AI
- AI 추론이나 학습을 할 때 핵심적으로 필요한 연산은 매트릭스 합성곱(convolution) 같은 연산 과정이 정말 많지만 간단한 연산이 많음
- gpu는 그런 단순한 계산의 킹 of 킹!
