배치 처리는 컴퓨터로 계산할 때 큰 이점이 있다.
- 이미지 1장당 처리 시간을대폭 줄여준다.
왜?
1. 수치 계산 라이브러리의 대부분이 큰 배열을 효율적으로 처리할 수 있도록 최적화되어 있기 때문에
2. 커다란 신경망에서는 데이터 전송이 병목이 되는 경우가 자주 있다. -> 배치 처리를 함으로써 버스에 주는 부하를 줄임
(느린 I/O를 통해 데이터를 읽는 횟수에 비해, 빠른 CPU나 GPU로 순수 계산을 수행하는 비율이 높아진다)
즉, 배치 처리를 수행함으로써 큰 배열이 이뤄진 계산을 하게 되는데, 컴퓨터에서는 큰 배열을 한꺼번에 계산하는 것이 분할된 작은 배열을 여러 번 계산하는 것보다 빠르다.
내용 참고
book.naver.com/bookdb/book_detail.nhn?bid=11492334
'딥러닝관련' 카테고리의 다른 글
신경망 정리 2 (선형 함수, 비선형 함수, ReLU, Softmax, 행렬 계산...) (3) | 2021.05.02 |
---|---|
CAM 및 Grad-CAM 정리 (0) | 2021.01.29 |
GAN — Wasserstein GAN & WGAN-GP (0) | 2021.01.18 |
DeblurGAN: Blind Motion Deblurring Using Conditional Adversarial Networks 논문 리뷰 (0) | 2021.01.18 |