APPARATUS FOR PROCESSING DEEP LEARNING MODEL AND METHOD THEREOF

본 발명은 딥러닝 모델의 처리 장치 및 그 방법에 관한 것으로, 딥러닝 모델의 각 레이어(Layer)별로 메모리 사용량과 제1 메모리(일례로, SRAM)의 사용에 따른 제1 처리시간 및 제2 메모리(일례로, DRAM)의 사용에 따른 제2 처리시간을 검출하고, 목적 함수(Objective function)에 기초하여 상기 딥러닝 모델의 각 레이어별 최적의 메모리를 결정함으로써, 상기 딥러닝 모델을 처리하는데 소요되는 시간을 최소화할 수 있는 딥러닝 모델의 처리 장치 및 그 방법을 제공하고자 한다. 이를 위하여, 본 발명은 제1 메모리; 제2 메모리; 및 딥러닝 모델의 각 레이어별로 메모리 사용량과 상기 제1 메모리의 사용에 따른 제1 처리시간 및 상기 제2 메모리의 사용에 따른 제2 처리시간을 검출하고, 목적 함수에 기초하여 상기 딥러닝 모델의 각 레이어별 최적의 메모리를 결정하는 제어부를 포함할 수 있다. An apparatus for processing a deep learning model includes a first memory, a second memory, and a controller. The controller is configured to, for each layer of the deep learning model, detect memory usage, a first processing time corresponding to the first memory being used, and a second processing time corresponding to the second memory being used, and determine an optimal memory for each layer of the deep learning model based on an objective function.