DATA FLOW STRUCTURE AND OPERATION METHOD FOR MINIMIZING EXTERNAL MEMORY ACCESS IN RESNET OF BINARY NEURAL NETWORK

A data flow structure and an operation method for minimizing external memory access in ResNet of a BNN are provided. An operation method according to an embodiment of the present invention performs an activation operation for floating point type-input data stored in an external memory so as to outpu...

Ausführliche Beschreibung

Gespeichert in:
Bibliographische Detailangaben
Hauptverfasser: KIM, Hyeon Seong, LEE, Jea Hack, KIM, Byung Soo
Format: Patent
Sprache:eng ; fre ; kor
Schlagworte:
Online-Zugang:Volltext bestellen
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
Beschreibung
Zusammenfassung:A data flow structure and an operation method for minimizing external memory access in ResNet of a BNN are provided. An operation method according to an embodiment of the present invention performs an activation operation for floating point type-input data stored in an external memory so as to output same as binary data and store same in an internal memory, and then performs a convolution operation, and a normalization and an ADD operation. Accordingly, in application to ResNet of a BNN, access to external memory RW can be dramatically reduced (50% reduced), whereby both power efficiency and operation speed in a BNN operation device can be enhanced. L'invention concerne une structure de flux de données et un procédé de fonctionnement pour réduire au minimum l'accès à la mémoire externe dans un réseau neuronal résiduel (ResNet) d'un réseau de neurones binaires. Un procédé de fonctionnement selon un mode de réalisation de la présente invention réalise une opération d'activation pour des données d'entrée de type à virgule flottante stockées dans une mémoire externe de façon à délivrer celles-ci en tant que données binaires et les stocker dans une mémoire interne, puis effectue une opération de convolution, et une normalisation et une opération ADD. Par conséquent, en application au ResNet d'un réseau de neurones binaires, l'accès à la mémoire externe RW peut être considérablement réduit (réduction de 50 %), ce par quoi à la fois l'efficacité de puissance et la vitesse de fonctionnement dans un dispositif d'opération de réseau de neurones binaires peuvent être améliorées. BNN의 ResNet에서 외부 메모리 접근 최소화를 위한 데이터 플로우 구조 및 연산 방법이 제공된다. 본 발명의 실시예에 따른 연산 방법은, 외부 메모리에 저장된 플로팅 포인트 형식의 입력 데이터를 활성화 연산하여 이진화 데이터로 출력하여 내부 메모리에 저장하고, 이후 컨볼루션 연산과 정규화 및 ADD 연산을 수행한다. 이에 의해, BNN의 ResNet 적용에 있어서 외부 메모리 RW를 위한 접근을 획기적으로 감소(50% 감소)시켜, BNN 연산 장치에서의 전력 효율 및 연산 속도를 모두 향상시킬 수 있게 된다.