DEEP NEURAL NETWORK TRAINING DEVICE AND METHOD FOR EXECUTING STATISTICAL REGULARIZATION

The present invention relates to a deep neural network training device and method for executing regularization and, more specifically, to a deep neural network training device and method for executing statistical regularization, wherein, rather than a random neuron being removed, a neuron correspond...

Ausführliche Beschreibung

Gespeichert in:
Bibliographische Detailangaben
Hauptverfasser: KIM, Ye Ha, LEE, Jae Jin, JUNG, Woo Keun
Format: Patent
Sprache:eng ; fre ; kor
Schlagworte:
Online-Zugang:Volltext bestellen
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
Beschreibung
Zusammenfassung:The present invention relates to a deep neural network training device and method for executing regularization and, more specifically, to a deep neural network training device and method for executing statistical regularization, wherein, rather than a random neuron being removed, a neuron corresponding to an anomaly value is selected from among output values of an activation function to increase the efficiency of regularization for the number of removed neurons and preserve meaningful information better in a training phase to increase training performance. La présente invention concerne un dispositif d'apprentissage par réseau neuronal profond et un procédé pour exécuter une régularisation et, plus spécifiquement, un dispositif d'apprentissage par réseau neuronal profond et un procédé d'exécution d'une régularisation statistique, dans lequel, au lieu d'éliminer un neurone aléatoire, un neurone correspondant à une valeur d'anomalie est sélectionné parmi des valeurs de sortie d'une fonction d'activation pour augmenter l'efficacité de régularisation pour le nombre de neurones éliminés et pour mieux conserver les informations pertinentes lors d'une phase d'apprentissage afin d'améliorer les performances d'apprentissage. 본 발명은 정규화를 시행하는 딥 뉴럴 네트워크 학습 장치 및 그 방법에 관한 것으로, 더욱 상세하게는 뉴런을 임의로 제거하는 대신 활성화 함수의 출력값들 중 이상치에 해당하는 뉴런을 선택함으로써, 제거하는 뉴런 수 대비 정규화의 효율을 높이고, 학습 단계에서 유의미한 정보를 더 잘 보존하여 학습 성능을 높이는 통계 기반 정규화를 시행하는 딥 뉴럴 네트워크 학습 장치 및 그 방법에 관한 것이다.