STRUCTURE LEARNING IN CONVOLUTIONAL NEURAL NETWORKS

To provide an improved approach to implement structure learning for convolutional neural networks.SOLUTION: This disclosure pertains to computing networks, and more specifically to neural networks configured to learn hierarchical representations from data. The present disclosure provides an improved approach to implement structure learning of neural networks by exploiting correlations in the data/problem the networks aim to solve. A greedy approach is described that finds bottlenecks of information gain from the bottom convolutional layers all the way to the fully connected layers. Rather than simply making the architecture deeper, additional computation and capacitance are only added where they are required.SELECTED DRAWING: None 【課題】畳み込みニューラルネットワークのための構造学習を実装するための改良されたアプローチの提供。【解決手段】本開示は、計算ネットワークに関し、より具体的には、階層表現をデータから学習するように構成される、ニューラルネットワークに関する。本開示は、ネットワークが解くことを目標とするデータ／問題内の相関を活用することによって、ニューラルネットワークの構造学習を実装するための改良されたアプローチを提供する。最下畳み込み層から全接続層までの情報利得のボトルネックを見出す、貪欲アプローチが、説明される。単に、アーキテクチャをより深くするのではなく、付加的計算および容量は、要求される場合のみ追加される。【選択図】なし