METHOD FOR INTERPRETING ARTIFICIAL NEURAL NETWORKS

The present technical solution relates in general to the field of computer technology, and in particular to methods and systems for interpreting the working of artificial neural network models. Claimed is a method for interpreting artificial neural networks which involves obtaining at least one artificial neural network pretrained on a set of objects; forming at least one decision tree for each layer of the trained neural network, said decision tree being produced as input data for activating the corresponding layer obtained when an object from the available data set passes through the neural network; predicting by means of the decision trees the response given to said object by the trained artificial neural network; then obtaining for each object an ordered sequence of numbers of the leaves of the decision trees formed in the preceding step; and generating a set of rules predicting the sequence of numbers of the leaves pertaining to an object. The technical result is an improvement in the quality and accuracy of the interpretation of the working of an artificial neural network. La présente solution technique concerne de manière générale le domaine des techniques informatiques et notamment des systèmes et procédés d'interprétation de modèles de réseaux neuronaux artificiels. L'invention concerne un procédé d'interprétation de modèles de réseaux neuronaux artificiels, consistant à: obtenir au moins un réseau neuronal artificiel préalablement instruit sur un ensemble d'objets; générer pour chaque couche du réseau neuronal instruit au moins un arbre de décision, l'arbre de décision étant obtenu en tant que données d'entrée d'activation de la couche correspondante obtenue lors du passage de l'objet par le réseau neuronal à partir de l'ensemble de données existant; prédire avec des arbres de décision la même réponse que le réseau neuronal artificiel va donner pour cet objet; puis obtenir pour chaque objet un séquence ordonnée de nombre de feuilles formées lors de l'étape précédente des arbres de décision; et générer ensuite un ensemble de règles prédisant la séquence de nombres de feuilles selon l'objet. Le résultat technique consiste en une augmentation de la qualité et de la précision d'interprétation du fonctionnement d'un réseau neuronal artificiel. Данное техническое решение, в общем, относится к области вычислительной техники, а в частности к способам и системам интерпретации работы моделей искусственных нейронных сетей. Способ интерпретации искусственны