SYSTEMS AND METHODS FOR PERFORMING NEURAL NETWORK OPERATIONS

A method for retrieving neural network coefficients may include executing neural network operations and storing, in at least one data memory, one or more intermediate results of the neural network operations. The method may also include retrieving, in an iterative manner, subsets of neural network coefficients related to a particular layer of a neural network associated with at least one of the neural network processors. Different ones of the neural network processors may use at least one of the subsets of the neural network coefficients. The retrieving the subsets of neural network coefficients may include caching the subsets in coefficient cache memory. At least some of the subsets may be cached in the coefficient cache memory for up to a first duration, and at least some of the intermediate results may be stored in the at least one data memory for a duration that exceeds the first duration. La présente invention concerne un procédé de récupération de coefficients de réseau de neurones pouvant consister à exécuter des opérations de réseau de neaurones et à stocker, dans au moins une mémoire de données, un ou plusieurs résultats intermédiaires des opérations de réseau de neurones. Le procédé peut également consister à récupérer, d'une manière itérative, des sous-ensembles de coefficients de réseau de neurones liés à une couche particulière d'un réseau de neurones associé à au moins l'un des processeurs de réseau de neurones. Différents processeurs de réseau de neurones parmi les processeurs de réseau de neurones peuvent utiliser au moins l'un des sous-ensembles des coefficients de réseau de neurones. La récupération des sous-ensembles de coefficients de réseau de neurones peut consister à mettre en cache les sous-ensembles dans une mémoire cache de coefficients. Au moins certains des sous-ensembles peuvent être mis en cache dans la mémoire cache de coefficients pendant une durée allant jusqu'à une première durée, et au moins certains des résultats intermédiaires peuvent être stockés dans la ou les mémoires de données pendant une durée qui dépasse la première durée.