NEURAL NETWORK VERIFICATION

Systems and methods associated with neural network verification are disclosed. One example method may be embodied on a non-transitory computer-readable medium storing computer-executable instructions. The instructions, when executed by a computer, may cause the computer to train a neural network with a training data set to perform a predefined task. The instructions may also cause the computer to train the neural network with a sentinel data set. The sentinel data set may cause the neural network to provide an identification signal in response to a predefined query set. The instructions may also cause the computer to verify whether a suspicious service operates an unauthorized copy of the neural network. The suspicious service may be verified by extracting the identification signal from responses the suspicious service provides to the predefined query set. L'invention concerne des systèmes et des procédés associés à une vérification de réseau neuronal. Un exemple de procédé peut être mis en œuvre sur un support lisible par ordinateur non transitoire stockant des instructions exécutables par ordinateur. Les instructions, lorsqu'elles sont exécutées par un ordinateur, peuvent amener l'ordinateur à réaliser l'apprentissage d'un réseau neuronal avec un ensemble de données d'apprentissage pour effectuer une tâche prédéfinie. Les instructions peuvent également amener l'ordinateur à réaliser l'apprentissage du réseau neuronal avec un ensemble de données de sentinelle. L'ensemble de données de sentinelle peut amener le réseau neuronal à fournir un signal d'identification en réponse à un ensemble de requêtes prédéfini. Les instructions peuvent également amener l'ordinateur à vérifier si un service suspect exploite une copie non autorisée du réseau neuronal. Le service suspect peut être vérifié en extrayant le signal d'identification des réponses que le service suspect fournit à l'ensemble de requêtes prédéfini.