SYSTEMS AND METHODS FOR FEDERATED MODEL VALIDATION AND DATA VERIFICATION

Systems and methods for federated model validation and data verification are disclosed. A method may include: (1) receiving, by a local computer program executed by client system, a federated machine learning model from a federated model server; (2) testing, by the local computer program and using a policy service, the federated machine learning model for vulnerabilities to attacks; (3) accepting, by the local computer program, the federated machine learning model in response to the federated machine learning model passing the testing; (4) training, by the local computer program, the federated machine learning model using input data comprising local data and outputting training parameters; (5) identifying, by the local computer program using the policy service, accidental leakage and/or contamination by comparing the training parameters to the input data; and (6) providing, by the local computer program, the training parameters to the federated model server. L'invention concerne des systèmes et des procédés de validation de modèle fédéré et de vérification de données. Un procédé peut comprendre : (1) la réception, par un programme informatique local exécuté par un système client, d'un modèle d'apprentissage machine fédéré à partir d'un serveur de modèle fédéré; (2) le test, par le programme informatique local et à l'aide d'un service de politique, du modèle d'apprentissage machine fédéré pour des vulnérabilités à des attaques; (3) l'acceptation, par le programme informatique local, du modèle d'apprentissage machine fédéré en réponse au fait que le modèle d'apprentissage machine fédéré a réussi le test; (4) l'entraînement, par le programme informatique local, du modèle d'apprentissage machine fédéré à l'aide de données d'entrée comprenant des données locales et la sortie de paramètres d'entraînement; (5) l'identification, par le programme informatique local à l'aide du service de politique, d'une fuite et/ou d'une contamination accidentelles en comparant les paramètres d'entraînement aux données d'entrée; et (6) la fourniture, par le programme informatique local, des paramètres d'entraînement au serveur de modèle fédéré.