BLOCKCHAIN-BASED MODEL GOVERNANCE AND AUDITABLE MONITORING OF MACHINE LEARNING MODELS

A method includes determining, by a trained machine learning model, a score based at least on one or more latent features. The method also includes monitoring the determining of the score by the trained machine learning model. The monitoring includes determining one or more production statistics ass...

Ausführliche Beschreibung

Gespeichert in:
Bibliographische Detailangaben
Hauptverfasser: RAHMAN, Shafi, ZOLDI, Scott
Format: Patent
Sprache:eng ; fre
Schlagworte:
Online-Zugang:Volltext bestellen
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
Beschreibung
Zusammenfassung:A method includes determining, by a trained machine learning model, a score based at least on one or more latent features. The method also includes monitoring the determining of the score by the trained machine learning model. The monitoring includes determining one or more production statistics associated with the one or more latent features, derived variables and input data elements, and accessing one or more reference assets persisted on a model governance blockchain. The one or more reference assets includes one or more reference statistics and a threshold indicating a deviation between the one or more production statistics and the one or more reference statistics. The method also includes generating an alert based on the one or more production statistics associated with the one or more latent features meeting the threshold. Related methods and articles of manufacture are also disclosed. Un procédé comprend la détermination, par un modèle d'apprentissage automatique entraîné, d'un score, basé sur au moins une ou plusieurs caractéristiques latentes. Le procédé comprend également une surveillance de la détermination du score par le modèle d'apprentissage automatique entraîné. La surveillance consiste à déterminer une ou plusieurs statistiques de production associées à la ou aux caractéristiques latentes, des variables dérivées et des éléments de données d'entrée, et à accéder à un ou plusieurs actifs de référence persistants sur une chaîne de blocs de gouvernance de modèle. Le ou les actifs de référence comprennent une ou plusieurs statistiques de référence, ainsi qu'un seuil indiquant un écart entre la ou les statistiques de production et la ou les statistiques de référence. Le procédé comprend également la génération d'une alerte sur la base de la ou des statistiques de production associées à la ou aux caractéristiques latentes satisfaisant le seuil. Des procédés et des articles manufacturés associés sont également divulgués.