SYSTEMS AND METHODS FOR MEASURING THE FAIRNESS OF SCREENING TOOLS IMPLEMENTED BY MACHINE LEARNING

A system includes memory hardware configured to store instructions and processing hardware configured to execute the instructions. The instructions include loading a first data set, the first data set including (i) a reference profile and (ii) one or more candidate profiles, providing the first data set to a machine learning model to generate output data, generating telemetry for the first data set, the telemetry including (a) one or more role identifiers associated with the reference profile and (b) one or more candidate identifiers associated with the one or more candidate profiles, processing the output data and telemetry to generate a test metric, adjusting parameters of the machine learning model in response to the test metric meeting a first condition, and saving the machine learning model as a validated machine learning model in response to the test metric meeting a second condition. Un système comprend un matériel de mémoire configuré pour stocker des instructions et un matériel de traitement configuré pour exécuter les instructions. Les instructions comprennent le chargement d'un premier ensemble de données, le premier ensemble de données comprenant (i) un profil de référence et (ii) un ou plusieurs profils candidats, la fourniture du premier ensemble de données à un modèle d'apprentissage automatique pour générer des données de sortie, la génération d'une télémétrie pour le premier ensemble de données, la télémétrie comprenant (a) un ou plusieurs identifiants de rôle associés au profil de référence et (b) un ou plusieurs identifiants candidats associés au ou aux profils candidats, le traitement des données de sortie et la télémétrie pour générer une métrique de test, l'ajustement de paramètres du modèle d'apprentissage automatique en réponse à la métrique de test satisfaisant une première condition, et la sauvegarde du modèle d'apprentissage automatique en tant que modèle d'apprentissage automatique validé en réponse à la métrique de test satisfaisant une seconde condition.