IDENTIFICATION OF DECISION BIAS WITH ARTIFICIAL INTELLIGENCE PROGRAM

Methods, systems, and computer programs are presented for notifying users of identified bias when the users make decisions. One method includes an operation for tracking, by a bias machine-learning program (MLP), the activities of a user. A set of features is defined for detecting bias, where the features include user profile information, user environment information, history of activities and decisions of the user, community information, and a knowledge base that includes facts. Additionally, the bias MLP detects a decision of the user based on the tracked activities, and analyzes the decision for bias when making the decision. The analysis is based on the decision, facts relevant to making the decision, and the features utilized by the bias MLP. When a bias is detected, a notification is presented to the user of the detection of the bias, with one or more reasons for the detected bias. La présente invention concerne des procédés, des systèmes et des programmes informatiques pour notifier à des utilisateurs des biais identifiés lorsque lesdits utilisateurs prennent des décisions. Un procédé inclut une opération pour suivre, par un programme d'apprentissage automatique (MLP) de biais, les activités d'un utilisateur. Un ensemble de caractéristiques est défini pour détecter un biais, les caractéristiques incluant des informations de profil d'utilisateur, des informations d'environnement d'utilisateur, un historique d'activités et de décisions de l'utilisateur, des informations de communauté et une base de connaissances qui inclut des faits. De plus, le MLP de biais détecte une décision de l'utilisateur sur la base des activités suivies et analyse la décision pour un biais lors de la prise de décision. L'analyse est basée sur la décision, sur des faits pertinents pour prendre la décision, et sur les caractéristiques utilisées par le MLP de biais. Lorsqu'un biais est détecté, une notification de la détection du biais est présentée à l'utilisateur, avec une ou plusieurs raisons pour le biais détecté.