ADVERSARIAL DATA DETECTION DEVICE AND ADVERSARIAL DATA DETECTION METHOD

This adversarial data detection device holds evaluation object data, and a model that outputs an evaluation value when data is input; inputs evaluation object data into the model to calculate an evaluation value of the evaluation object data; adds different noises to the evaluation object data to generate a plurality of pieces of augmented evaluation object data; updates the augmented evaluation object data by adding a noise to each of the plurality of pieces of augmented evaluation object data until the evaluation value of the augmented evaluation object data does not match the evaluation value of the evaluation object data; and determines whether the evaluation object data is adversarial data, on the basis of deviation of the evaluation value of each of the updated augmented evaluation object data. L'invention concerne un dispositif de détection de données antagonistes qui contient des données d'objet d'évaluation, et un modèle qui délivre en sortie une valeur d'évaluation lorsque des données sont appliquées en entrées; applique des données d'objet d'évaluation à l'entrée du modèle pour calculer une valeur d'évaluation des données d'objet d'évaluation; ajoute différents bruits aux données d'objet d'évaluation pour générer une pluralité d'éléments de données d'objet d'évaluation augmentées; met à jour les données d'objet d'évaluation augmentées en ajoutant un bruit à chacun de la pluralité d'éléments de données d'objet d'évaluation augmentées jusqu'à ce que la valeur d'évaluation des données d'objet d'évaluation augmentées ne coïncide pas avec la valeur d'évaluation des données d'objet d'évaluation; et détermine si les données d'objet d'évaluation sont des données antagonistes, sur la base de l'écart de la valeur d'évaluation de chacune des données d'objet d'évaluation augmentées mises à jour. 敵対的データ検知装置は、評価対象データと、データが入力されると評価値を出力するモデルと、を保持し、評価対象データを前記モデルに入力して、評価対象データの評価値を算出し、評価対象データに異なるノイズを付加して、複数の拡張評価対象データを生成し、複数の拡張評価対象データそれぞれに対して、当該拡張評価対象データの評価値が、評価対象データの評価値と一致しないようになるまで、ノイズを加えて当該拡張評価対象データを更新し、更新後の拡張評価対象データそれぞれの評価値の偏りに基づいて、評価対象データが敵対的データであるかを判定する。