HOSTILE DATA DETECTOR AND HOSTILE DATA DETECTION METHOD

To detect hostile data with high accuracy even under a situation where an attacker knows information about a method for detecting the hostile data, and thus maintain safety.SOLUTION: A hostile data detector holds evaluation target data and a model that outputs an evaluation value when data is input; inputs evaluation target data into the model to calculate an evaluation value of the evaluation target data; adds different noises to the evaluation target data to generate a plurality of extended evaluation target data; updates the extended evaluation target data by adding noise to each of the plurality of extended evaluation target data until the evaluation value of the extended evaluation target data does not match the evaluation value of the evaluation target data; and determines whether or not the evaluation target data is hostile data, based on the deviation of the evaluation values of the updated extended evaluation target data.SELECTED DRAWING: Figure 6 【課題】攻撃者が敵対的データの検知手法についての情報を知っている状況下においても高精度に敵対的データを検知して、ひいては安全性を保つ。【解決手段】敵対的データ検知装置は、評価対象データと、データが入力されると評価値を出力するモデルと、を保持し、評価対象データを前記モデルに入力して、評価対象データの評価値を算出し、評価対象データに異なるノイズを付加して、複数の拡張評価対象データを生成し、複数の拡張評価対象データそれぞれに対して、当該拡張評価対象データの評価値が、評価対象データの評価値と一致しないようになるまで、ノイズを加えて当該拡張評価対象データを更新し、更新後の拡張評価対象データそれぞれの評価値の偏りに基づいて、評価対象データが敵対的データであるかを判定する。【選択図】図６