GENERATION METHOD, GENERATION PROGRAM, AND INFORMATION PROCESSING APPARATUS

To easily generate information indicating the possibility of attacks to a machine learning system.SOLUTION: An information processing apparatus 10 acquires first information 4 and second information 5. The first information 4 includes at least one of information indicating availability of a trained model 1a, information indicating availability of trained data, and information indicating a limit value for the number of queries. The second information 5 includes at least one of information indicating manipulability of query and information indicating manipulability of trained data. The information processing apparatus 10 generates third information 6 indicating the possibility that the trained model 1a is accessed by each of one or more access modes, on the basis of the first information 4. The information processing apparatus 10 generates fourth information 7a, 7b, ... indicating the possibility of attacks for a predetermined purpose of attack by each of the one or more access modes, on the basis of the third information 6 and the second information 5.SELECTED DRAWING: Figure 1 【課題】機械学習システムへの攻撃の可能性を示す情報を容易に生成できるようにする。【解決手段】情報処理装置１０は、第１の情報４と第２の情報５とを取得する。第１の情報４は、訓練済みモデル１ａの入手可能性を示す情報、訓練データの入手可能性を示す情報、およびクエリ数の制限値を示す情報のうち、少なくともいずれか１つを含む。第２の情報５は、クエリの操作可能性を示す情報、および訓練データの操作可能性を示す情報のうち、少なくともいずれか１つを含む。情報処理装置１０は、第１の情報４に基づき、１または複数のアクセス形態それぞれによる訓練済みモデル１ａへのアクセスが行われる可能性を示す第３の情報６を生成する。そして情報処理装置１０は、第３の情報６と第２の情報５とに基づき、所定の攻撃目的のために１または複数のアクセス形態それぞれにより攻撃が行われる可能性を示す第４の情報７ａ，７ｂ，・・・を生成する。【選択図】図１