INTEGRATING BINARY INFERENCE ENGINES AND MODEL DATA FOR EFFICIENCY OF INFERENCE TASKS

In one embodiment, a method includes receiving a user request from a client device associated with a user, accessing an instructional file comprising one or more binary inference engines and one or more encrypted model data corresponding to the one or more binary inference engines, respectively, selecting a binary inference engine from the one or more binary inference engines in the accessed instructional file based on the user request, sending a validation request for a permission to execute the binary inference engine to a licensing server, receiving the permission from the licensing server, decrypting the encrypted model data corresponding to the binary inference engine by a decryption key, executing the binary inference engine based on the user request and the decrypted model data, and sending one or more execution results responsive to the execution of the binary inference engine to the client device. Dans un mode de réalisation, l'invention concerne un procédé qui consiste à recevoir une demande d'utilisateur en provenance d'un dispositif client associé à un utilisateur, à accéder à un fichier instructionnel comprenant un ou plusieurs moteurs d'inférence binaires et une ou plusieurs données de modèle chiffrées correspondant au ou aux moteurs d'inférence binaires, respectivement, à sélectionner un moteur d'inférence binaire à partir du ou des moteurs d'inférence binaires dans le fichier instructionnel auquel on a accédé sur la base de la demande d'utilisateur, à envoyer une requête de validation pour une autorisation d'exécution du moteur d'inférence binaire à un serveur de concession de licence, à recevoir la permission du serveur de concession de licence, à déchiffrer les données de modèle chiffrées correspondant au moteur d'inférence binaire par une clé de déchiffrement, à exécuter le moteur d'inférence binaire sur la base de la demande d'utilisateur et des données de modèle déchiffrées, et à envoyer un ou plusieurs résultats d'exécution en réponse à l'exécution du moteur d'inférence binaire au dispositif client.