RESSOURCENZUORDNUNG ZUM OPTIMIEREN VON HYPERPARAMETERN BEI UMFANGREICHEN DEEP-LEARNING-ARBEITSLASTEN

Ein Verfahren, ein Computersystem und ein Computerprogrammprodukt können ein Optimieren von Hyperparametern durchführen. Es können Eingabedaten für die Hyperparametersuche empfangen werden. Es kann ein Suchalgorithmus zum Generieren eines Satzes von Hyperparametern aufgerufen werden. Ein Hyperparameter-Optimierungsressourcenzuordner kann Daten zu physischen Ressourcen bezüglich eines Clusters empfangen. Der Hyperparameter-Optimierungsressourcenzuordner kann eine erforderliche Arbeitslast bestimmen und eine empfangene Anzahl von parallelen Experimenten verwenden, um die erforderliche Arbeitslast zu bestimmen. Der Hyperparameter-Optimierungsressourcenzuordner kann feststellen, ob eine Option zum Vorschreiben der Arbeitslast-Stapelgröße ausgewählt wurde. Der Cluster kann die Anzahl von parallelen Experimenten durchführen, um den Satz von Hyperparametern zu suchen und zu optimieren. Der Hyperparameter-Optimierungsressourcenzuordner kann den Cluster entsprechend den Daten zu physischen Ressourcen und der erforderlichen Arbeitslast und unter Verwendung von Tensorauslagerung verwalten. A method, computer system, and a computer program product may perform hyperparameter tuning. Hyperparameter search input data may be received. A search algorithm to generate a set of hyperparameters may be invoked. A hyperparameter tuning resource allocator may receive physical resource data regarding a cluster. The hyperparameter tuning resource allocator may determine a required workload and may use a received number of parallel experiments to determine the required workload. The hyperparameter tuning resource allocator may determine whether an option to mandate the workload batch size was selected. The cluster may perform the number of parallel experiments to search and tune the set of hyperparameters. The hyperparameter tuning resource allocator may manage the cluster according to the physical resource data and the required workload and by using tensor swapping.