HARDWARE IMPLEMENTED LOAD BALANCING

A server system is provided that includes a plurality of servers, each server including at least one hardware acceleration device and at least one processor communicatively coupled to the hardware acceleration device by an internal data bus and executing a host server instance, the host server instances of the plurality of servers collectively providing a software plane, and the hardware acceleration devices of the plurality of servers collectively providing a hardware acceleration plane that implements a plurality of hardware accelerated services, wherein each hardware acceleration device maintains in memory a data structure that contains load data indicating a load of each of a plurality of target hardware acceleration devices, and wherein a requesting hardware acceleration device routes the request to a target hardware acceleration device that is indicated by the load data in the data structure to have a lower load than other of the target hardware acceleration devices. La présente invention concerne un système serveur qui comprend une pluralité de serveurs, chaque serveur comprenant au moins un dispositif d'accélération matérielle et au moins un processeur couplé en communication au dispositif d'accélération matérielle par un bus de données interne et exécutant une instance de serveur hôte, les instances de serveur hôte de la pluralité de serveurs fournissant collectivement un plan de logiciel, et les dispositifs d'accélération matérielle de la pluralité de serveurs fournissant collectivement un plan d'accélération matérielle qui met en œuvre une pluralité de services accélérés de matériel, chaque dispositif d'accélération matérielle maintenant en mémoire une structure de données qui contient des données de charge qui indiquent une charge de chacun d'une pluralité de dispositifs d'accélération matérielle cibles, et un dispositif d'accélération matérielle demandeur achemine la demande vers un dispositif d'accélération matérielle cible qui est indiqué par les données de charge dans la structure de données pour présenter une charge inférieure à celle d'autres dispositifs d'accélération matérielle cibles.