A second-order gradient-like dissipative dynamical system with Hessian-driven damping.: Application to optimization and mechanics

Given H a real Hilbert space and Φ:H→R a smooth C2 function, we study the dynamical inertial system (DIN)ẍ(t)+αẋ(t)+β∇2Φx(t)ẋ(t)+∇Φx(t)=0, where α and β are positive parameters. The inertial term ẍ(t) acts as a singular perturbation and, in fact, regularization of the possibly degenerate classical Newton continuous dynamical system ∇2Φ(x(t))ẋ(t)+∇Φ(x(t))=0. We show that (DIN) is a well-posed dynamical system. Due to their dissipative aspect, trajectories of (DIN) enjoy remarkable optimization properties. For example, when Φ is convex and argminΦ≠∅, then each trajectory of (DIN) weakly converges to a minimizer of Φ. If Φ is real analytic, then each trajectory converges to a critical point of Φ. A remarkable feature of (DIN) is that one can produce an equivalent system which is first-order in time and with no occurrence of the Hessian, namely ẋ(t)+c∇Φx(t)+ax(t)+by(t)=0,ẏ(t)+ax(t)+by(t)=0, where a, b, c are parameters which can be explicitly expressed in terms of α and β. This allows to consider (DIN) when Φ is C1 only, or more generally, nonsmooth or subject to constraints. This is first illustrated by a gradient projection dynamical system exhibiting both viable trajectories, inertial aspects, optimization properties, and secondly by a mechanical system with impact. Nous étudions le système dynamique : (DIN)ẍ(t)+αẋ(t)+β∇2Φx(t)ẋ(t)+∇Φx(t)=0, où Φ:H→R est une fonctionnelle de classe C2, H un espace de Hilbert réel, et α, β des paramètres >0. Le terme inertiel ẍ(t) peut être vu comme une perturbation singulière mais aussi une régularisation de la méthode de Newton continue ∇2Φ(x(t))ẋ(t)+∇Φ(x(t))=0. Le système (DIN) est bien posé. La dissipativité confère aux trajectoires des propriétés intéressantes pour l'optimisation de Φ. Par exemple, si Φ est convexe et argminΦ≠∅, toute trajectoire converge faiblement vers un minimum de Φ. En dimension finie, si Φ est analytique, toute trajectoire converge vers un point critique de Φ. De façon remarquable, (DIN) est équivalent à un système du premier ordre où le hessien ∇2Φ ne figure pas, ẋ(t)+c∇Φx(t)+ax(t)+by(t)=0,ẏ(t)+ax(t)+by(t)=0, Il est donc possible de donner un sens à (DIN) losque Φ est de classe C1, ou même soumise à des contraintes. Nous en donnons deux illustrations : (1) un système dynamique de type gradient projeté avec des trajectoires inertielles viables et des propriétés de minimisation ; (2) une approche du rebond inélastique en mécanique.