Extra-Newton: A First Approach to Noise-Adaptive Accelerated Second-Order Methods

This work proposes a universal and adaptive second-order method for minimizing second-order smooth, convex functions. Our algorithm achieves \(O(\sigma / \sqrt{T})\) convergence when the oracle feedback is stochastic with variance \(\sigma^2\), and improves its convergence to \(O( 1 / T^3)\) with de...

Ausführliche Beschreibung

Bibliographische Detailangaben

Veröffentlicht in:	arXiv.org 2022-12
Hauptverfasser:	Antonakopoulos, Kimon, Kavis, Ali, Cevher, Volkan
Format:	Artikel
Sprache:	eng
Schlagworte:	Algorithms Convergence Optimization Smoothness
Online-Zugang:	Volltext
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!