SGD with Coordinate Sampling: Theory and Practice

While classical forms of stochastic gradient descent algorithm treat the different coordinates in the same way, a framework allowing for adaptive (non uniform) coordinate sampling is developed to leverage structure in data. In a non-convex setting and including zeroth order gradient estimate, almost...

Ausführliche Beschreibung

Bibliographische Detailangaben

Veröffentlicht in:	Journal of machine learning research 2022-10, Vol.23
Hauptverfasser:	Leluc, Rémi, Portier, François
Format:	Artikel
Sprache:	eng
Schlagworte:	Computer Science Machine Learning Other Statistics Statistics
Online-Zugang:	Volltext
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!