More Parameters? No Thanks

This work studies the long-standing problems of model capacity and negative interference in multilingual neural machine translation MNMT. We use network pruning techniques and observe that pruning 50-70% of the parameters from a trained MNMT model results only in a 0.29-1.98 drop in the BLEU score....

Ausführliche Beschreibung

Bibliographische Detailangaben

Veröffentlicht in:	arXiv.org 2021-07
Hauptverfasser:	Khan, Zeeshan, Akella, Kartheek, Namboodiri, Vinay P, Jawahar, C V
Format:	Artikel
Sprache:	eng
Schlagworte:	Adaptation Adapters Interference Machine translation Mathematical models Parameters Pruning
Online-Zugang:	Volltext
Tags:	Tag hinzufügen Keine Tags, Fügen Sie den ersten Tag hinzu!