Applications de l’apprentissage profond à la conception de systèmes de communication sans fil améliorés

L'innovation dans la couche physique a traditionnellement été réalisée en modélisant les émetteurs-récepteurs comme une suite de blocs, chacun étant optimisé indépendamment sur la base de modèles mathématiques. À l'inverse, les systèmes basés sur l'apprentissage machine (machine learning, ML) sont capables de traiter des tâches pour lesquelles aucun modèle n'est disponible. Cette thèse vise à comparer différentes approches pour libérer le plein potentiel du ML dans la couche physique. Tout d'abord, nous décrivons une stratégie de bloc basée sur un réseau de neurones (neural network, NN), où un NN est optimisé pour remplacer un ou plusieurs blocs consécutifs dans un système de communication. Nous appliquons cette stratégie pour introduire un nouveau détecteur MU-MIMO. L'idée est d’utiliser un hyper-réseau pour générer des paramètres optimisés pour un détecteur sous-jacent basé sur le ML. Deuxièmement, nous présentons la stratégie de bout en bout, dans laquelle les émetteurs-récepteurs sont modélisés comme des NNs qui sont entraînés conjointement pour maximiser un taux d'information réalisable. Cette approche permet des optimisations plus profondes, comme l'illustre la conception de formes d'onde qui atteignent des débits élevés tout en satisfaisant des contraintes sur le signal et son spectre. Enfin, nous proposons une stratégie hybride, où plusieurs composants ML sont insérés dans une architecture traditionnelle mais entraînés pour optimiser les performances de bout en bout. Pour démontrer ses avantages, nous détaillons un récepteur MU-MIMO amélioré par ML qui permet de réduire les taux d'erreur binaire par rapport à un récepteur classique tout en restant conforme aux standards. Bien que chaque approche ait ses propres forces et ses faiblesses, nous pensons que la flexibilité et la complexité contenue de cette architecture hybride motive son utilisation pour des implémentations à court terme. Innovation in the physical layer of communication systems has traditionally been achieved by breaking down the transceivers into sets of processing blocks, each optimized independently based on mathematical models. This approach is now challenged by the ever-growing demand for wireless connectivity and the increasingly diverse set of devices and use-cases. Conversely, deep learning (DL)-based systems are able to handle increasingly complex tasks for which no tractable models are available. By learning from the data, these systems could be trained to embrace the undesi