RESIDUAL CONVOLUTIONAL NEURAL NETWORK FOR LOW-COMPUTATIONAL POWER APPLICATIONS

A residual convolutional neural network (Res-CNN) generates accurate and real-time predictions for low computational power applications. The Res-CNN advantageously includes operations such as residual connections, Squeeze and Excitation (SE) attention, and Atrous Spatial Pyramid Pooling (ASPP) to im...

Ausführliche Beschreibung

Gespeichert in:
Bibliographische Detailangaben
Hauptverfasser: CELIK, Emrah, TSE, David Tsang, ATEŞ, Görkem Can
Format: Patent
Sprache:eng ; fre
Schlagworte:
Online-Zugang:Volltext bestellen
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
Beschreibung
Zusammenfassung:A residual convolutional neural network (Res-CNN) generates accurate and real-time predictions for low computational power applications. The Res-CNN advantageously includes operations such as residual connections, Squeeze and Excitation (SE) attention, and Atrous Spatial Pyramid Pooling (ASPP) to improve the prediction performance without complicating the model. Moreover, transfer learning is leveraged by training synthetic sensor inputs (e.g., synthetic images), and then fine-tuning the model with authentic sensor input (e.g., authentic images). In some implementations, the model parameters of the Res-CNN are also fully quantized to speed up the predictions and apply the Quantization Aware Training (QAT) strategy to obtain accurate predictions. The Res-CNN can be implemented on an embedded controller to receive and process inputs from one or more sensors and responsively actuate one or more actuators of associated equipment. Un réseau neuronal convolutif résiduel (Res-CNN) génère des prédictions précises et en temps réel pour des applications à faible puissance de calcul informatique. Le Res-CNN comporte avantageusement des opérations telles que des connexions résiduelles, une attention de compression et excitation (SE) et un regroupement par pyramide spatiale Atrous (ASPP) pour améliorer les performances de prédiction sans compliquer le modèle. De plus, l'apprentissage par transfert est exploité par entraînement d'entrées synthétiques de capteur (par exemple, des images synthétiques), puis réglage fin du modèle avec une entrée de capteur authentique (par exemple, des images authentiques). Dans certains modes de réalisation, les paramètres de modèle du Res-CNN sont également complètement quantifiés pour accélérer les prédictions et appliquer la stratégie d'entraînement sensible à la quantification (QAT) pour obtenir des prédictions précises. Le Res-CNN peut être mis en oeuvre sur un dispositif de commande intégré pour recevoir et traiter des entrées provenant d'un ou de plusieurs capteurs et pour actionner en réponse un ou plusieurs actionneurs d'équipement associé.