KNOWLEDGE DISTILLATION FROM NON-STREAMING TO STREAMING ENCODER

An example device includes memory configured to store a speech signal representative of speech and a streaming model. The streaming model includes an on-device, real-time streaming model. The device includes one or more processors implemented in circuitry coupled to the memory. The one or more processors are configured to determine one or more words in the speech signal based on one or more transfers of learned knowledge from a non-streaming model to the streaming model. The one or more processors are also configured to take an action based on the determined one or more words. Un dispositif donné à titre d'exemple comprend une mémoire configurée pour stocker un signal vocal représentatif de la parole et un modèle de diffusion en continu. Le modèle de diffusion en continu comprend un modèle de diffusion en continu en temps réel sur dispositif. Le dispositif comprend un ou plusieurs processeurs mis en œuvre dans des circuits couplés à la mémoire. Le ou les processeurs sont configurés pour déterminer un ou plusieurs mots dans le signal de parole sur la base d'un ou de plusieurs transferts de connaissances apprises d'un modèle de non-diffusion en continu au modèle de diffusion en continu. Le ou les processeurs sont également conçus pour entreprendre une action sur la base du ou des mots déterminés.