Quantization Scaling Device And Method Of Calculating Scaling Parameters For Quantization

실시예는, 양자화 스케일링을 위한 장치 및 양자화 스케일링을 계산하는 방법에 대한 것이다. 실시예에 따른 양자화 스케일링 장치는, 데이터 세트의 데이터 비트들에 대해 미리 정해진 복수의 양자화 레벨을 지원하는 코드북 기반의 시프트 연산을 수행하는 시프터; 및 데이터 비트들의 양자화 스케일을 미리 정해진 그룹 별로 다르게 설정하여, 시프터를 제어하는 디코더를 포함하고, 시프터는 디코더의 제어에 따라 데이터 비트들을 양자화하여 출력할 수 있다. An electronic device includes: a shifter configured...

Ausführliche Beschreibung

Gespeichert in:
Bibliographische Detailangaben
Hauptverfasser: HYEONUK SIM, LEE JONG EUN, OH SANG YUN
Format: Patent
Sprache:eng ; kor
Schlagworte:
Online-Zugang:Volltext bestellen
Tags: Tag hinzufügen
Keine Tags, Fügen Sie den ersten Tag hinzu!
Beschreibung
Zusammenfassung:실시예는, 양자화 스케일링을 위한 장치 및 양자화 스케일링을 계산하는 방법에 대한 것이다. 실시예에 따른 양자화 스케일링 장치는, 데이터 세트의 데이터 비트들에 대해 미리 정해진 복수의 양자화 레벨을 지원하는 코드북 기반의 시프트 연산을 수행하는 시프터; 및 데이터 비트들의 양자화 스케일을 미리 정해진 그룹 별로 다르게 설정하여, 시프터를 제어하는 디코더를 포함하고, 시프터는 디코더의 제어에 따라 데이터 비트들을 양자화하여 출력할 수 있다. An electronic device includes: a shifter configured to perform a shift operation based on a codebook supporting a plurality of quantization levels preset for data bits of a data set; and a decoder configured to control the shifter by setting quantization scales of the data bits differently for preset groups, wherein the shifter is configured to quantize and output the data bits by control of the decoder.