FLOATING-POINT QUANTUM EXCLUSION DETECTION

FIELD: physics, computer engineering.SUBSTANCE: group of inventions relates to computer engineering and can be used in arithmetic processors. A processor receives at least one floating-point operand and performs a floating-point operation using at least one floating-point operand to provide a floating-point result. The method includes determining if a preferred quantum is stored in the floating-point result, said quantum indicating a value which is presented as the least significant digit of the significant of the floating-point result. An indication of the occurrence of a quantum exclusion is provided at the output in response to the determination that the preferred quantum is not stored.EFFECT: high accuracy.18 cl, 3 dwg Группа изобретений относится к вычислительной технике и может быть использована в арифметических процессорах. Техническим результатом является увеличение точности. Процессор принимает по меньшей мере один операнд с плавающей десятичной точкой и выполняет операцию с плавающей десятичной точкой с использованием по меньшей мере одного операнда с плавающей десятичной точкой для предоставления результата с плавающей десятичной точкой. Осуществляется определение того, сохранился ли в результате с плавающей десятичной точкой предпочтительный квант, который указывает значение, представленное в качестве младшего значащего разряда значащей части числа результата с плавающей десятичной точкой. В ответ на определение того, что предпочтительный квант не сохранился, на выходе предоставляется указание о возникновении квантового исключения. 3 н. и 15 з.п. ф-лы, 3 ил.