FavoriteLoading
0

ABAP数值加减乘除计算不正常原因-固定点运算(Fixed point arithmetic)

有时在debug标准程序时发现有些数值的加减乘除计算不正常,和我们自己写的程序的结果不一致。调查了一下发现是程序属性中的固定点运算(Fixed point arithmetic)导致的。

 

看了一下F1,发现如果没有勾上这个则所有数字都作为正数来计算,这个导致了结果和我们预想的不一致。

写一个简单的程序说明一下:

没有勾上Fixed point arithmetic时,代码如下:

运行结果,

正常如果勾上Fixed point arithmetic,程序运行结果,

以上。