labview的深入探索----雙精度數(shù)精度問題

日前幫朋友看一個程序，一個WHILE循環(huán)，退出條件是等于一個雙精度數(shù)，結果程序未按照預想條件退出，由此想到了雙精度數(shù)的精度問題。

計算機中的雙精度數(shù)都存在精度損失的問題，因此一般不宜用相等進行判斷。





可以看出，0.8+（0.42-0.5)!=0而下面（0.08+0.42）-0.5 =0
上面！=0但是+1后卻等于1。

雙精度浮點數(shù)的確不適合用相等來判斷。