labview編程技巧---定點數(shù)轉(zhuǎn)換
0000 1264 C97C 8937 77C8 3783 EE9B 0000
說明兩個字節(jié)對應(yīng)一個點的數(shù)據(jù)(高低位互換后,如:1264(存儲時的樣子),實際數(shù)值為:6412(16進制),他們對應(yīng)的10進制浮點數(shù)如下:
00.7818314824520.97492791219320.4338837391869-0.4338837390251-0.9749279121533-0.781831482564-1.79586368671E-10
問題:
例如: C877 (16進制) =-0.4338837390251 (10進制) 如何計算?如何判斷這是個負數(shù)?
如何判斷一個16進制數(shù)是正,還是負?(下面是16進制數(shù)和對應(yīng)的10進制數(shù))
0000 6412 7CC9 3789
0 0.781831482452 0.9749279121932 0.4338837391869
***************************************************************************************
C877 8337 9BEE 0000
-0.4338837390251 -0.9749279121533 -0.781831482564 -1.79586368671E-10
如何只知道一個2字節(jié)的16進制數(shù),判斷出這是個的正負?(知道它對應(yīng)的帶符號的浮點數(shù)?如:
知道" C877(16進制) ",如何判斷出這是個的正負?得到 " -0.4338837390251 "?
****************************************************************************************************************************************
分析:
IEEE標準規(guī)定,雙精度浮點數(shù)為8個字節(jié),單精度浮點數(shù)是4個字節(jié),所以兩個字節(jié)長度肯定不是浮點數(shù),LABVIEW中的浮點數(shù)數(shù)據(jù)類型是完全符合IEEE標準的。上述問題實際是定點數(shù)而不是浮點數(shù)。
定點數(shù)小數(shù)點的位置和位數(shù)可以通過對話框配置,針對上述問題,配置如下:
評論