新聞中心

EEPW首頁 > 測試測量 > 設(shè)計應(yīng)用 > labview中要注意數(shù)據(jù)的表示格式

labview中要注意數(shù)據(jù)的表示格式

作者: 時間:2017-01-09 來源:網(wǎng)絡(luò) 收藏

在這個小程序中,我發(fā)現(xiàn) 乘的輸出總是不正確。總是比與其的要小很多。

開始并沒注意到是數(shù)據(jù)格式的問題。

本文引用地址:http://butianyuan.cn/article/201701/337125.htm

那我們右鍵輸出接點會彈出這樣的對話框

表示法顯示的是U16 而U16最大值為65536.所以 溢出了。

而U16是因為匹配到源數(shù)據(jù)類型才是U16的。如果前面的數(shù)據(jù)格式為U32則 這個輸出也為U32。

我們不想修改前面的數(shù)據(jù)格式,因為U16對于前面的足夠了,大了浪費內(nèi)存。

那我們只要修改該輸出的數(shù)據(jù)格式就好了。改成U32。

問題解決。



評論


技術(shù)專區(qū)

關(guān)閉