學(xué)習(xí)LabVIEW(十)——關(guān)于Matlab的eps函數(shù)(十三)

非常重要的一點(diǎn),上面這些藍(lán)色的數(shù)值常量,需要手工指定其具體的整數(shù)類型。在常量的藍(lán)色方框內(nèi)點(diǎn)擊右鍵,在彈出的菜單中選擇“表示法->UINT64”顯式指定數(shù)據(jù)的具體整數(shù)類型,否則運(yùn)算會(huì)出錯(cuò),無法得到期望的結(jié)果。


這正是我們需要的數(shù)值。15位于8和16的中間,8是2的3次方,16是2的4次方,所以15的指數(shù)部分是3?,F(xiàn)在將“計(jì)算機(jī)?”乘以2的三次方(利用“按2的冪縮放”節(jié)點(diǎn)),就得到了eps(15)的值:

我們將計(jì)算得到的數(shù)值與Matlab的eps(15)進(jìn)行了比較。“數(shù)值5”控件顯示計(jì)算的結(jié)果為1.77636E-15;“數(shù)值6”控件顯示LabVIEW計(jì)算的結(jié)果與Matlab計(jì)算的結(jié)果的差,輸出為0,說明和Matlab是一致的。利用這么簡單的G語言框圖,我們就實(shí)現(xiàn)了eps的計(jì)算。
評(píng)論