新聞中心

EEPW首頁 > 嵌入式系統(tǒng) > 設(shè)計(jì)應(yīng)用 > 單片機(jī)浮點(diǎn)數(shù)的實(shí)用快速降法

單片機(jī)浮點(diǎn)數(shù)的實(shí)用快速降法

作者: 時(shí)間:2012-03-08 來源:網(wǎng)絡(luò) 收藏

可見只需要在X/YH的基礎(chǔ)上再乘以一個(gè)修正因子(YH-YL)/YH,就可以得到X/Y的一次校準(zhǔn)值。不難證明這個(gè)值已經(jīng)達(dá)到了24位的精度要求。事實(shí)上,相對(duì)誤差滿足:



評(píng)論


相關(guān)推薦

技術(shù)專區(qū)

關(guān)閉