測量數(shù)據(jù)舍入算法
加入技術(shù)交流群
圖1
本文引用地址：http://butianyuan.cn/article/201701/337868.htm關(guān)于舍入算法有多種，主要有Round Toward Nearest、Round Ceiling、Round Floor和Truncation：
Round Toward Nearest
Rounding Toward Nearest就是通常所說的“四舍五入”，以5為有符號數(shù)為例，高3位為整數(shù)位（包含最高位符號位），低2位為小數(shù)位。如圖2所示，對5為有符號二進(jìn)制數(shù)進(jìn)行了舍入處理，舍去小數(shù)位，其中小數(shù)位大于0.5，整數(shù)位進(jìn)1，小于0.5時不進(jìn)位，而等于0.5時，舍入后數(shù)據(jù)打了問號，因?yàn)閷τ?.5的舍入處理，又可分為4種處理算法：
(1). Round Half Up；(2). Round Half Down；(3). Round Half Even；(4). Round Half Odd
并且以上第(1)、(2)種算法對應(yīng)分別有對稱（Symmetric）和非對稱（Asymmetric）2類。
圖2
(1). Round Half Up
Round Half Up算法對于0.5的舍入處理為向上取值，因此此例中整數(shù)位進(jìn)1，而這僅對正數(shù)部分而言，對于負(fù)數(shù)部分可按照相對于0對稱與否分為2類，如圖3所示。
圖3
(2). Round Half Down
Round Half Down算法對于0.5的舍入處理為向下取值，因此此例中整數(shù)位不進(jìn)，而這僅對正數(shù)部分而言，對于負(fù)數(shù)部分可按照相對于0對稱與否分為2類，如圖4所示。
圖4
(3). Round Half Even
Round Half Even算法根據(jù)有效位來判斷是否進(jìn)位，在此例中，舍去小數(shù)位，因此判斷整數(shù)位即可，如果整數(shù)位為偶數(shù)，則不進(jìn)位，奇數(shù)則進(jìn)位，因此舍入處理后整數(shù)位肯定是個偶數(shù)。如圖5所示，可以發(fā)現(xiàn)Round Half Even必然是Symmetric算法。
評論