染整试化验及成品检测400问
上QQ阅读APP看本书,新人免费读10天
设备和账号都新为新人

16 在四则运算中如何正确保留数据的有效数字的位数?

答:(1)法则 A,在加减运算中,各数保留的小数点后的位数应与各数中小数点后位数最少的相同。例如将13.65,0.0082,1.633三个数相加时,应写为:

13.65+0.01+1.63=15.29

(2)法则 B:在加减运算中,以小数点后位数最少的为准,其余各数均按舍入法则使其小数点后位数多一位。以上例作运算,则应写为:

13.65+0.008+1.633=15.291

(3)法则C:在乘除运算中,各因子保留的位数以有效数字位数最少的为标准而与小数点后的位数无关。例如进行[(603.2l×0.32)÷4.01]运算时,各数中以0.32的有效数字位数为最少,因此应写为:

[(60×101)×0.32]÷4.0=48

(4)法则 D:在乘除运算中,以有效数字最少的为准,其余各数按舍入法则保留的有效数字可多一位,按此法则,上例的运算应写为:

(603×0.32)÷4.01=48.1