任务3 知识引领——测量结果的数据处理
测量获得大量数据后,如何处理这些数据以减小测量误差,并得出最佳的测量结果,是测量工作中最后的也是最重要的一项任务。测量结果的数据处理包括数据的整理、计算和分析等项工作。在数据处理过程中,要进行去粗取精,去伪存真,通过整理、计算和分析得出正确的结论。
知识3.1 有效数字的正确表示
由于测量过程中不可避免地存在误差,因此测量数据也含有误差,不可能完全准确,由于测量数据计算出来的值都是近似值。同时计算时还经常用到π、等无理数,它们都要取近似值,所以最终数据总是近似的。因此测量数据位数应取得适当,不必太多,也不宜太少,这就提出了有效数字的问题。
(1)有效数字的概念
有效数字是那些能够正确反映测量准确度的数字,是指从一个数据左起第一个非零数字开始,直到最右边的一个数字(包括“0”在内)。有效数字的最末一位是近似数字,它可以是测量中估计读出的近似数字,也可以是按规定修正后的近似数字。测量结果的有效数字是指实际能够测量到的数字,通常包括全部准确数字和一位不确定的可疑数字。
(2)数据中“0”的作用
数字“0”在数据中可能是有效数字,也可能不是有效数字。在非零数字左边的0不是有效数字,仅用于数字定位,例如,0.03080MHz,前面的两个“0”不是有效数字,单位若换成kHz,为30.80kHz,则前面的“0”就不起作用了。在数字中间和右边的零代表有效数字,数字末尾的“0”很重要。例如,30.8的有效数字为3位,表示测量结果精确到十分位;30.80的有效数字为4位,表示测量结果精确到百分位。
(3)有效数字的位数
有效数字的位数是由所使用的测量仪器的准确度和能读出的数字位数来确定。例如,已知某电压表的测量误差为±0.05V,若电压测量值为3.852V,则应取3.85V,即取3位有效数字。通常作测量记录时,每一个数据只能最末一位数字是估计读数,而其他各位数字都必须是准确可靠的。例如,电压表测得的电压为12.25V,表明仪表刻度精确到小数点后的第一位,此前的数字都是准确的,小数点后第二位是估计的。
知识3.2 有效数字的舍入规则
测量数据都是近似值,在数据处理中,当有效数字的位数确定后,需要对超出有效数字的位数进行舍入处理。常用的“四舍五入”规则是不合理的,因为5是1~9的中间数字,也应该有舍有入才能平衡。所以在测量技术中规定,小于5舍去,大于5进位,等于5时采取偶数法则。也就是说,以保留数字的末位为基准,它后面的数字大干5时,末位数字加1,小于5时舍去;恰好等于5时,若5后有非0数字,则可以进位:若5后为0,则将末位凑成偶数,即末位原为奇数时加l,原为偶数时不加。
为了帮助记忆,归纳成如下口诀:
4舍6入5待定,5后非0则可进,
5后为0前位定,偶则舍去奇则进。
例如,将下列数字保留3位有效数字。
①12.842→12.8(因为4<5);
②12.862→12.9(因为6>5);
③12.852→12.9(因为5后非0);
④12.850→12.8(因为8是偶数,5舍);
⑤12.750→12.8(因为7是奇数,5入)。
知识3.3 测量数据的运算法则
当需要对几个测量数据进行运算时,要考虑有效数字保留多少位的问题,以便不使运算过于麻烦而又能正确反映测量的准确度。保留的位数原则上取决于各数据中准确度最低的那一项。
(1)加、减法运算
加、减法运算采用小数点对齐法则,数据的保留位数以小数点后位数最少的数为准,各项无小数点则以有效位数最少者为准,其余各数可多取一位,舍入处理后再进行计算。运算结果的小数点位数应与参与运算的小数点位数最少的相同。例如,三个测量数据相加:
15.4+4.554+0.286=15.4+4.55+0.29=20.24≈20.2
应尽量避免两个相近数相减,若非减不可时,则应多取几位有效数字。
(2)乘、除法运算
乘、除法运算采用最少有效数字法则,数据的保留位数以有效数字位数最少的数为准,其余各数字可多取一位,舍入处理后再进行计算。运算结果的有效数字位数应与参与运算的有效数字位数最少的相同。例如:
4.327×1.1=4.33×1.1=4.763≈4.8
7.785÷0.02=7.8÷0.02=390≈3.9×102
为了保证必要的精度以及再参与下一步的运算,最终运算结果也可以比有效数字位数最少者多保留一位有效数字。
(3)乘方、开方及对数运算
乘方与开方的运算结果应比原数据多保留一位有效数字;取对数运算前后的有效数字位数应相等。