卫生检验检测质量控制实用手册
上QQ阅读APP看本书,新人免费读10天
设备和账号都新为新人

第三节 实验室质量控制基础知识

一、基本概念

(一)数据的特性

从质量保证和质量控制的角度出发,为了使数据能够准确地反映检测质量的现状,要求检测数据具有代表性、准确性、精密性、可比性和完整性。检测结果的“五性”反映了对检测工作的质量要求。

1.代表性

代表性是指在具有代表性的时间、地点,并按规定的采样要求采集有效样品。所采集的样品必须能反映待测物质总体的真实状况。对于食品检测应当考虑采样的部分能够代表总体食品,对于水质检测应当考虑采样时空分布,代表水体总体水平,对于作业场所采样应当考虑采集到工作时段和工作岗位最高浓度水平。

2.准确性

准确性指测定值与真实值的符合程度,数据的准确性受从试样的现场固定、保存、传输,到实验室分析等环节影响。一般以数据的准确度来表征。

准确度常用以度量一个特定分析程序所获得的分析结果(单次测定值或重复测定值的均值)与假定的或公认的真值之间的符合程度。一个分析方法或分析系统的准确度是反映该方法或该测量系统存在的系统误差或随机误差的综合指标,它决定着这个分析结果的可靠性。

准确度用绝对误差或相对误差表示。

准确度的评价方法:

可用测量标准样品或以标准样品做回收率测定的办法评价分析方法和测量系统的准确度。

(1) 标准样品分析:通过分析标准样品,由所得结果了解分析的准确度。

(2) 回收率测定:在样品中加入一定量标准物质测其回收率,这是目前实验室中常用的确定准确度的方法,从多次回收试验的结果中,还可以发现方法的系统误差。

(3) 不同方法的比较通常认为,不同原理的分析方法具有相同的不准确性的可能性极小,当对同一样品用不同原理的分析方法测定,并获得一致的测定结果时,可将其作为真值的最佳估计。

当用不同分析方法对同一样品进行重复测定时,若所得结果一致,或经统计检验表明其差异不显著时,则可认为这些方法都具有较好的准确度,若所得结果呈现显著性差异,则应以被公认的可靠方法为准。

3.精密性

精密性和准确性是分析结果的固有属性,必须按照所用方法的特性使之正确实现。

数据的准确性是指测定值与真值的符合程度,而其精密性则表现为测定值有无良好的重复性和再现性。

精密性以数据的精密度表征,是使用特定的分析程序在受控条件下重复分析均一样品所得测定值之间的一致程度。它反映了分析方法或测量系统存在的随机误差的大小。测试结果的随机误差越小,测试的精密度越高。

精密度通常用极差、平均偏差和相对平均偏差、标准偏差和相对标准偏差表示。标准偏差在数理统计中属于无偏估计量而常被采用。

为满足某些特殊需要,引用下述三个精密度的专用术语:

(1)平行性(replicability或parallelism):在同一实验室中,当分析人员、分析设备和分析时间都相同时,用同一分析方法对同一样品进行双份或多份平行样测定结果之间的符合程度。

(2)重复性(repeatability):在同一实验室中,当分析人员、分析设备和分析时间中的任一项不相同时,用同一分析方法对同一样品进行双份或多份平行样测定结果之间的符合程度。

(3)再现性(reproducibility):用相同的方法,对同一样品在不同条件下获得的单个结果之间的一致程度,不同条件是指不同实验室、不同分析人员、不同设备、不同(或相同))时间。

在考查精密性时还应注意以下几个问题:

(1) 分析结果的精密度与样品中待测物质的浓度水平有关,因此,必要时应取两个或两个以上不同浓度水平的样品进行分析方法精密度的检查。

(2) 精密度可因与测定有关的实验条件的改变而变动,通常由一整批分析结果中得到的精密度,往往高于分散在一段较长时间里的结果的精密度,如可能,最好将组成固定的样品分为若干批分散在适当长的时期内进行分析。

(3) 标准偏差的可靠程度受测量次数的影响,因此,对标准偏差做较好估计时(如确定某种方法的精密度)需要足够多的测量次数。

(4) 通常以分析标准溶液的办法了解方法的精密度,这与分析实际样品的精密度可能存在一定的差异。

(5) 准确度良好的数据必须具有良好的精密度,精密度差的数据则难以判别其准确程度。

4.可比性

指用不同测定方法测量同一样品时,所得出结果的吻合程度。在环境标准样品的定值时,使用不同标准分析方法得出的数据应具有良好的可比性。可比性不仅要求各实验室之间对同一样品的监测结果应相互可比,也要求每个实验室对同一样品的监测结果应该达到相关项目之间的数据可比,相同项目在没有特殊情况时,历年同期的数据也是可比的。在此基础上,还应通过标准物质的量值传递与溯源,以实现国际间、行业间的数据一致、可比。

例如,用离子色谱法测定硝酸盐氮的结果与酚二磺酸分光光度法的结果应基本一致;用气相色谱法测定氯苯类的结果应与气相色谱-质谱法的结果相近。

过去我国使用紫外分光光度法测定石油类,这一方法与红外法测定结果就没有可比性。

因为紫外法使用的石油醚萃取剂与红外法使用的四氯化碳萃取效果不同,其次紫外法的吸收波长与红外法也不同,它们所测定的是不同的石油成分。

5.完整性

完整性强调工作总体规划的切实完成,即保证按预期计划取得有系统性和连续性的有效样品,而且无缺漏地获得这些样品的检测结果及有关信息。

只有达到这“五性”质量指标的监测结果,才是真正正确可靠的,也才能在使用中具有权威性和法律性。

人们常说:“错误的数据比没有数据更可怕”。为获得质量可靠的监测结果,世界各国都在积极制订和推行质量保证计划,正如工业产品的质量必须达到质量要求才能取得客观的承认一样,只有取得合乎质量要求的检测结果,才能正确地指导人们生活和活动。

(二)灵敏度

灵敏度(sensitivity)是指某方法对单位浓度或单位量待测物质变化所产生的响应量的变化程度。它可以用仪器的响应量或其他指示量与对应的待测物质的浓度或量之比来描述。如分光光度法常以校准曲线的斜率度量灵敏度。一个方法的灵敏度可因实验条件的变化而改变。在一定的实验条件下,灵敏度具有相对的稳定性。

灵敏度的表示方法:

通过校准曲线可以把仪器响应量与待测物质的浓度或量定量地联系起来,用下式表示它的直线部分:

式中:

A——仪器响应值;

C——待测物质的浓度;

α——校准曲线的截距;

k——方法灵敏度,即校准曲线的斜率。

1975年国际纯粹和应用化学会(CIUPAC)通过的光谱化学中的名词、符号、单位及其用法的规定,把能产生1%吸收的被测元素浓度或含量定义为特征浓度(characteristic concentration)和特征含量(characteristic content),它们可用以比较低浓度或低含量区域校准曲线的斜率。

分光光度法中常用的摩尔吸光系数ε,系指当测量光程为lcm,待测物质浓度为1mol/L,所对应的待测物质的吸光度数。ε越大,方法的敏度越高。

原子吸收中,以产生1%(即0.004 4吸光度)吸收值相对应的浓度作为灵敏度。

气相色谱中,灵敏度是指通过检测器物质的量变化时,该物质响应值的变化率。图1-3为不同组分量(Q)与对应响应值(R)图,直线部分斜率即为灵敏度(S),见式 1-1。

图1-3 组分量与响应值

S = ∆R/∆Q

检测器按其响应特征,可分为浓度型和质量型两类,前者Q为浓度(C),单位为mg/L时,后者Q为质量(m),单位为g/s,因此,两者灵敏度的具体计算式是不同的。

(三)检出限

检出限(limit of detection或minimum detectability)为某特定分析方法在给定的置信度内可从样品中检出待测物质的最小浓度或最小量。所谓“检出”是指定性检出,即判定样品中存有浓度高于空白的待测物质。

检出限除了与分析中所用试剂和水的空白有关外,还与仪器的稳定性及噪声水平有关。

在灵敏度计算中没有明确噪声大小,因而操作者可以将检测器的输出信号,通过放大器放到足够大,从而使灵敏度相当高。显然这是不妥的,必须考虑噪声这一参数,将产生两倍或三倍噪声信号时,单位体积的载气或单位时间内进入检测器的组分量称为检出限。

有时也用最小检测量(MDA)或最小检测浓度(MDC)作为检出限。它们分别是产生两倍噪声信号时,进入检测器的物质量(g)或浓度(mg/ml)。

不少高灵敏度检测器,如FID、NPD、ECD等往往用检出限表示检测器的性能。

灵敏度和检出限是两个从不同角度表示检测器对测定物质敏感程度的指标,前者越高、后者越低,说明检测器性能越好。

(四)测定限

测定限(limit of determination)为定量范围的两端,分别为测定上限与测定下限。

1.测定下限

在测定误差能满足预定要求的前提下,用特定方法能准确地定量测定待测物质的最小浓度或量,称为该方法的测定下限。

测定下限反映出分析方法能准确地定量测定低浓度水平待测物质的极限可能性。在没有(或消除了)系统误差的前提下,它受精密度要求的限制(精密度通常以相对标准偏差表示)。分析方法的精密度要求越高,测定下限高于检出限越多。

美国EPASW-846规定4MDL为定量下限(RQL),即4倍检出限浓度作为测定下限,其测定值的相对标准偏差约为10%。日本JIS规定定量下限为10倍的MDL。

2.测定上限

在限定误差能满足预定要求的前提下,用特定方法能够准确地定量测量待测物质的最大浓度或量,称为该方法的测定上限。

对没有(或消除了)系统误差的特定分析方法的精密度要求不同,测定上限也将不同。

(五)最佳测定范围

最佳测定范围(optimum concentration range或optimum determination range)也称有效测定范围,指在限定误差能满足预定要求的前提下,特定方法的测定下限至测定上限之间的浓度范围。在此范围内能够准确地定量测定待测物质的浓度或量。

最佳测定范围应小于方法的适用范围。对测量结果的精密度(通常以相对标准偏差表示)要求越高,相应的最佳测定范围越小。

(六)校准曲线

凡应用校准曲线的分析方法,都是在样品测得信号值后,从校准曲线上查得其含量(或浓度)。因此,绘制准确的校准曲线,直接影响到样品分析结果的准确与否。此外,校准曲线也确定了方法的测定范围。

校准曲线包括标准曲线和工作曲线,前者用标准溶液系列直接测量,没有经过样品的预处理过程,这对于基体复杂样品往往造成较大误差,而后者所使用的标准溶液经过了与样品相同的消解、净化、测量等全过程。

1.校准曲线的绘制

(1) 对标准系列,溶液以纯溶剂为参比进行测量后,应先作空白校正,然后绘制标准曲线。

(2) 标准溶液一般可直接测定,但如试样的预处理较复杂致使污染或损失不可忽略时,应和试样同样处理后再测定,此时应做工作曲线。

(3) 校准曲线的斜率常随环境温度、试剂批号和贮存时间等实验条件的改变而变动。因此,在测定试样的同时,绘制校准曲线最为理想,否则应在测定试样的同时,平行测定零浓度和中等浓度标准溶液各两份,取均值相减后与原校准曲线上的相应点核对,其相对差值根据方法精密度不得大于5%~10%,否则应重新绘制校准曲线。

2.校准曲线的检验
(1)线性检验:

即检验校准曲线的精密度。对于以4~6个浓度单位所获得的测量信号值绘制的校准曲线,分光光度法一般要求其相关系数| r |≥0.999 0,否则应找出原因并加以纠正,重新绘制合格的校准曲线。

(2)截距检验:

即检验校准曲线的准确度,在线性检验合格的基础上,对其进行线性回归,得出回归方程y = a + bx,然后将所得截距a与0作t检验,当取95%置信水平,经检验无显著性差异时,a可作0处理,方程简化为y = bx,移项得x = y/b。在线性范围内,可代替查阅校准曲线,直接将样品测量信号值经空白校正后,计算出试样浓度。

当a与0有显著性差异时,表示校准曲线的回归方程计算结果准确度不高,应找出原因并予以校正后,重新绘制校准曲线并经线性检验合格,再计算回归方程,经截距检验合格后投入使用。

回归方程如不经上述检验和处理,就直接投入使用,必将给测定结果引入差值相当于截距a的系统误差。

(3)斜率检验:

即检验分析方法的灵敏度,方法灵敏度是随实验条件的变化而改变的。在完全相同的分析条件下,仅由于操作中的随机误差所导致的斜率变化不应超出一定的允许范围,此范围因分析方法的精度不同而异。例如,一般而言,分子吸收分光光度法要求其相对差值小于5%,而原子吸收分光光度法则要求其相对差值小于10%等。

(七)加标回收

在测定样品的同时,于同一样品的子样中加入一定量的标准物质进行测定,将其测定结果扣除样品的测定值,以计算回收率。

加标回收率的测定可以反映测试结果的准确度。当按照平行加标进行回收率测定时所得结果既可以反映测试结果的准确度,也可以判断其精密度。

在实际测定过程中,有的将标准溶液加入经过处理后的待测试样中,这不够合理,比如测定有机污染成分而试样须经净化处理时,或者测定挥发酚、氨氮、硫化物等需要蒸馏预处理的污染成分时,不能反映预处理过程中的沾污或损失情况,虽然回收率较好,但不能完全说明数据准确。

进行加标回收率测定时,还应注意以下几点:

1.加标物的形态应该和待测物的形态相同。

2.加标量应和样品中所含待测物的测量精密度控制在相同的范围内,一般情况下作如下规定:

(1) 加标量应尽量与样品中待测物含量相等或相近,并应注意对样品容积的影响。

(2) 当样品中待测物含量接近方法检出限时,加标量应控制在校准曲线的低浓度范围。

(3) 在任何情况下加标量均不得大于待测物含量的3倍。

(4) 加标后的测定值不应超出方法的测量上限的90%。

(5) 当样品中待测物浓度高于校准曲线的中间浓度时,加标量应控制在待测物浓度的半量。

3.由于加标样和样品的分析条件完全相同,其中干扰物质和不正确操作等因素所导致的效果相等。当以其测定结果的减差计算回收率时,常不能确切反映样品测定结果的实际差错。

二、实验室质量控制与数据统计处理

实验室质量控制包括实验室内的质量控制(内部质量控制)和实验室间的质量控制(外部质量控制)。

(一)实验室内质量控制

1.实验室内质量控制的目的和意义

实验室内质量控制的目的在于控制分析人员的实验误差,使之达到规定的范围,以保证测试结果的精密度和准确度能在给定的置信水平下,达到容许限规定的质量要求。

(1)关于误差的概念:

由于人们认识能力的不足和科学技术水平的限制,测量值与真值(某量的响应体现出的客观值或真值)之间总是存在差异,这个差异叫作误差(error)。任何测量结果都具有误差,误差存在于一切测量的全过程。

(2)误差的分类及表示方法

1) 系统误差:又称恒定误差、可测误差或偏倚,是指在多次测量同一量时,某测量值与真值之间的误差的绝对值和符号保持恒定或归结为某几个因数函数,它可以修正或消除。

2) 随机误差:是由测量过程中各种随机因素的共同作用造成的。在实际测量条件下,多次测量同一量时,误差的绝对值和符号的变化,时大时小、时正时负,但是主要服从正态分布,具有下列特点:

①有界性:在一定条件下,对同一量进行有限次测量的结果,其误差的绝对值不会超过一定界限;②单峰性:绝对值小的误差出现次数比绝对值大的误差出现次数多;③对称性:在测量次数足够多时,绝对值相等的正误差与负误差出现次数大致相等;④抵偿性:在一定条件下,对同一量进行测量,随机误差的代数和随着测量次数的无限增加而趋于零。

其产生的原因是由许多不可控制或未加控制的因素微小波动引起的。如环境温度变化、电源电压微小波动,仪器噪声的变化、分析人员判断能力和操作技术的差异等。它可以减小,不能消除,减小的方法是增加测量次数。

3) 过失误差:是由测量过程中发生不应有的错误造成的,如:错用样品、错加试剂、仪器故障、记录错误或计算错误等。过失错误一经发现必须立即纠正。

误差表示方法有:

①测量值和真值之差,称为绝对误差。即:绝对误差 = 测量值 - 真值。

②绝对误差与真值的比值,叫作相对误差:

由于真值一般是不知道的,所以绝对误差常以绝对偏差表示。

某一测量值与多次测量值的均值之差:

绝对偏差与均值的比值,叫作相对偏差:

③绝对偏差的绝对值之和的平均值,用平均偏差表示。

④平均偏差与均值的比值,叫作相对平均偏差:

⑤一组测量值内最大值与最小值之差,称为极差:

差方和S、方差s2、标准偏差s、相对标准偏差RSD%或变异系数CV%,用以下各式表示:

4) 准确度和精密度:某单次重复测定值的总体均值与真值之间的符合程度叫作准确度。准确度一般用相对误差来表示。

在特定分析程序和受控条件下,重复分析均一样品测定值之间的一致程度称为精密度。它可以用标准偏差、相对标准偏差、平均偏差或相对平均偏差来表示。

2.实验室内质量控制程序
(1)方法选定:

分析方法是分析测试的核心。每个分析方法各有其特定的适用范围,应首先选国家标准分析方法。这些方法是通过统一验证和标准化程序,上升为国家标准的,是最可靠的方法。

如果没有相应的标准方法时,应优先采用统一方法,这种方法也是经过验证的,是比较成熟和完善的分析方法,在经过全面的标准化程序经有关机构批准后可以上升为标准方法。

如果在既无标准方法也无统一方法时,可选用试行方法或新方法,但必须做等效实验,报经上级批准后才能使用。

(2)基础实验

1) 对选定的方法,要了解其特性,正确掌握实验条件,必要时,应带已知样品进行方法操作练习,直到熟悉掌握为止。

2) 作空白实验:①空白值的大小和它的分散程度,影响着方法的检测限和测试结果的精密度;②影响空白值的因素有:纯水质量、试剂纯度、试液配制质量、玻璃器皿的洁净度、仪器的灵敏度和精确度、实验室的清洁度、分析人员的操作水平和经验等等;③空白实验的重复结果应控制在一定的范围内,一般要求平行双份测定值的相对差值不大于50%。

(3)检测(出)限的估算:

检测(出)限是指所用方法在给定的可靠程序内可以从零浓度检测到(检出)待测物最小量(或浓度)。所谓检出,是指定性检出,判定样品中有浓度高于空白的待测物质。

当计算值小于或等于方法规定值时,为合格,可进行下步实验。

3.校准曲线的绘制

绘制校准曲线时:

(1) 至少应包括5个浓度点的信号值。

(2) 校准曲线分工作曲线和标准曲线,根据具体方法选用。

(3) 测定信号值后,在坐标纸上绘制散点分布图。

(4) 若散点图的点阵分布满足要求后,再进行线性回归处理,根据回归结果建立回归方程y = a + bx。否则应查找原因后,再进行回归。

4.常规检测的质控程序

常规检测质控程序的主要目的是控制测试数据的准确度和精密度,常用的程序有:

(1)平行样分析:

同一样品的两份或多份子样在完全相同的条件下进行同步分析,一般做平行双样,它反映测试的精密度(抽取样品数的10%~20%)。

(2)加标回收分析:

在测定样品时,于同一样品中加入一定量的标准物质进行测定,将测定结果扣除样品的测定值,计算回收率,一般应为样品数量的10%~20%。

(3)密码样分析:

密码平行样的密码加标样分析,它是由专职质控人员,在所需分析的样品中,随机抽取10%~20%的样品,编为密码平行样或加标样,这些样品对分析者本人均是未知样品。

(4)标准物质(或质控样)对比分析:

标准物质(或质控样)可以是明码样,也可以是密码样,它的结果是经权威部门(或一定范围的实验室)定值,有准确测定值的样品,它可以检查分析测试的准确性。

(5)室内互检:

在同一实验室内的不同分析人员之间的相互检查和比对分析。

(6)室间外检:

将同一样品的子样分别交付不同实验室进行分析,以检验分析的系统误差。

(7)方法比较分析:

对同一样品分别使用具有可比性的不同方法进行测定,并将结果进行比较。

(8)质量控制图的绘制:

为了能直观地描绘数据质量的变化情况,以便及时发现分析误差的异常变化或变化趋势所采取的一种统计方式。一般应由专职质控人员来执行。

(二)实验室间质量控制

1.目的

在于使协同工作的实验室间能在保证基础数据质量的前提下,提供准确可靠的测试结果,即在控制分析测试的随机误差达到最小的情况下,进一步控制系统误差。主要用于实验室性能评价和分析人员的技术评定,协作实验仲裁分析等方面。

2.质控程序

(1) 建立工作机构:通常由上级单位的实验室或专门组织的专家技术组负责主持该项工作。

(2) 制订计划方案:按照工作目的、要求制订工作计划。包括:实施范围、实施内容、实施方式、日期、数据报表及结果评价方法、标准等。

(3) 标准溶液校准:由领导机构在分发标准样品之前,先向各实验室发放一份标准物质(包括标准溶液等),与各实验室的基准进行比对分析。以发现和消除系统误差,一般是使用接近分析方法上限浓度的标准来进行。测定后用t检验法检验两份样品的测定结果有无显著性差异。

(4) 统一样品的测试:在上级机构规定的期限内进行样品测试,包括平行样测定、空白实验等,按要求上报结果。

(5) 实验室间质量控制考核报表及数据处理。

1) 领导或主管机构在收到各实验室统一样品测定结果后,及时进行登记整理、统计和处理,以制定的误差范围评价各实验室数据的质量(一般采用扩展标准偏差或不确定度来评价)。

2) 绘制质量控制图,检查各实验室间是否存在系统误差。

(6) 向参加单位通知测试结果。

(三)数据统计处理

在检测或质控工作中,常需处理各种复杂的数据。这些数据经常表现出波动,甚至在相同条件下,获得的实验数据也会有不同的取值。对此,可用数理统计的方法处理获得的一批有代表性的数据,以判别数据的取舍。

1.数据处理的程序
(1)数据的整理与修约

1) 按照有效数字的规定,进行有效数字的修约和数值计算和检验,然后将数据列表。

①有效数字的意义:0、1、2、3、4、…、9这十个数码称为数字,由单一数字或多个数字可以组成数值,一个数值中,各个数字所有的位置称数位。

测量结果的记录、运算和报告,必须用有效数字。有效数字用于表示测量结果,指测量中实际能测得的数值,即表示数字的有效意义。一个由有效数字构成的数值,其倒数第二位以上的数字应该是可靠的。只有末位数字是可疑的或为不确定的。所以,有效数字是由全部数字和一位不确定数字构成的。由有效数字构成的测量结果,只应包含有效数字。对有效数字的位数不能任意增删。

数字“0”,当它用于指示小数点的位置、而与测量的准确度无关时,不是有效数字,这与“0”在数值中的位置有关。例如:

a.第一个非零数字前的“0”不是有效数字。

0.049 8     三位有效数字

0.005     一位有效数字

b.非零数字中的“0”是有效数字。

5.008 5     五位有效数字

8 502     四位有效数字

c.小数中最后一个非零数字后的“0”是有效数字。

5.850 0     五位有效数字

0.390     三位有效数字

d.以“0”结尾的整数,有效数字的位数难以判断,如58 500可能是三位、四位或五位有效数字,在此情况下,应根据测定值的准确度数字或指数形式确定。

5.85 × 104    三位有效数字  5.850 0 × 104   五位有效数字

②数值修约规则:推荐按GB 8170数值修约规则进行数值修约。确定修约位数的表达方式:

a.指定位数:指定修约间隔为10n(n为正整数),或指明将数值修约到几位小数。

b.指定修约间隔为1,或指明将数值修约到个数位。

c.指定修约间隔为10n,指明将数值修约到10n位数(n为正整数),或指明将数值修约到“十”“百”“千”……位数。

d.指定将数值修约到n位数。

③进舍规则:应按照“四舍六入五单双”的原则取舍。

a.拟舍弃数字的最左一位数字小于5时,则舍去,即保留的各位数字不变。如:

将12.145 8修约到一位小数,得12.1;将12.125 8修约到两位有效位数,得12。

b.拟舍弃数字的最左一位数字大于5或虽等于5时,而其后并非全部为0的数字时,则进1,即保留的末位数字加1。如:将1 268修约到“百”位数,得13 × 102(特定时可写为1 300)。将1 268修约到三位有效数,得127 × 10(特定时可写为1 270)。将10.502修约到个位数,得11。

c.拟舍弃数字的最左一位数字为5,而后面无数字或皆为0时,若所保留的末位数字为奇数(1、3、5、7、9),则进1,为偶数(2、4、6、8、0),则舍弃。

如:修约间隔为 0.1(或 10-1):

拟修约数值           修约值

1.050             1.0

0.350             0.4

修约间隔为 1 000(或 103):

拟修约数值           修约值

2 500            2 × 103(特定时可写为2 000)

3 500            4 × 103(特定时可写为4 000)

将下列数字修约成两位有效位数:

拟修约数值           修约值

0.032 5            0.032(特定时可写为 32 × 10-3

d.负数修约时,先将它的绝对值按上述a~c规定进行修约,然后在修约值前面加上负号。

例1:将下列数字修约到“十”位数:

拟修约数值           修约值

 - 355               - 36 × 10(特定时可写为 - 360)

 - 325               - 32 × 10(特定时可写为 - 320)

例2:

拟修约数值           修约值

 - 365               - 36 × 10(特定时可写为 - 360)

 - 0.036 5            - 0.036

④不得连续修约

a.拟修约数字应在确定修约位数后一次修约获得结果,而不得多次按规则②连续修约。

例:15.454 6修约间隔为1,

正确:15.454 6→15

不正确:15.454 6→15.455→15.46→15.5→16

b.在具体实施中,有时测试与计算部门先将获得的数值按指定的修约位数多一位或几位报出,而后由其他部门判定。为避免产生连续修约的错误,应按下述步骤进行。

报出数值最右的非零数字为5时,应在数值后面加“+”或“-”或不加符号,以分别表明已进行过舍、进或未舍未进。

如:16.50( + )表示实际值大于 16.5,经修约舍弃成为 16.50;16.50( - )表示实际值小于16.50,经修约进1成为16.50。

如果判定报出值需要进行修约,当拟舍弃数字的最左一位数字为5而后面无数字皆为0时,数值后面有( + )号者进1,数值后面( - )号者舍去,其他仍按规则②进行。如:

实测值报出值修约值

15.451 46  15.5    ( - )  15

16.520 3   16.5    ( + )  17

17.500 0   17.5    - 18

 - 15.454 6  - 15.5  ( - )    - 15

⑤计数规则

a.记录数据时,只保留一位可疑数字。

例如:用最小分度值为0.1mg的分析天平称量时,有效数字可以记录到小数点后第4 位。用分度标记的吸管或滴定管量取溶液时,读数的有效位数可达其最小分度后一位,保留一位不确定数字。

b.表示精密度通常只取一位有效数字。测定次数很多时,可取两位有效数字,且最多只取两位。

c.在计算中,当有效数字位数确定后,其余数字应按修约规则一律舍去。

d.在计算中某些倍数、分数、不连续物理量的数目,以及不经测量而完全根据理论计算或定义得到的数值,其有效数字的位数可视为无限。这类数值在计算中需要几位就可以写几位。

e.测量结果的有效数字所能达到的位数,不能低于方法检出限的有效数字所能达到的数位。

⑥近似计算规则

a.加减法:几个近似值相加减时,其和或差的有效数字位数,与小数点后位数最少者相同。在运算过程中,可以多保留一位小数。计算结果则按数值修约规则处理。

b.乘法和除法:几个数值相乘除时,所得积或商的有效数字位数决定于各种值中有效数字位数最少者。在实际运算时,先将各近似值修约至比有效数字位数最少者多保留一位有效数字,再将计算结果按上述规则处理。

例如:0.067 6 × 70.19 × 6.502 3 ≈ 0.067 6 × 70.19 × 6.502 = 30.850 975 688最后计算结果用三位有效数字,表示为:30.90

c.乘方和开方:几个数值相乘或开方,原近似值有几位有效数字,计算结果就可以保留几位有效数字。

如:6.542 = 42.771 6保留三位有效数字为:42.8

7.391/2≈2.718 45…保留三位有效数字则为:2.72

d.对数和反对数:在计算中,所取对数的小数点后的位数(不包括首数)应与真数的有效数字位数相同。

如:[H+]为 7.98 × 10-2mol/L 溶液的 pH

pH = - lg[H+] = - lg[7.98 × 10-2] = 1.098

pH为3.20溶液的[H+

pH = - lg[H+] = 3.2

[H+] = 6.3 × 10-4mol/L

e.平均值:求四个或四个以上准确度接近的近似值的平均值时,其有效数字可增加一位。

如求:3.77、3.70、3.79、3.80、3.72的均值

为(3.77 + 3.70 + 3.79 + 3.80 + 3.72)/5 = 3.756

2.正态样本异常值的判断和处理

将上述计算和整理后的数据列入相应的表中进行数据异常值检验。所谓异常值是指样本中的个别值。它可能是总体固有的随机变异性极端表现,属于同一总体。

它也可能是由于实验条件和实验方法的偶然偏离所产生的结果。这种异常值与样本观测值不属于同一总体,应按数据统计规则进行判断和处理。

(1)判断规则及处理程序:

判断规则通常有Grubbs法、Dixon法、Cochran法、偏度峰度法等。

根据实际情况,选定适宜的异常值检验规则。

指定检出水平α,一般取5%、1%或10%。

将观测值代入检验规则进行计算。

根据α和观测值个数(n),查表确定统计量的临界值。

将临界值和计算值进行比较,对不合格的异常值,应尽可能寻找异常值的技术上和物理上的原因,作为处理的依据。

1) Grubbs法

适用范围:用于多组测量值的均值的一致性,或一组测量值(n)的一致性检验。检出异常值个数不超过1。

检验步骤:

①单侧情形检验法

a.将观测值按大小顺序排列成xi,…,xn,其中最大为xn,最小为xi计算样本均值和样本标准差s,即:

b.计算统计量Gn:

c.确定检出水平α,由表查出对应n,α的临界值。

d.当Gn>G1-α(n),判断最大值Xn为异常值,否则,判断“没有异常值”。

e.在给出剔出水平α的情况下,由表查出的n,α的临界值,当,判断xn为高度异常值,否则,判断“没有高度异常的异常值”,对最小观测值的检验,使用统计量

其余规则相同。

②双侧情形检验:

a.计算Gn和的值。

b.确定检出水平 α,查出对应 n,α的临界值,设临界值G1-αn

c.当,且,判断 xn为异常值,否则,判断“没有异常值”。

2) Dixon检验法的适用范围:检验一组观测值的一致性检验,适用于检出一个或多个异常值。

①单侧情形检验:

a.按大小顺序排列观测值Xl≤X2≤…≤Xn计算统计量(计算公式可查表),如:检验n为3~7次的高端异常值为:,检验低端异常值为

b.确定检出水平 α,由表查出对应n,α 的临界值 D1-αn

c.检验高端值时,当 D>D1-αn,判断 Xn 为异常值,检验低端值时,当D′> D1-αn,判断为异常值,否则,判断“没有异常值”。

d 在给定剔除水平 α*的情形下,由表查出 n,α*的临界值

检验高端值时,当,判断 Xn 为高度异常值,否则判断为“没有高度异常值”。

检验低端值时,当,判断 X1为异常值,否则判断为“没有异常值”。

②双侧情形检验

a统计量同单侧计算

b确定检出水平α,由表查出对应n,α的临界值。

c 当DD′,DD1-αn判断Xn 为异常值。

D′ > DD′> D1-αn判断X1为异常值,否则没有异常值。

d 在给出水平 α*的情形下,查表,对应的 n,α 的临界值,当 DD′,判断 Xn 为高度异常值。当 D′ > D判断 X1为异常值,否则判断“没有高度异常值”。

3) Cochran检验法:适用范围:剔除多组观测值中精密度较差的一组数据,检验多组方差的一致性。

检验步骤:

a.将L个标准差按大小顺序排列,其中最大者为SL

b.计算统计量C:

若n = 2,每组测量值的极差分别为R1,R2,…,RL,按下式计算统计量C。

c.确定检出水平α,由表查出对应的 n,α的临界值Cα(n)

当C>Cα(n),判断SL为高度异常值,否则,判断为“没有高度异常值”。

当给定剔除水平 α*时,由表查 L,n,α*的临界值

,判断SL为高度异常值,否则,判断为“没有高度异常值”。

此外,还有偏度一峰度检验法,由于计算较复杂,这里从略。

(2)注意事项

1) 以识别为目的时,主要找出异常值,判断异常值的主要标准在于判断准确性。要根据所判断错误带来的风险,选择适宜的规则。

2) 当主要目的在于估计总体的某个参数,确定异常值是否计入样本,或判断总体是否符合所考察的要求,以确定某样本是否计入样本,使判断结果尽量准确。这时,应考虑处理异常值的方法和进一步作估计或检验的准确性统一考虑。

3) 有时也可以不经过判断异常值的步骤,而采用稳健估计和稳健检验的办法(如舍去最高值和最低值,将余下的观测值作算术平均估计µ),并不需要追查舍去的是否为异常值,而这种估计也很好地预防了异常值的影响。

4) 应用标准差的准确信息:①判断异常值(或判断其高度异常值)的统计量都以标准差或其估计量为尺度。因此,要尽可能地利用已获得的准确的信息;②标准差为已知时,判断准确性时,适用于正常稳定的实验和测试数据,如:质控考核。

(3)对各种检验法的选择

1) 最多只有一个异常值时,以Grubbs检验法较好。

2) 出现多个异常值时,最好使用偏度-峰度检验法,但计算较复杂。

(4)重视检出的异常值给出的信息:

经过一段时间的数据检验后,若出现某异常值的全体明显的系统倾向,说明有系统偏差。

若各个样本经常出现异常值,又不能明确其原因,则应怀疑分布的正态性假设,应选择适宜的统计量再进行统计。