一. 有效数字及其运算规则
1. 有效数字的意义和位数
(1)有效数字:所有准确数字和一位可疑数字(实际能测到的数字)
(2)有效位数及数据中的“ 0 ”
1.0005, 五位有效数字
0.5000, 31.05% 四位有效数字
0.0540, 1.86 三位有效数字
0.0054, 0.40% 两位有效数字
0.5, 0.002% 一位有效数字
2. 有效数字的表达及运算规则
(1)记录一个测定值时,只保留一位可疑数据,
(2)整理数据和运算中弃取多余数字时,采用“数字修约规则”:
四舍六入五考虑
五后非零则进一
五后皆零视奇偶
五前为奇则进一
五前为偶则舍弃
不许连续修约
(3)加减法:以小数点后位数最少的数据的位数为准,即取决于绝对误差最大的数据位数;
(4)乘除法:由有效数字位数最少者为准,即取决于相对误差最大的数据位数;
(5)对 数:对数的有效数字只计小数点后的数字,即有效数字位数与真数位数一致;
(6)常 数:常数的有效数字可取无限多位;
(7)第一位有效数字等于或大于 8 时,其有效数字位数可多算一位;
(8)在计算过程中,可暂时多保留一位有效数字;
(9)误差或偏差取 1~2 位有效数字即可。
二. 可疑数据的取舍
1. Q-检验法 (3~10次测定适用,且只有一个可疑数据)
(1) 将各数据从小到大排列:x1, x2, x3……xn ;
(2)计算 (x大-x小), 即 (xn -x1);
(3)计算 ( x可-x邻),
(4)计算舍弃商 Q 计 =ô x可-x邻ô/ xn -x1
(5)根据 n 和 P 查 Q 值表得 Q表
(6)比较 Q表 与 Q 计
若: Q 计 ³ Q表 可疑值应舍去
Q 计 < Q表 可疑值应保留
2. G检验法(Grubbs 法)
设有n各数据,从小到大为x1, x2, x3,…… xn;
其中 x1 或 xn为可疑数据:
(1) 计算 (包括可疑值x1、 xn在内)、∣x可疑-∣及S;
(2) 计算G:
(3) 查G值表得Gn,P
(4) 比较G计与Gn,P:
若 G计 ³ Gn,P则舍去可疑值;
G计 < Gn,P则保留可疑值。
三. 分析数据的显著性检验
1. 平均值()与标准值(m)之间的显著性检验 —— 检查方法的准确度
(20)
若 t计 ³ t0.95, n 则 与 m 有显著性差异(方法不可靠)
t计 < t0.95, n 则 与 m 无显著性差异(方法可靠)
2. 两组平均值的比较
(1)先用F 检验法检验两组数据精密度 S1(小)、S2(大) 有无显著性差异(方法之间)
(21)
若此 F计 值小于表中的F(0.95) 值,说明两组数据精密度S1、S2无显著性差异,反之亦反。
(2)再用 t 检验法检验两组平均值之间有无显著性差异
(22)
查 t0.95 (f=n1+n2)
若 t计 ³ t0.95, n 则 说明两平均值有显著性差异
t计 < t0.95, n 则 说明两平均值无显著性差异