标准曲线检验的Excel模板

2020-12-28 03:44蒋力民
分析仪器 2020年6期
关键词:均方平方和斜率

蒋力民

(浙江鑫晟环境检测有限公司,温州 325000)

在环境监测中制作标准曲线不胜枚举。标准曲线是定量的“尺子”,因此对标准曲线的检验非常必要。GB/T22554-2010《基于标准品的线性校准》对标准曲线的检验提出了失拟检验的要求[1]。生活饮用水标准检验方法水质分析质量控制里把标准曲线统计检验分为精密度检验,截距检验和斜率检验但无具体操作方法[2]。杜海波提出用Excel检验标准曲线的截距,但没有对斜率,失拟检验[3]。标准曲线的截距和斜率检验分别考察Y=a+bX中a和b与0的统计学差异,可采用P值检验,a与0有差别说明有试剂空白或有系统误差,而b若与0没差别说明仪器的灵敏度根本达不到分析要求。失拟检验是要看曲线拟合后剩下误差与实验数据本身随机误差之间的差别,同样可采用P值检验,此时失拟检验P应该>0.05,也就是说拟合不足误差应该跟实验测定中的随机误差没有差别,要看每次测定的随机误差就必须多次测定同一浓度,因此失拟检验要求每个浓度点至少重复两次,这个重复是全过程的重复,这样数据才有代表性而不是直接读取重复数据。虽然有专门的软件如origin,minitab可以检验标准曲线但是要安装特定的软件,还要熟悉软件操作,实验人员普遍使用的数据处理软件是Excel。本文设计了Excel模板主要是快速检验标准曲线的斜率,截距和失拟分析以提高工作效率。

用Excel2016版,以分光光度法测定的数据为例,重复测定两次,浓度和吸光度数据输入在B2-B13,C2-C13。点击数据分析选择回归,选择B2-B13,C2-C13进行线性回归,同时选中残差,标准残差,残差图,线性拟合图,正态概率图。输出区域选择A17 见图1、图2。

图1 Excel数据分析回归

图2 标准曲线检验表

这里斜率,截距,相关系数,方差,残差,概率等很多参数一目了然。

各检验的显著性水平取0.05。

首先检验斜率:X Variable(斜率)的P为 7.88E-21 远小于0.05即合格。

其次是截距检验:截距(Intercept)的P为0.0990 大于0.05,即截距与0点无显著性差异,合格。

再次是失拟检验:在D2输入=DEVSQ(C2,C8),拉到D7计算重复实验的离均差平方和。为了更直观,设计失拟检验表,在纯误差平方和G8输入=SUM(D2:D7),其自由度为重复实验次数6。在残差平方和G10引用方差分析表C29数据,其自由度为10。失拟平方和G9(即残差平方和减去纯误差平方和)输入G10-G8,其自由度为残差自由度减去纯误差自由度即10-6=4。均方为各平方和与各自自由度之比。失拟F为失拟均方与纯误差均方之比=I9/I8。结果为2.305,查表在a=0.05自由度为4,6时F的临界值4.534。F小于临界值,即在0.05的水平下,失拟的证据并不显著。

F检验要查表相对麻烦些,用P值法无需查表,可利用Excel的FDIST函数(返回两组数据的F概率分布的函数)失拟P值K9输入=FDIST(J9,H9,H8)计算出P为0.1725大于0.05所以失拟检验合格。

最后可以检验残差的正态性:看残差图和正态概率图,残差图残差在0周围随机波动,无明显趋势。正态概率图用于检查一组数据是否服从正态分布。是实数与正态分布数据之间函数关系的散点图。如果这组数据服从正态分布,正态概率图接近一条直线,图中散点基本上接近一直线符合正态性。

猜你喜欢
均方平方和斜率
高斯白噪声激励下微悬臂梁的瞬态均方响应研究
幂分布的有效估计*
构造Daubechies小波的一些注记
巧甩直线斜率公式解数学题
利用平方和方法证明不等式赛题
求斜率型分式的取值范围
一类随机微分方程的均方渐近概自守温和解
关于四平方和恒等式及四平方和定理的趣味话题
四平方和恒等式与四平方和定理
关于四奇数平方和问题