注意:本计算器部分数码管失灵,可通过调整小数点位数读出。具体是按左侧TAB键,然后按3,保留3位,按4保留4位……。
1 计算相对标准偏差(RSD)、标准工作曲线、相关系数(r)示例 1.1计算相对标准偏差(RSD)
分析测试结果的精密度通常用相对标准偏差(RSD)表示,过去也有用变异系数(CV)表示的。目前,我国相关标准中规定精密度用相对标准偏差(RSD)表示。以下列一组测试数据为例计算相对标准偏差(RSD)。
表1 一组测定数据的统计值
相对标标准偏重复 1 2 3 4 5 6 7 8 准偏差(X) 差(Sx) (RSD) 测定值 20.5 21.3 19.6 20.1 20.8 21.0 21.7 19.9 20.6 0.7219 0.035 平均值打开计算器电源ON ,将右下角的开关拨至统计档STAT ,按黄色的2ndF 和红色的CL 清空内存。输入数据20.5,按蓝色的M+显示1.0000…., 依次输入21.3,按蓝色的M+显示2.0000…., 直至8组数据输入完毕。按黄色的2ndF,按4提取X;按黄色的2ndF,按5提取Sx; 用Sx/X×100= RSD
在常量和痕量分析中,对RSD有不同的要求,将测定值的RSD同标准中规定的RSD相比,判断是否超差。超差则说明测定方法有问题。
7-1
分析测定方法中的准确度通常用回收率表示,即测定值与添加值的比值。常量分析为99~101%;痕量分析(如农药残留分析)通常为80~120%。添加通常采用“半量”添加的方法,比如原溶液中测定有50ng组分,再添入50ng组分。农药残留的添加回收通常是在空白对照样品中添加。
1.2 标准工作曲线、相关系数(r)示例
表2 标准工作曲线数据统计
进样量(ng) 10 X轴 峰面积 1020 Y轴 直线回归方程 相关系数(r) 20 2040 30 3060 40 4090 50 5110 60 6090 70 7150 Y = 2.8571+101.92X 0.9999 打开计算器电源ON ,将右下角的开关拨至统计档STAT ,按黄色的2ndF 和红色的CL 清空内存。输入数据10,按M后出现逗号,然后输入数据1020,按M+显示1.0000…., 依次输入20,输入数据2040,按蓝色的M+显示2.0000…., 直至7组数据输入完毕。按2ndF,按× 提取截距a; 按2ndF,按+ 提取斜率b ; 按2ndF,按( 提取相关系数(r)。将得到的r同表5比较。本组n=5, 若线性相关(水平0.01,即100次试验,有99次应这样),r = 0.874,而本试验计算得r = 0.9999,说明成极好的线性回归关系;反之则不然。本计算器的直线回归方程为Y = a+bX。
有时对进样量、峰面积取单对数或双对数时,二者才能呈线性关系。这与检测器特性有关。
7-2
2 计算农药降解动态方程示例
当X与Y在单对数坐标系上画图呈直线时,表明函数属于Y=debx的变量关系,即In Y=bX+Ind, 令Y’=InY, B=Ind, M=b, 则化为直线式: Y’=MX+B 此时, 截距 斜率
XlnYXlnYX2B(X)2nX2MXlnYnXlnY(X)2nX2
大多数农药降解动态可用方程Ct = C0 e-Kt来具体表达,即通常所说的化学一级反应动力学方程。Ct=Y,d=C0,b=K=M,X=t。
由于农药在环境中的浓度通常是较低的,因此我们可以用下式来表达:
dc kc …………………………………………………………………(1)
dt将(1)式积分得:
Ct = C0 e-kt………………………………………………………………(2) 式中,K为降解速率常数;C0为农药的初始浓度;也叫原始沉积量;Ct为t时刻农药的浓度。 对(2)式取对数得:
lnCtKtlnC0…………………………………………………………………(3)
7-3
C0KtlnCt
……………………………………………………………………(4)
当施用的农药降解50%,即Ct=1/2C0时,所需时间叫降解半衰期,以T1/2表示时: T1/2ln20.693 …………………………………………………………(5) KK 式(5)说明T1/2与降解速率常数K成反比,与农药初始浓度C0无关。
同理T 0.99即农药降解99%所需时间可按下式计算:
T0.99ln994.595KK……………………………………………………(6)
式(3)~(5)推算细节:
KTlnC0Ct
C0 KtlnCt
C0lnCtt 令Ct =1/2C0 KlnC02C01C0lnC0ln20.6932 ………(7)
KKKK T1/2 大多数农药在农作物上和环境中的残留量(浓度),随施药后的时间(天)变化以近似负指数函数递减的规律变化。以甲基毒死蜱在甘蓝及土壤上的消解动态数据为例,具体介绍求降解动态方程实例。
7-4
表3 甲基毒死蜱在甘蓝及土壤上的消解动态
施药1次 取样间隔 甘蓝 施药剂量
时 间
g/ha(a.i.) 平均残留量 消解率
(d)
(mg/kg) ( % )
1/24 1 2
720
3 7 14 21
5.82 1.10 0.19 0.06 0.02 0.002 0.002
— 81 97 99 99 99 99
土壤
平均残留量
(mg/kg)
2.12 1.12 0.59 0.26 0.07 0.02 0.006
消解率 ( % ) — 47 72 88 97 99 99
原始沉积量所对应的时间为1/24天,即喷药后1小时。 以X表示时间,Y表示残留量。在计算回归方程时,通常只取降解率达90%以上的1~2组数据。即甘蓝上取4组数据,土壤上取5组数据。
表4 甲基毒死蜱在甘蓝上的消解动态统计数据 X(天) Y(mg/kg) lnY(mg/kg) 1/24 5.82 1.7613 1 1.10 0.0953 2 0.19 -1.6607 3 0.06 -2.8134 将Y 转换成lnY,或直接输入具有计算直线回归方程功能的计算器计算。
以SHARP EL-5100计算器为例,甲基毒死蜱在甘蓝上的降解动态方程,计算结果为:r=-0.9957,是否相关,及相关显著水平,可查相关系数检验表(表2),v=4-2=2, P0.05=0.950, P0.01=0.990,因此该方程可以模拟该种药剂随时间变化的情况。a=1.7119,b=-1.5666=K。取a
7-5
值自然对数为C0=5.5397,因此Ct = 5.5397e-1.5666t。 ln20.6930.4d 按式(5)T1/2K1.5666 由此,我们可以得出甲基毒死蜱在甘蓝上的降解动态方程为: Ct = 5.5397e-1.5666t,T1/2=0.4d,r=-0.9957,显著水平为P0.01。
654mg/kg3210048121620d图 1 甲基毒死蜱在甘蓝上的消解动态曲线642ln mg/kg00-2-4-6-8图 2 甲基毒死蜱在甘蓝上的消解动态曲线48121620 按照上述计算过程,可同理计算出土壤上的降解方程。
7-6
对某些除草剂可用Ct=C0t-k 回归。数据处理取双对数,即X和Y都取对数。
表5 相关系数检验表 N-2 1 2 3 4 5 6 7 8 9 10
P 0.05 0.997 0.950 0.878 0.811 0.754 0.707 0.666 0.632 0.602 0.576 0.01 1.000 0.990 0.959 0.917 0.874 0.884 0.798 0.765 0.735 0.708 N-2 11 12 13 14 15 16 17 18 19 20 P 0.05 0.553 0.532 0.514 0.497 0.482 0.468 0.456 0.444 0.433 0.423 0.01 0.684 0.661 0.641 0.623 0.608 0.590 0.575 0.561 0.549 0.537 7-7
因篇幅问题不能全部显示,请点此查看更多更全内容