技术文章

工厂实验室分析测试中的有效数字的运算规则

南京鑫耀分析仪器制造有限公司

2012/3/28 8:48:36
在分析测定中,一般要经过几个测量步骤,获得几个测量数据,然后把这些数据经过适当的处理和运算,得出zui后的分析结果。由于各个数据的准确程度或有效数字不一定相等,因此运算时必须按照一定的规则运算,合理取舍各个数据的有效位数。只有这样,才能节省时间,又可避免得出不合理的分析结果。
①       加减法:其和或差的有效数字的保留位数,应以小数点后有效数字或位数zui少的数据为准(即以误差zui大的数据为依据),先修约后计算。
【例】若将下列3个数据相加:0.0121,25.64,1.0578,应如何运算?
解   运算时,先确定各有效数字的保留位数,按“修约规则”弃去不必要的数字后,再进行相加运算。
0.0121+25.64+1.0578=0.01+25.64+1.06=26.71
②乘除法:其积或商的有效数字的保留位数,应以各数据中的有效数字位数zui少的数据为准(即以相对误差zui大的数据为依据),先修约后计算。对修约后的数据全部相乘或除后的结果进行取舍,中间过程不再取舍。(即不能将其中几个数相乘或除后的积或商取舍各数据中有效数字位数zui少的位数后,再与其他数据相乘或除)。
【例】将0.0121,25.64,1.0578三个数相乘,应如何运算?
解   先计算出每个数据的相对误差:
0.0121的相对误差=0.0001∕0.0121×100%=0.8%
25.64的相对误差=0.01∕25.64×100%=0.04%
1.0578的相对误差=0.0001∕1.0578×100%=0.00009%
显然数据0.0121的相对误差zui大,因此各有效数字应取三位有效数字进行运算,其积取三位有效数字。
0.0121×25.64×1.0578=0.0121×25.6×1.06=0.328
③加减乘除混合运算:分别参照以上①、②分步进行运算即可。
④对数的运算:所取对数位数应与真数有效数字位数相等。
【例】若溶液中[H+]=9.6×10¯¹²mol/L,试计算溶液的pH值为多少?
解   [H+]=9.6×10¯¹²mol/L,根据pH的定义公式可得:

pH=-lg[H+]=-lg(9.6×10¯¹²)=12- lg9.6=12-0.98=11.02

相关产品

猜你喜欢

当前客户在线交流已关闭
请电话联系他 :