技术文章

工厂实验室分析测试中的有效数字的运算注意事项

南京鑫耀分析仪器制造有限公司

2012/3/28 8:46:39
①在大量的数据运算中,为了不使修约误差迅速累积,可将参与的数据修约到应有的有效位数多一位。这多取的一位数字,称为“安全”数字。
①       凡有效数字*位等于或大于8时,有效数字可多看一位。例如9.53,虽只有三位有效数字,但有效数字的*位9大于8,可认定它是四位有效数字。
②       在分析化学中,经常遇到一些分数或倍数,例如K2CR2O7的摩尔质量:
 
 
从250ML容量瓶中吸取25ML试液(即1/10)等。这里的6,25等数字是十分确定的自然数。不能认为它们只有一位或二位有效数字。
③       在分析化学中,对于高含量组分(≥10%)的测定结果,一般要求取四位有效数字;对于中等组分含量(1%~10%)的测定记过,一般要求取三位有效数字;对于微量组分(0.01%~1%)的测定结果,一般要求取二位有效数字。在测量和计算时,有效数字的保留应与组分含量要求相适应。
④       对于化学平衡的计算,一般保留(2~3)位有效数字;对于误差或偏差的计算,一般保留一位,zui多保留两位有效数字;对于PH值;由于它是[H+]的负对数值,有效数字的位数仅取决于小数点部分。例如PH=11.20换算式[H+]=6.3×10¯¹²mol/L,有效数字是两位而不是四位。
⑤       由于平均值的精密优于个别测定值,因此,在计算不少于4个测定值的平均值时,平均值的有效数字位数,可以比单次测定值的有效数字位数增加一位。
⑥       对超出标准中规定的允许偏差数值,不允许修约。例如,产品技术条件中规定硫的质量界限不大于0.04%,而实际测定所得的数据为0.044%,此时不允许将0.044%修约为0.04%,变成为符合产品要求的合格数据。

相关产品

猜你喜欢

当前客户在线交流已关闭
请电话联系他 :