拉力机软件数字近似运算法则!
时间:2011-09-20 阅读:1782
拉力机在数据处理过程中,常常要对数据进行近似运算。运算时要遵循一定的规则:
①在加、减法运算中,准确度zui差的项就是小数点后有效数字位数zui少的那一项,计算结果
有效数字的取舍以该项为准。
②在乘、除法运算中,所得结果的有效数字位数与参加运算各项中有效数字位数zui少者相
同,而与小数点无关。
在对参加运算的数据取舍时,可多留一位,否则会引起积累误差。
例1·5进行下列运算:(1)13.44+20.382+4.6;《2,四牛兴譬宁旦呈。
解:(1)13.44十20.382+4.6二13.44+20.38+4.6二38.42~38.4
(2)603.2lx0.32603x0.32:48.1~48
4.0114.01,
本文由:江苏天源试验设备有限公司 www.jdu17.com 编辑