扬州瑞优试验设备有限公司

化工仪器网免费会员

收藏

拉力机软件数字近似运算法则!

时间:2011-09-20      阅读:1782

  拉力机在数据处理过程中,常常要对数据进行近似运算。运算时要遵循一定的规则:
  ①在加、减法运算中,准确度zui差的项就是小数点后有效数字位数zui少的那一项,计算结果
  有效数字的取舍以该项为准。
  ②在乘、除法运算中,所得结果的有效数字位数与参加运算各项中有效数字位数zui少者相
  同,而与小数点无关。
  在对参加运算的数据取舍时,可多留一位,否则会引起积累误差。
  例1·5进行下列运算:(1)13.44+20.382+4.6;《2,四牛兴譬宁旦呈。
  解:(1)13.44十20.382+4.6二13.44+20.38+4.6二38.42~38.4
  (2)603.2lx0.32603x0.32:48.1~48
  4.0114.01,
  
  

本文由:江苏天源试验设备有限公司 www.jdu17.com 编辑

上一篇: 如何处理拉力机夹具打滑问题! 下一篇: 拉力试验机上变频器的检修方法!
提示

请选择您要拨打的电话: