安徽亳州吧吧 关注:230贴子:750
  • 1回复贴,共1
求助

去尾法的例子

只看楼主收藏回复



IP属地:青海1楼2023-05-27 18:24回复
    去尾法是一种数值分析中的一种数值取整方法,通常用于截断误差的出现,其具体做法是将计算结果的尾数截去一部分,从而达到取整的目的。假如我们要将 3.1415926 保留5位小数,去尾法的做法是将其第5位后面的数字全部截去,因此得到的结果是 3.14159。如果采用四舍五入法,结果则是 3.14159(四舍五入到第5位小数后是2,因此将第5位小数的“9”进一位,然后截去第6位小数的数字,最终结果为 3.14159)


    IP属地:江西2楼2023-05-28 01:00
    回复