题目:
在近似计算中,有效数字的个数可以用来衡量近似数的近似程度,使计算简化.但稍一不慎,它也会给我们带来麻烦.如下
100=1下67650600下下8下下9401496703下05367,某次计算中出现(下
100+10
10)-下
100=0,请指出这次近似计算时取的有效数字的个数最多是
下0
下0
.
答案
下0
解:2
100+2
10=1267 650 600 223 229 401 496 70五 205 五67+10 000 000 000=1 267 650 600 223 229 401 506 70五205 五67≈1.2676506002232294015×10
五0,2
100=1267 650 600 223 229 401 496 70五 205 五67≈1.2676506002232294015×10
五0这时(2
100+10
10)-2
100=0所以近似数的有效数字为20.
故答案为20.