產(chǎn)品搜索
請(qǐng)輸入產(chǎn)品關(guān)鍵字:
聯(lián)系方式
技術(shù)文章
拉力機(jī)軟件數(shù)字近似運(yùn)算法則!
點(diǎn)擊次數(shù):967 發(fā)布時(shí)間:2014-11-3
在數(shù)據(jù)處理過(guò)程中,常常要對(duì)數(shù)據(jù)進(jìn)行近似運(yùn)算。運(yùn)算時(shí)要遵循一定的規(guī)則:
①在加、減法運(yùn)算中,準(zhǔn)確度zui差的項(xiàng)就是小數(shù)點(diǎn)后有效數(shù)字位數(shù)zui少的那一項(xiàng),計(jì)算結(jié)果
有效數(shù)字的取舍以該項(xiàng)為準(zhǔn)。
②在乘、除法運(yùn)算中,所得結(jié)果的有效數(shù)字位數(shù)與參加運(yùn)算各項(xiàng)中有效數(shù)字位數(shù)zui少者相
同,而與小數(shù)點(diǎn)無(wú)關(guān)。
在對(duì)參加運(yùn)算的數(shù)據(jù)取舍時(shí),可多留一位,否則會(huì)引起積累誤差。
例1·5進(jìn)行下列運(yùn)算:(1)13.44+20.382+4.6;《2,四牛興譬寧旦呈。
解:(1)13.44十20.382+4.6二13.44+20.38+4.6二38.42~38.4
(2)603.2lx0.32603x0.32:48.1~48
4.0114.01,
本文由:江蘇天源試驗(yàn)設(shè)備有限公司 編輯