华南俳烁实业有限公司

一級注冊計(jì)量師《測量數(shù)據(jù)處理與計(jì)量專業(yè)實(shí)務(wù)》知識點(diǎn)(85)
中華考試網(wǎng)  2019/7/12 15:30:26  

通用的修約規(guī)則為:

以保留數(shù)字的末位為單位,末位后的數(shù)字大于O.5者,末位進(jìn)一;末位后的數(shù)字小于0.5者,末位不變(即舍棄末位后的數(shù)字);末位后的數(shù)字恰為0.5者,使末位為偶數(shù)(即當(dāng)末位為奇數(shù)時(shí),末位進(jìn)一;當(dāng)末位為偶數(shù)時(shí),末位不變)。我們可以簡捷地記成:“四舍六人,逢五取偶”。

 報(bào)告測量不確定度時(shí)按通用規(guī)則數(shù)字修約舉例:

0.568mV,應(yīng)寫成 0.57mV 0.6mV;

  O.56lmV,應(yīng)寫成 O.56mV;

10.5nm,應(yīng)寫成 10nm;

10.5001nm,應(yīng)寫成 11nm;

11.5×10-3取二位有效數(shù)字,應(yīng)寫成 12×Lo-5;

取一位有效數(shù)字,應(yīng)寫成U 1×10-4;

  1235687A,取一位有效數(shù)字,應(yīng)寫成 1×lO-6A=1A。  

修約注意事項(xiàng):不可連續(xù)修約,例如:要將7.691499修約到四位有效數(shù)字,應(yīng)一次修約為7.691.若采取7.691499---7.6915---7.692是不對的。

為了保險(xiǎn)起見,也可將不確定度的末位后的數(shù)字全都進(jìn)位而不是舍去。

 例如: 10.27m ,報(bào)告時(shí)取二位有效數(shù)字,為保險(xiǎn)起見可取 1lm 【案例】某計(jì)量檢定員經(jīng)測量得到被測量估計(jì)值為 5012.53mV, 1.32mV,在報(bào)告時(shí),她取不確定度為一位有效數(shù)字 2mV,測量結(jié)果為y± 5013mV±2mV;核驗(yàn)員檢查結(jié)果認(rèn)為她把不確定度寫錯(cuò)了,核驗(yàn)員認(rèn)為不確定度取一位有效數(shù)字應(yīng)該是 1mV

【案例分析】依據(jù)JJF 1059—1999規(guī)定:為了保險(xiǎn)起見,可將不確定度的末位后的數(shù)字全都進(jìn)位而不是舍去。該計(jì)量檢定員采取保險(xiǎn)的原則,給出測量不確定度和相應(yīng)的測量結(jié)果是允許的,應(yīng)該說她的處理是正確的。而核驗(yàn)員采用通用的數(shù)據(jù)修約規(guī)則處理測量不確定度的有效數(shù)字也沒有錯(cuò)。這種情況下應(yīng)該尊重該檢定員的意見

鄄城县| 惠水县| 庆云县| 红安县| 麻城市| 大方县| 衢州市| 阳高县| 余姚市| 东兰县| 无极县| 泗水县| 灵台县| 新龙县| 措勤县| 安泽县| 海盐县| 保康县| 西充县| 盘山县| 方城县| 江油市| 略阳县| 图木舒克市| 友谊县| 会昌县| 东平县| 瑞金市| 扶余县| 吉林市| 桃园县| 监利县| 繁峙县| 独山县| 桦甸市| 合水县| 托里县| 屯留县| 徐汇区| 阳东县| 蒙山县|