华南俳烁实业有限公司

二級注冊計量師《計量專業(yè)實務(wù)》精選知識點(45)
來源:中華考試網(wǎng)  2020/12/10 14:31:38  

有效數(shù)字的概念以及如何辨別有效數(shù)字的位數(shù)該數(shù)值的從其第一個不是零的數(shù)字起到最末一位數(shù)的全部數(shù)字就稱為有效數(shù)字。

數(shù)字左邊的0不是有效數(shù)字,數(shù)字中間和右邊的0是有效數(shù)字。如3.8600為五位有效數(shù)字,0.0038是二位有效數(shù)字,1002為四位有效數(shù)字

最終報告時,測量不確定度取幾位有效數(shù)字在報告測量結(jié)果時,不確定度 都只能是1~2位有效數(shù)字。也就是說,報告的測量不確定度最多為2位有效數(shù)字。  

建議:當?shù)?位有效數(shù)字是1或2時,應保留2位有效數(shù)字。除此之外,對測量要求不高的情況可以保留1位有效數(shù)字。測量要求較高時,一般取2位有效數(shù)字。

如何確定最終報告的測量結(jié)果最佳估計值的有效位數(shù)報告測量結(jié)果的最佳估計值的有效位數(shù)的確定:  

測量結(jié)果(即被測量的最佳估計值)的末位一般應修約到與其測量不確定度的末位對齊。即同樣單位情況下,如果有小數(shù)點,則小數(shù)點后的位數(shù)一樣;如果是整數(shù),則末位一致。  

例如:① 6.3250g, 0.25g,則被測量估計值應寫成 6.32g;

     ② 1039.56mV, 10mV,則被測量估計值應寫成 1040mV;

     ③ 1.50005ms, 10015ns;

首先將 和 變換成相同的計量單位 ,然后對不確定度修約:對 10.015 修約,取二位有效數(shù)字為 10 ,然后對被測量的估計值修約:對 1.50005ms=1500.05 修約,使其末位與 的末位相對齊,得最佳估計值 l500 。

   則測量結(jié)果為 ± =1500 ±lO 。

 【案例】某計量檢定員在對檢定數(shù)據(jù)處理中,從計算器上讀得的測量結(jié)果為1235687 ,他覺得這個數(shù)據(jù)位數(shù)顯得很多,所以證書上報告時將測量結(jié)果簡化寫成 1× =1 。

【案例分析】依據(jù)JJF 1059一1999規(guī)定最終報告的測量結(jié)果最佳估計值的末位應與其不確定度的末位對齊,而不確定度的有效位數(shù)一般應為一位或二位。計量檢定員處理數(shù)據(jù)時應該計算每個測量結(jié)果的擴展不確定度,并根據(jù)不確定度的位數(shù)確定測量結(jié)果最佳估計值的有效位數(shù)。案例中的做法是不正確的。例如上例中,如果 1 ,則測量結(jié)果1235687 ,其末位與擴展不確定度的末位已經(jīng)一致,不需要修約。不能寫成1

镇康县| 马边| 社旗县| 廊坊市| 河西区| 新安县| 墨玉县| 昌宁县| 建阳市| 乌拉特前旗| 安福县| 巴彦县| 元朗区| 泗水县| 山西省| 莲花县| 邻水| 察隅县| 霍州市| 松溪县| 即墨市| 安远县| 宁陵县| 东阿县| 吴川市| 冕宁县| 涟源市| 衡阳县| 青州市| 名山县| 洛宁县| 依安县| 沙田区| 衡东县| 辰溪县| 安庆市| 旬邑县| 阿拉善右旗| 伊宁市| 夏邑县| 宜宾县|