有效數(shù)字的概念以及如何辨別有效數(shù)字的位數(shù)該數(shù)值的從其第一個不是零的數(shù)字起到最末一位數(shù)的全部數(shù)字就稱為有效數(shù)字。
數(shù)字左邊的0不是有效數(shù)字,數(shù)字中間和右邊的0是有效數(shù)字。如3.8600為五位有效數(shù)字,0.0038是二位有效數(shù)字,1002為四位有效數(shù)字
最終報告時,測量不確定度取幾位有效數(shù)字在報告測量結(jié)果時,不確定度 都只能是1~2位有效數(shù)字。也就是說,報告的測量不確定度最多為2位有效數(shù)字。
建議:當?shù)?位有效數(shù)字是1或2時,應保留2位有效數(shù)字。除此之外,對測量要求不高的情況可以保留1位有效數(shù)字。測量要求較高時,一般取2位有效數(shù)字。
如何確定最終報告的測量結(jié)果最佳估計值的有效位數(shù)報告測量結(jié)果的最佳估計值的有效位數(shù)的確定:
測量結(jié)果(即被測量的最佳估計值)的末位一般應修約到與其測量不確定度的末位對齊。即同樣單位情況下,如果有小數(shù)點,則小數(shù)點后的位數(shù)一樣;如果是整數(shù),則末位一致。
例如:① 6.3250g, 0.25g,則被測量估計值應寫成 6.32g;
② 1039.56mV, 10mV,則被測量估計值應寫成 1040mV;
③ 1.50005ms, 10015ns;
首先將 和 變換成相同的計量單位 ,然后對不確定度修約:對 10.015 修約,取二位有效數(shù)字為 10 ,然后對被測量的估計值修約:對 1.50005ms=1500.05 修約,使其末位與 的末位相對齊,得最佳估計值 l500 。
則測量結(jié)果為 ± =1500 ±lO 。
【案例】某計量檢定員在對檢定數(shù)據(jù)處理中,從計算器上讀得的測量結(jié)果為1235687 ,他覺得這個數(shù)據(jù)位數(shù)顯得很多,所以證書上報告時將測量結(jié)果簡化寫成 1× =1 。
【案例分析】依據(jù)JJF 1059一1999規(guī)定最終報告的測量結(jié)果最佳估計值的末位應與其不確定度的末位對齊,而不確定度的有效位數(shù)一般應為一位或二位。計量檢定員處理數(shù)據(jù)時應該計算每個測量結(jié)果的擴展不確定度,并根據(jù)不確定度的位數(shù)確定測量結(jié)果最佳估計值的有效位數(shù)。案例中的做法是不正確的。例如上例中,如果 1 ,則測量結(jié)果1235687 ,其末位與擴展不確定度的末位已經(jīng)一致,不需要修約。不能寫成1