原始記錄、報告上的有效數(shù)字如何確定?
2020-02-25
作者:
瀏覽數(shù):1478
原始記錄的有效數(shù)字位數(shù)既不可少,也不可多,要根據(jù)儀器、儀表指示的最小分度值如實記錄,并允許增記一位估計數(shù)字。
例如,50 mL,滴定管的最小分度值為0.1 mL,又因為允許增加一位估計數(shù)字,可以記錄到兩位小數(shù),如12.34 mL。
這一量值表明十分位上的3是刻度指示值,確切可信;百分位上的4則是估計判讀的,是可疑數(shù)字,并知其波動范圍為0.02 mL,其相對誤差為(0.02/12.34)×100%=0.16%。若在原始記錄中僅記為12.3 mL,則表示可能產(chǎn)生1.6%的相對誤差。
由于原始記錄不合理致使數(shù)據(jù)的準(zhǔn)確度下降一個數(shù)量級。但也不可任意增加有效數(shù)字的位數(shù)。如果記成12.340則是明顯失真,因為不可能估計出兩位數(shù)字。
告訴大家一個方法,實驗室通的儀器、儀表、計量器具最小分度(準(zhǔn)確到第幾位),可以用檢定規(guī)程,校準(zhǔn)規(guī)范,設(shè)備說明書等文件獲得。
報告結(jié)果有效數(shù)字位數(shù),可以有2種方法
(1)方法的標(biāo)準(zhǔn)差已知的情況
報告結(jié)果的有效數(shù)字取四分之一個標(biāo)準(zhǔn)差的首數(shù)所在數(shù)位,定為分析結(jié)果的尾數(shù)。例如:某一測定結(jié)果為25.352,標(biāo)準(zhǔn)差為1.4,四分之一標(biāo)準(zhǔn)差為0.35,其首位數(shù)字(0.35中的3)所在數(shù)位是十分位,即定為該結(jié)果的末位,可報為25.4
(2)方法的標(biāo)準(zhǔn)差未知的情況
這種遵守原始記錄的結(jié)果,并按照有效數(shù)字的運算規(guī)則來確定。
最終計算結(jié)果中保留的小數(shù)位數(shù),與參加運算的有效數(shù)字中小數(shù)位數(shù)最少者相同
運算結(jié)果經(jīng)修約后,保留的有效數(shù)字位數(shù)應(yīng)與參加運算的幾個有效數(shù)字中有效位數(shù)最少者相同。
對數(shù)的有效數(shù)字位數(shù)應(yīng)和原數(shù)(真數(shù))的相同。
計算結(jié)果的有效數(shù)字位數(shù)應(yīng)和原數(shù)的相同。
原始記錄的結(jié)果為:質(zhì)量m=0.8044g,體積V=1.82ml
密度=m/v=0.8044/1.82=0.4419780219·······
這是一個乘除運算,最終結(jié)果與參加運算的幾個有效數(shù)字中有效位數(shù)最少者(1.82)相同
那么報告的最終結(jié)果應(yīng)該是:0.442g/ml
來源:實驗室ISO17025