原始記錄、報告上的有效數字如何確定?
2020-02-25
作者:
瀏覽數:1400
原(yuan)始記錄(lu)有(you)效數(shu)字(zi)
原(yuan)始記(ji)(ji)錄的(de)有(you)效數(shu)字(zi)(zi)位數(shu)既(ji)不可少(shao),也(ye)不可多(duo),要根據儀器、儀表指示的(de)最(zui)小分(fen)度值(zhi)如實記(ji)(ji)錄,并允許增記(ji)(ji)一位估計數(shu)字(zi)(zi)。
例如(ru),50 mL,滴定管的最小分度值為0.1 mL,又因(yin)為允許增加(jia)一位估(gu)計數(shu)字,可(ke)以記錄到兩位小數(shu),如12.34 mL。
這一量值(zhi)(zhi)表明十(shi)分(fen)位上(shang)的3是刻度指示值(zhi)(zhi),確切(qie)可信;百(bai)分(fen)位(wei)上的(de)4則(ze)是估計判讀的(de),是可疑數字,并知其波動范圍為(wei)0.02 mL,其相對(dui)誤差為(wei)(0.02/12.34)×100%=0.16%。若(ruo)在原始記錄中僅記為12.3 mL,則表示可能產生1.6%的(de)相對誤差。
由于原(yuan)始記錄不合理致(zhi)使(shi)數據的準確度(du)下(xia)降一個數量級。但也(ye)不可任意增(zeng)加有效(xiao)數字的位(wei)數。如果記成12.340則是明顯失真,因為(wei)不可能(neng)估計出兩位(wei)數(shu)字。
告訴大家一個方法,實驗室通的儀器、儀表、計量器具最小分度(du)(準確到第幾位),可以用檢定規程,校準規范,設備說明書等文件獲得。
報告結(jie)果有(you)效數字(zi)位數,可以有(you)2種方法
(1)方法的標(biao)準差已知(zhi)的情況(kuang)
報告結果的(de)有效(xiao)數字(zi)取四分之(zhi)一個標準差(cha)的(de)首數所在數位(wei),定(ding)為(wei)分析(xi)結果的(de)尾(wei)數。例如:某一測定結果為25.352,標準差為1.4,四分之一標準差為0.35,其首位數字(0.35中的3)所在數位是十分位,即定為該結果的末位,可報為25.4
(2)方法的標準(zhun)差未知的情況(kuang)
這種遵守原始(shi)記錄的結(jie)果,并(bing)按照有效(xiao)數字的運算(suan)規則來確定(ding)。
有效(xiao)數字運算(suan)規則如(ru)下:
最終計算結果中保留的小數位數,與參加運算的有效數字中小數位數最少者相同
運算結果經修約后,保留的有效數字位數應與參加運算的幾個有效數字中有效位數最少者相同。
對(dui)數(shu)(shu)的有效數(shu)(shu)字位數(shu)(shu)應和原數(shu)(shu)(真(zhen)數(shu)(shu))的相同。
平方(fang)(fang)、立(li)方(fang)(fang)、開方(fang)(fang)運(yun)算:
計算(suan)結(jie)果(guo)的(de)有效數(shu)字(zi)位數(shu)應和(he)原數(shu)的(de)相同。
原始(shi)記錄(lu)的(de)結(jie)果為:質量m=0.8044g,體(ti)積V=1.82ml
密度=m/v=0.8044/1.82=0.4419780219·······
這是一個乘除運算,最終結果與參加(jia)運算(suan)的(de)幾個有效數字中有效位數最少者(1.82)相同
那么報告的最終結果應該是:0.442g/ml
來源(yuan):實驗室ISO17025