一、有效數字及運算法則

　　1.有效數字
　　在質(zhì)量檢驗工作中，測得的絕大部分數據是屬于連續型的量，其數值的末一位一般具有一定的誤差或不確定性。故對末一位數字可認為是不準確或可疑的，稱(chēng)為“可疑數字” 或叫“欠準數字”，而其前邊各數所代表的數量，則均為準確知道的，稱(chēng)為“可靠數字”。我們稱(chēng)此時(shí)所記數字均為有效數字。就是說(shuō)有效數字是“可疑數字”和“可靠數字”的總稱(chēng)。也可以說(shuō)從第一個(gè)不為零的數字開(kāi)始至末位數字被稱(chēng)為有效數字。
　　至于“可疑數字”的欠準程度，則有±1、±2、±5的不同約定。也有為了與數字修約規則一致，約定不超過(guò)可疑數字半個(gè)單位的，這時(shí)如果寫(xiě)出數字0.5就表示其真值在0.45～0.55之間。所謂約定就是說(shuō)沒(méi)有統一的規定可循。在質(zhì)量檢驗的具體工作中，一般是根據檢測的具體條件決定，包括所用儀器的精度、方法的精確度等。必要時(shí)，可在觀(guān)測值的后面加上欠準程度，如：原油閃點(diǎn)38℃±1℃，硫的相對原子質(zhì)量32.064±0.003等。
　　2.有效數字運算法則
　　用觀(guān)測值計算分析結果時(shí)，就要進(jìn)行有效數字的運算，運算應遵守有關(guān)法則。
　　(1)幾個(gè)觀(guān)測值相加減時(shí)，結果的有效數字應以各觀(guān)測值的最大可疑位數為準，即以小數位數最少的為準。例如：求12.23與0.1234之和。應以12.23為準，即和應為12.35。因為12.23的小數點(diǎn)后第二位上的3是可疑的，即使0.1234的小數點(diǎn)后第三位是可靠數字，對求得的和也沒(méi)有意義。
　　(2)觀(guān)測值相乘、除時(shí)，積、商有效數字的位數一般應與有效數字位數最少的觀(guān)測值相同。例如，0.15×9.6876的正確結果是1.5，而不是1.45314。但這個(gè)規則只能說(shuō)適用于一般情況，在特殊情況下就不適用。確定積、商有效數字位數的普遍適用的規則，是它們的相對誤差應與因數中最大的相對誤差相當。
　　(3)對觀(guān)測值進(jìn)行乘方和開(kāi)方時(shí)，求得乘冪的位數應不超過(guò)觀(guān)測值本身的位數，且冪次愈高，乘冪誤差愈大，應留的位數愈少；求得方根的位數應至少與觀(guān)測值本身的位數相同，且開(kāi)方的次數愈高，方根誤差愈小，應留的位數愈多。
　　(4)觀(guān)測值的對數小數點(diǎn)后所取的位數，應不多于觀(guān)測值有效數字的位數。
　　例如，
　　1g901.2=2.95482……
　　按約定，對數的下限和上限是
　　1g901.1=2.95477……
　　1g901.3=2.95486……
　　可見(jiàn)，對數的前四位是可靠數字，第五位欠準程度是±1，可以把對數表示為五位有效數字，即
　　1g901.2=2.9548
　　(5)關(guān)于有效數字的修約，應按照國家標準GB 8170—87《數值修約規則》進(jìn)行。
　　(6)在運算過(guò)程中可以多保留一位有效數字。因為偶然會(huì )發(fā)生連續“舍”或連續“進(jìn)” 的情況而影響最后結果。當然，最后結果的位數仍應按(1)、(2)、(3)、(4)、(5)條的規定處理。
　　把(1)、(2)、(3)、(4)四條規則概括起來(lái)可以知道，進(jìn)行加、減、乘、除運算，一般都要分成三步：
　?、侔迅鲾敌藜s到比最后結果的位數多一位。
　?、谶M(jìn)行加、減、乘、除運算。
　?、圩詈髮τ嬎憬Y果進(jìn)行修約。
　　如果在全部運算中除加、減、乘、除外還有乘方、開(kāi)方、求對數的運算，則應按(3)、(4)條的規定，用求上、下限的方法確定乘冪、方根、對數有效數字的位數，再把它們納入①、②、③三個(gè)步驟中，求出最后結果。
　　(7)在所有計算式中，如根號2、1／2等數字，不連續物理量的數目，以及完全從理論計算出的數字如π、e等的有效數字位數可以無(wú)限制保留，需要幾位就寫(xiě)幾位。其他如相對原子質(zhì)量等基本數量，如需要的有效位數少于公布的數值，可以根據需要保留。單位換算因數則需根據原單位的有效數位決定，如1kg=1000g，有效數位無(wú)限制，而氣體常數R值則有一定的最高有效數位。

　　二、準確度與精密度

　　準確是指觀(guān)測值與真值接近。觀(guān)測值與真值之差叫誤差。觀(guān)測值與真值越接近，觀(guān)測值的誤差越小，觀(guān)測值就越準確。因此，觀(guān)測的準確度是指觀(guān)測的正確性，即觀(guān)測結果與真值的接近程度。在實(shí)際工作中，人們常常把某一誤差很小的觀(guān)測值作為“真值”。例如，在定量分析中把標準樣品或純凈物質(zhì)的組分含量當作沒(méi)有誤差的真值。這樣，就可以把實(shí)際測得的組分含量與之比較，來(lái)衡量測定結果的準確度。
　　精密是指一組觀(guān)測值彼此符合。一組觀(guān)測值彼此越接近，觀(guān)測就越精密。因此，觀(guān)測的精密度是指觀(guān)測的重現性。精密度的高低不能說(shuō)明觀(guān)測值與真值是否接近，即精密的觀(guān)測不一定是準確的，這是因為引起觀(guān)測值遠離真值的誤差，會(huì )對一系列的觀(guān)測發(fā)生相同的影響，因而無(wú)損于觀(guān)測的精密度。

　　三、誤差及數據處理

　　1.誤差的定義
　　測量的數據經(jīng)常受偶然因素的影響而變化。例如：一個(gè)化驗員每日所化驗的樣品數；測定某個(gè)天然氣樣品中的硫化氫含量，在重復測量時(shí)，結果往往不同。這種受偶然因素影響而變化的量，統計工作者稱(chēng)為隨機變量。數據發(fā)生變化的原因，可以全部或部分地歸于測量誤差，有些則是由變量固有的性質(zhì)所決定的。上述兩個(gè)變量屬于不同類(lèi)型：樣品數是離散型的，只能是整數，可以計數得絕對準確；而后者是連續型的，測量就會(huì )有誤差。計數的數據和測量的數據統稱(chēng)為觀(guān)測值。
　　被測量的量在規定條件下客觀(guān)存在的量值稱(chēng)為它的真值。實(shí)際上，真值是無(wú)法被準確知道的。因此，為了使用的特定目的，通常用與它足夠接近的量值來(lái)代替，這樣的量值稱(chēng)之為“約定真值”。約定真值與真值之差對特定目的來(lái)說(shuō)應該是可以忽略不計的。
　　測量結果的誤差是觀(guān)測值與真值之差。觀(guān)測值比真值大，誤差為正；觀(guān)測值比真值小，誤差為負。
　　在定量分析中，我們把標準樣品給出的組分含量或給出的某項理化性能指標當作真值。實(shí)際上，這個(gè)真值是由最有經(jīng)驗的人，用最可靠的方法，按照嚴格規定的程序，準確地測定出來(lái)的。有了這種公認的真值，我們就可以把測得的結果與“真值”之差，作為測定結果的誤差，來(lái)衡量某一分析方法的準確度，某一化驗室或某一化驗員技術(shù)水平的高低。