淺談檢驗(yàn)過程中測(cè)量數(shù)據(jù)處理及修約方法

崔淑玲（呼倫貝爾市產(chǎn)品質(zhì)量計(jì)量檢測(cè)所）

淺談檢驗(yàn)過程中測(cè)量數(shù)據(jù)處理及修約方法

崔淑玲（呼倫貝爾市產(chǎn)品質(zhì)量計(jì)量檢測(cè)所）

本文論述了測(cè)試數(shù)據(jù)處理種類及適用范圍，如何優(yōu)化數(shù)據(jù)處理、有效給出測(cè)試數(shù)據(jù)。

數(shù)據(jù)處理 適用范圍 有效

化學(xué)實(shí)驗(yàn)中常見的數(shù)據(jù)處理有: （1）公式計(jì)算;（2）用實(shí)驗(yàn)數(shù)據(jù)作圖或?qū)?shí)驗(yàn)數(shù)據(jù)計(jì)算后作圖; （3）線性擬合,求截距或斜率; （4）非線性曲線擬合; （5）作切線,求截距或斜率。計(jì)算機(jī)作圖軟件越來越多。利用計(jì)算機(jī)Origin 軟件可方便地進(jìn)行作圖、線性擬合、非線性曲線擬合等數(shù)據(jù)處理,還可以求出R2（相關(guān)系數(shù)的平方） 、SD （標(biāo)準(zhǔn)偏差） 、RSD （相對(duì)標(biāo)準(zhǔn)偏差）、ρ值（ R2= 0 的概率）等。能夠滿足化學(xué)實(shí)驗(yàn)數(shù)據(jù)處理的要求，特別是先進(jìn)的儀器設(shè)備大都具備自動(dòng)檢測(cè)及數(shù)據(jù)處理功能,但是對(duì)于一些異常值的處理和判定,儀器設(shè)備還存在缺陷和不足，儀器有時(shí)會(huì)出毛病，需要人工驗(yàn)證。本文介紹常規(guī)檢驗(yàn)中一些小數(shù)據(jù)的處理方法適用范圍、優(yōu)缺點(diǎn)。

1 實(shí)驗(yàn)數(shù)據(jù)修約、修正

1.1 數(shù)據(jù)修約

實(shí)驗(yàn)數(shù)據(jù)修約按GB/T 8170—2008《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》，按照其修約間隔或指定單位進(jìn)行修約，比如按0.1，0.2，0.5修約間隔及指定單位修約。如檢測(cè)化肥中有效磷的修約用0.1修約間隔，假設(shè)磷含量15.1160%，標(biāo)準(zhǔn)要求三位有效數(shù)字，在運(yùn)算過程多保留一位，所以修約15.12%；如柴油中閃點(diǎn)的數(shù)據(jù)修約要求按0.5修約間隔，假設(shè)閃點(diǎn)數(shù)值56.4℃，則按修約要求修約后為56.4×2=112.8℃=113℃,113÷2=56.5℃。不允許連續(xù)修約,如45.4546,按1修約間隔,要求保留整數(shù),正常修約為45,要是連續(xù)修約（錯(cuò)誤的修約）就是45.455→45.46→45.5→46。

1.2 進(jìn)舍規(guī)則

四舍六入五考慮,五后非零則進(jìn)一,五后皆零視奇偶,五前為偶則舍去,五前為奇則進(jìn)一，要一次修約完成,不可連續(xù)修約。

特例：對(duì)于非連續(xù)型數(shù)值個(gè)數(shù)、分?jǐn)?shù)、倍數(shù)、名義濃度等，其有效位數(shù)可視為無限多位。如0.5mol/L氫氧化鈉標(biāo)液中的“0.5”為名義濃度，其有效位數(shù)為無限多位，規(guī)格項(xiàng)目下的“10g”“1mL”等，其有效位數(shù)為無限多位。

在單次檢驗(yàn)數(shù)據(jù)保留中，要根據(jù)最少有效精度的條件來決定。如在檢驗(yàn)化肥總氮含量過程中，用萬分之一天平稱取分析試樣1.5002g，天平檢定證書給出示值誤差（檢定結(jié)果的）為0.2mg（0.0002g），所使用的25mL或50mL的堿式滴定管，樣品消耗氫氧化鈉標(biāo)準(zhǔn)溶液體積為12.78mL，是四位有效數(shù)字，由天平稱量及滴定管準(zhǔn)確度決定,在計(jì)算總氮含量時(shí)，最多保留五位有效數(shù)字（在運(yùn)算過程），多留無意義。最后保留四位或四位以下才有意義，當(dāng)然根據(jù)產(chǎn)品標(biāo)準(zhǔn)要求，也可以保留四位以下的有效數(shù)字。

結(jié)論：在計(jì)算中，其有效數(shù)位應(yīng)根據(jù)其他數(shù)值的最少有效位數(shù)來定。

1.3 數(shù)據(jù)修正

在油品餾程檢測(cè)數(shù)據(jù)處理過程中，要進(jìn)行溫度和大氣壓修正，如柴油餾程溫度計(jì)讀數(shù)264.0℃，經(jīng)溫度計(jì)修正及大氣壓修正后為（溫度計(jì)修正值由檢定證書給出，大氣壓修正值按GB/T 6536—2010中表6，當(dāng)?shù)卮髿鈮簽?3kPa，計(jì)算出來）：264.0+0.4+4.09=268.5℃。

2 處理異常值

2.1 判別異常值常用的統(tǒng)計(jì)方法——格拉布期準(zhǔn)則

設(shè)定一組重復(fù)結(jié)果Xi中殘差最大者為可疑值Xd，設(shè)置信概率ρ，顯著水平α=1-ρ，s為實(shí)驗(yàn)標(biāo)準(zhǔn)偏差，為要計(jì)算的一組數(shù)據(jù)的平圴值，G（α， n）為格拉布期準(zhǔn)則臨界值（由表查出），可以用來判定是否存在可疑值，當(dāng)＜ G(α，n )無可疑值；≥ G(α，n )為可疑值，依此類推，連續(xù)判定，直到無可疑值，取平均值作為檢驗(yàn)結(jié)果。

2.2 方法標(biāo)準(zhǔn)中給出重復(fù)性限和再現(xiàn)性臨界差要求

在GB/T 214—2007《煤中全硫的測(cè)定方法》中，當(dāng)St≤1.50%時(shí)，重復(fù)性限0.05%（St,ad）；再現(xiàn)性臨界差0.10%（St,d），符合誤差要求的，取算術(shù)平均值作為最終結(jié)果，若不符合，按CB/T 483—2007《煤炭分析試驗(yàn)方法一般規(guī)定》加大檢驗(yàn)數(shù)量，求重復(fù)性測(cè)量的極差值，然后再進(jìn)行數(shù)據(jù)處理，符合要求的取算術(shù)結(jié)果的平均值，當(dāng)樣品測(cè)定數(shù)量加大至規(guī)定極限時(shí)，仍不符合要求的，舍棄全部結(jié)果，從人、機(jī)、料、法、環(huán)上查找原因，重新試驗(yàn)。

2.3 準(zhǔn)確度值的實(shí)際應(yīng)用

GB/T 6379.6—2009《測(cè)量方法與結(jié)果的準(zhǔn)確度（正確度與精密度） 第6部分：準(zhǔn)確度值的實(shí)際應(yīng)用》應(yīng)用的基礎(chǔ)是基于超過兩個(gè)值的比較。

2.3.1 一個(gè)實(shí)驗(yàn)室內(nèi)兩組測(cè)量結(jié)果的比較

在重復(fù)性條件下進(jìn)行兩組測(cè)量，第一組測(cè)試結(jié)果數(shù)為n1，其算術(shù)平均值為，同理，第二組為n2，，在GB/T 6379控制條件下，σr為重復(fù)性測(cè)量結(jié)果的估計(jì)值代替標(biāo)準(zhǔn)差Sr，則的標(biāo)準(zhǔn)差為；在ρ=95%概率水平下，臨界差為 ，（當(dāng)n1=n2=1，臨界差化簡(jiǎn)為 r =2.8σr）。

2.3.2 兩個(gè)實(shí)驗(yàn)室兩組測(cè)量結(jié)果的比較

在重復(fù)性條件下，第一個(gè)實(shí)驗(yàn)室測(cè)試結(jié)果數(shù)為n1，其算術(shù)平均值為，同理，第二個(gè)實(shí)驗(yàn)室為n2，的標(biāo)準(zhǔn)差=ρ=95%條件下，的臨界差為：CD0.95=，（當(dāng)n1=n2=1，臨界差化簡(jiǎn)為R=2.8σR）。

2.3.3 一個(gè)實(shí)驗(yàn)室的測(cè)試結(jié)果與參照值的比較

在重復(fù)性條件下，第一個(gè)實(shí)驗(yàn)室得到n個(gè)實(shí)驗(yàn)結(jié)果，其算術(shù)平均值為，與某個(gè)確定的參照值μ0比較,在偏倚的實(shí)驗(yàn)室分量尚未確定的情況下，（-μ0）的標(biāo)準(zhǔn)差為：

2.3.4 多個(gè)實(shí)驗(yàn)室的測(cè)試結(jié)果與參照值的比較

若有p個(gè)實(shí)驗(yàn)室，分別在重復(fù)性條件下得到 ni（i=1,2,...,p）個(gè)測(cè)試結(jié)果，每個(gè)實(shí)驗(yàn)室測(cè)試結(jié)果的算術(shù)平均值為，所有實(shí)驗(yàn)室測(cè)試結(jié)果的總平均值為，其算術(shù)平均值為y，與某個(gè)確定的參照值μ0比較,在偏倚的實(shí)驗(yàn)室分量尚未確定的情況下，（-μ0）的標(biāo)準(zhǔn)差為：

2.3.5 報(bào)告比較結(jié)果

測(cè)試結(jié)果的絕對(duì)值符合要求的，可以取平均值，報(bào)出測(cè)試結(jié)果，超過以上條款給出的合理限值，應(yīng)認(rèn)為相應(yīng)的絕對(duì)差可疑，可認(rèn)為用于計(jì)算此絕對(duì)差值的所有測(cè)量結(jié)果可疑，需要做進(jìn)一步審查。

檢查測(cè)試結(jié)果可接受的方法包括：

（1）重復(fù)性條件下所得測(cè)試結(jié)果可接受性的檢查方法；（2）在再現(xiàn)性條件下所得測(cè)試結(jié)果可接受性的檢查方法。

3 結(jié)語

通過用多種方法對(duì)測(cè)試數(shù)據(jù)進(jìn)行處理，可以在日常分析及實(shí)驗(yàn)室比對(duì)中，正確處理、評(píng)估測(cè)試數(shù)據(jù)，及時(shí)發(fā)現(xiàn)數(shù)據(jù)中存在的偏倚情況，有效的提供科學(xué)測(cè)試數(shù)據(jù)。

[1]GB/T 8170—2008 數(shù)值修約規(guī)則與極限數(shù)值的表示和判定

[2]CB/T 483—2007 煤炭分析試驗(yàn)方法一般規(guī)定

[3]GB/T 214—2007 煤中全硫的測(cè)定方法

[4]中國計(jì)量測(cè)試學(xué)會(huì). 二級(jí)注冊(cè)計(jì)量師基礎(chǔ)知識(shí)及專業(yè)實(shí)務(wù)[M]. 北京：中國計(jì)量出版社，2009.

[5]GB/T 6379.6—2009 測(cè)量方法與結(jié)果的準(zhǔn)確度(正確度與精密度) 第6部分：準(zhǔn)確度值的實(shí)際應(yīng)用

Discussion on Data Processing and Rounding off Method during the Inspection

Cui Shuling ( Hulunbeier Product Quality Measurement Institute )

This paper discusses data processing methods and application scope, how to optimize data processing and obtain valid data.

data processing, application scope, effective