環(huán)境監(jiān)測(cè)數(shù)據(jù)的數(shù)值修約規(guī)則探討

羅 燁

遵義生態(tài)環(huán)境監(jiān)測(cè)中心,貴州 遵義 563000

環(huán)境監(jiān)測(cè)數(shù)據(jù)是客觀評(píng)價(jià)環(huán)境質(zhì)量狀況、反映污染治理成效、實(shí)施環(huán)境管理與決策的基本依據(jù)。環(huán)境監(jiān)測(cè)數(shù)據(jù)質(zhì)量是環(huán)境監(jiān)測(cè)工作的“生命線”。監(jiān)測(cè)活動(dòng)出具的每一個(gè)數(shù)據(jù)都會(huì)涉及數(shù)值修約問題,對(duì)數(shù)據(jù)進(jìn)行科學(xué)合理的數(shù)值修約是保證監(jiān)測(cè)數(shù)據(jù)質(zhì)量的重要手段,因而對(duì)待數(shù)值修約應(yīng)當(dāng)科學(xué)嚴(yán)謹(jǐn)。雖然相關(guān)標(biāo)準(zhǔn)對(duì)某些監(jiān)測(cè)數(shù)據(jù)的修約作了一些規(guī)定,大家也早已將“四舍六入五成雙”的舍入規(guī)則爛熟于心,但在現(xiàn)實(shí)的監(jiān)測(cè)報(bào)告或者科研論文的數(shù)據(jù)記錄過程中,往往會(huì)出現(xiàn)各種各樣的修約問題。比如,某研究測(cè)定的大氣顆粒物PM2.5樣品中的12種全氟化合物的日均總濃度為131.63～578.53 pg/m3[1],某研究統(tǒng)計(jì)的某經(jīng)濟(jì)技術(shù)開發(fā)區(qū)2021年2—4月的VOCs體積濃度為(146±40.1)×10-9[2],某方法在線監(jiān)測(cè)環(huán)境空氣中的甲醛的檢出限為0.045 4×10-9[3],某方法測(cè)定水中雙酚A的檢出限為2.0 ng/L[4],某方法測(cè)定水中30種農(nóng)藥的相對(duì)標(biāo)準(zhǔn)偏差為4.4%～21.2%[5],某檢測(cè)水中低濃度氨氮方法測(cè)定實(shí)際樣品的回收率為102.5%～115.0%[6],某監(jiān)測(cè)報(bào)告記錄的分光光度法測(cè)總氮的校準(zhǔn)曲線為y=0.001 1x+0.03(r=1.000 0)等。上述數(shù)據(jù)均存在不合理的數(shù)值修約問題。筆者認(rèn)為,造成各種監(jiān)測(cè)報(bào)告及科研論文中的數(shù)據(jù)記錄和填報(bào)不規(guī)范的原因主要有兩點(diǎn)：一是分析人員主觀上對(duì)數(shù)值修約不夠重視,很少花時(shí)間和精力學(xué)習(xí)及理解數(shù)值修約規(guī)則;二是現(xiàn)在并沒有專門、完整的標(biāo)準(zhǔn)規(guī)范對(duì)環(huán)境監(jiān)測(cè)所涉及的各種數(shù)據(jù)的數(shù)值修約方式作統(tǒng)一指導(dǎo)?；诖?本文旨在探析數(shù)值修約的內(nèi)涵和原則,并總結(jié)環(huán)境監(jiān)測(cè)工作中常用數(shù)據(jù)的數(shù)值修約規(guī)則。

1 數(shù)值修約的內(nèi)涵

數(shù)值修約是指通過省略原數(shù)值的最后若干位數(shù)字,調(diào)整所保留的末位數(shù)字,使最后得到的值最接近原數(shù)值的過程[7]。筆者認(rèn)為,數(shù)值修約其實(shí)包含了兩方面的內(nèi)容：一是修,是保留幾位的問題;二是約,是如何舍入的問題。

1.1 保留幾位

數(shù)據(jù)處理過程面臨的首要問題往往是數(shù)值到底應(yīng)該保留幾位數(shù)字。如果一個(gè)數(shù)值只是參與中間計(jì)算過程而不需要記錄,那就不需要對(duì)其進(jìn)行修約。一般的測(cè)定結(jié)果(尤其是儀器分析的測(cè)定數(shù)據(jù))往往位數(shù)較多,如果需要對(duì)該數(shù)值進(jìn)行記錄或者填報(bào),那就必須要考慮如何確定數(shù)值有效位數(shù)的問題。

1.2 如何舍入

談到數(shù)值的舍入規(guī)則,一般大家都只知道“四舍六入五成雙”,但在實(shí)際的監(jiān)測(cè)數(shù)據(jù)記錄、計(jì)算和填報(bào)工作中,并不是所有數(shù)值都是采取“四舍六入五成雙”的方式,比如校準(zhǔn)曲線的相關(guān)系數(shù)采用的是“只舍不入”,而分析方法檢出限采用的是“只入不舍”。因而針對(duì)不同類型的數(shù)據(jù),不可一概而論。

2 數(shù)值修約的原則

通常,對(duì)數(shù)值的修約要使得最后得到的值最接近原數(shù)值,也就是說要以準(zhǔn)確性原則為準(zhǔn)。但是在實(shí)際工作中,還會(huì)遇到大量的質(zhì)控性數(shù)據(jù),如相關(guān)系數(shù)、分析方法檢出限、相對(duì)偏差、相對(duì)標(biāo)準(zhǔn)偏差、相對(duì)誤差、不確定度等。一般對(duì)于這類數(shù)據(jù),并不是一定要求其測(cè)得多么準(zhǔn)確,而是要采取合適的修約方式,以不降低數(shù)據(jù)的置信度為準(zhǔn)。從某種意義上來說,就是要保證數(shù)據(jù)在最不利情況下的可靠性。鑒于上述分析,筆者總結(jié)了數(shù)值修約的兩條基本原則：一是準(zhǔn)確性原則,二是保守性原則。

2.1 準(zhǔn)確性原則

準(zhǔn)確性是監(jiān)測(cè)數(shù)據(jù)的“五性”之一,也是數(shù)值修約的第一原則。監(jiān)測(cè)數(shù)據(jù)的修約不能影響到最終測(cè)定結(jié)果的準(zhǔn)確性。

數(shù)值的舍入規(guī)則對(duì)于保證數(shù)據(jù)的準(zhǔn)確性非常重要?！八纳嵛迦搿笔俏覀冞^去熟知的舍入規(guī)則,而現(xiàn)在大家更加認(rèn)可的是“四舍六入五成雙”[7],尤其是在需要對(duì)大量數(shù)據(jù)進(jìn)行統(tǒng)計(jì)處理時(shí),相比于“四舍五入”,“四舍六入五成雙”不會(huì)造成正誤差的累積,進(jìn)而避免了系統(tǒng)誤差的產(chǎn)生[8]?！八纳崃胛宄呻p”的舍入規(guī)則目前已被包括環(huán)境監(jiān)測(cè)行業(yè)在內(nèi)的各行各業(yè)采用。因?yàn)樵撋崛胍?guī)則已為大家所熟知和掌握,所以本文不再贅述。

一般來講,數(shù)值的有效位數(shù)越多,數(shù)值就越準(zhǔn)確。但是從科學(xué)嚴(yán)謹(jǐn)?shù)慕嵌葋砜?也要考慮構(gòu)成數(shù)值的每個(gè)數(shù)字是否真的有意義。在現(xiàn)實(shí)的樣品監(jiān)測(cè)報(bào)告或者科研論文中,經(jīng)常會(huì)發(fā)現(xiàn)很多指標(biāo)的測(cè)定結(jié)果保留了4位以上的有效數(shù)字,但其實(shí)很多都是不嚴(yán)謹(jǐn)?shù)?。例?在對(duì)水體或者土壤中的污染物含量進(jìn)行分析時(shí),即使一個(gè)分析方法的準(zhǔn)確度很高,在采樣、運(yùn)輸、保存或者分析過程中都會(huì)引入一定的誤差,造成測(cè)定結(jié)果的不確定性。如果一個(gè)樣品的測(cè)定結(jié)果的相對(duì)不確定度是1%,那么就可以認(rèn)為這個(gè)分析結(jié)果是相對(duì)準(zhǔn)確的。在測(cè)定結(jié)果的相對(duì)不確定度為1%的情況下,測(cè)定結(jié)果一般最多保留3位有效數(shù)字,這其實(shí)已經(jīng)考慮到了第3位數(shù)字的可疑性。如果測(cè)定結(jié)果保留4位以上有效數(shù)字,那么就要保證分析結(jié)果的相對(duì)不確定度低于0.1%才有意義。另外,檢出限的修約也是一個(gè)容易被忽視的問題。很多科研論文甚至很多現(xiàn)行標(biāo)準(zhǔn)中的方法檢出限保留了2位以上的有效數(shù)字。我們都知道,一個(gè)在檢出限附近的值是測(cè)不準(zhǔn)的,其實(shí)檢出限本身也是不準(zhǔn)確的。檢出限保留太多位的有效數(shù)字不僅不能使監(jiān)測(cè)結(jié)果更加準(zhǔn)確,甚至還會(huì)給實(shí)際的分析工作帶來一些困擾。

一些特殊的中間計(jì)算參數(shù),如校準(zhǔn)曲線的斜率、平均相對(duì)響應(yīng)因子等,其數(shù)值的有效位數(shù)會(huì)對(duì)最終測(cè)定結(jié)果的準(zhǔn)確性產(chǎn)生影響,因?yàn)檫@類數(shù)值的有效位數(shù)可能會(huì)決定最終測(cè)定結(jié)果的有效位數(shù)。一般環(huán)境監(jiān)測(cè)指標(biāo)的測(cè)定結(jié)果要求最多保留3位有效數(shù)字,因此,這些中間計(jì)算參數(shù)的有效數(shù)字不能少于3位,多取1位有效數(shù)字(保留4位)較為合適。以斜率b為例,其對(duì)測(cè)定結(jié)果的影響很大?，F(xiàn)有校準(zhǔn)曲線y=0.010 43x+0.001,測(cè)得某樣品的吸光度值為0.401,則應(yīng)算得樣品濃度x=38.4 mg/L。但如果取y=0.010x+0.001,則算得x=40 mg/L。過度修約導(dǎo)致最終的計(jì)算結(jié)果增加了4.2%的誤差,而這本來是完全可以避免的,卻因?yàn)椴缓侠淼男藜s導(dǎo)致最終結(jié)果出現(xiàn)偏離。

2.2 保守性原則

為了使監(jiān)測(cè)獲得的數(shù)據(jù)具有更高的置信度,對(duì)于某些能體現(xiàn)分析方法穩(wěn)定性或監(jiān)測(cè)人員技術(shù)水平的質(zhì)控性數(shù)據(jù),如校準(zhǔn)曲線相關(guān)系數(shù)、分析方法檢出限、相對(duì)偏差、相對(duì)標(biāo)準(zhǔn)偏差、相對(duì)誤差、不確定度等,應(yīng)采取保守性原則進(jìn)行修約。這種保守性是指站在監(jiān)測(cè)人員的角度對(duì)數(shù)據(jù)進(jìn)行審視時(shí),應(yīng)對(duì)測(cè)得的數(shù)據(jù)保持足夠的懷疑,從而在數(shù)值修約時(shí)通過合適的舍入方式使數(shù)據(jù)更加可信。

例如,參照《環(huán)境監(jiān)測(cè)分析方法標(biāo)準(zhǔn)制訂技術(shù)導(dǎo)則》(HJ 168—2020)附錄A對(duì)某分析方法進(jìn)行方法驗(yàn)證,在測(cè)定方法檢出限時(shí)采用的公式為MDL=t(n-1,0.99)×S[9],則可以理解為計(jì)算出來的檢出限的置信度為99%。在對(duì)計(jì)算出來的檢出限進(jìn)行修約時(shí),并沒有采用“四舍六入五成雙”的舍入方式,而是采用“只入不舍”的修約方式[9]。這其實(shí)就是保守性原則的體現(xiàn),通過這樣的舍入方式保證最后得到的檢出限的置信度不低于99%。又如,某個(gè)指標(biāo)分析方法的檢出限計(jì)算結(jié)果為0.012 34 mg/L,按照“四舍六入五成雙”的修約方式修約得到方法檢出限為0.01 mg/L。如果樣品的測(cè)得結(jié)果剛好為0.01 mg/L,那么事實(shí)上其檢出限的置信度是小于99%的。如果按照“只入不舍”的修約方式修約得到的檢出限為0.02 mg/L,則當(dāng)樣品測(cè)得結(jié)果為0.02 mg/L時(shí),就可以保證其檢出限的置信度不低于99%。因此,檢出限修約采用“只入不舍”的方式其實(shí)就是保守性原則的體現(xiàn),這種方式相比于“四舍六入五成雙”更加科學(xué)合理。

同理,相對(duì)偏差、相對(duì)標(biāo)準(zhǔn)偏差、相對(duì)誤差和不確定度等數(shù)據(jù)也應(yīng)該采取“只入不舍”的修約方式,而校準(zhǔn)曲線的相關(guān)系數(shù)則應(yīng)采用“只舍不入”的修約方式。

3 常用數(shù)據(jù)的數(shù)值修約規(guī)則

環(huán)境監(jiān)測(cè)及科研工作涉及多種數(shù)據(jù)的數(shù)值修約,目前使用的數(shù)值修約標(biāo)準(zhǔn)主要是《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》(GB/T 8170—2008)。該標(biāo)準(zhǔn)規(guī)定了各種測(cè)定結(jié)果的修約規(guī)則,但并不適用于所有類型數(shù)據(jù)。在實(shí)際工作中還會(huì)遇到各種質(zhì)控性數(shù)據(jù),這類數(shù)據(jù)的修約規(guī)定只是零散地分布在一些環(huán)境監(jiān)測(cè)標(biāo)準(zhǔn)中,如HJ 168—2020、《生活飲用水標(biāo)準(zhǔn)檢驗(yàn)方法 水質(zhì)分析質(zhì)量控制》(GB/T 5750.3—2006,第二次修訂版已于2023年3月17日發(fā)布)等。截至目前,并沒有專門、完整的標(biāo)準(zhǔn)規(guī)范對(duì)環(huán)境監(jiān)測(cè)涉及的各種數(shù)據(jù)的數(shù)值修約方式作統(tǒng)一規(guī)定。

筆者秉持準(zhǔn)確性原則和保守性原則,分別從數(shù)值修約的兩個(gè)方面,即保留幾位和如何舍入,來探討各種數(shù)據(jù)的數(shù)值修約規(guī)則,并總結(jié)了環(huán)境監(jiān)測(cè)常用數(shù)據(jù)的數(shù)值修約規(guī)則(見表1)。

表1 環(huán)境監(jiān)測(cè)常用數(shù)據(jù)的數(shù)值修約規(guī)則

3.1 校準(zhǔn)曲線相關(guān)數(shù)據(jù)

對(duì)于校準(zhǔn)曲線的相關(guān)系數(shù)r、截距a和斜率b的數(shù)值保留位數(shù)問題,GB/T 5750.3—2006[10]中已有相應(yīng)的規(guī)定。另外,有很多環(huán)境監(jiān)測(cè)標(biāo)準(zhǔn)方法利用的是平均相對(duì)響應(yīng)因子來計(jì)算測(cè)定結(jié)果。與斜率b一樣,平均相對(duì)響應(yīng)因子的有效位數(shù)會(huì)直接影響測(cè)定結(jié)果的有效位數(shù),因此,平均相對(duì)響應(yīng)因子的有效數(shù)字也不能少于3位,多取1位有效數(shù)字(保留4位)較為合適。

截距a和斜率b對(duì)于最終測(cè)定結(jié)果的準(zhǔn)確性有直接影響,因而其末位數(shù)字的修約均應(yīng)采用“四舍六入五成雙”的舍入方式。相關(guān)系數(shù)r則應(yīng)采用“只舍不入”的修約方式。

3.2 檢出限

HJ 168—2020附錄A規(guī)定,檢出限一般保留1位有效數(shù)字,且只入不舍,必要時(shí)采用科學(xué)記數(shù)法進(jìn)行表達(dá)。前文已經(jīng)分析了檢出限修約規(guī)則的確定原理,因而此處不再贅述。

3.3 重復(fù)性限和再現(xiàn)性限

HJ 168—2020附錄A規(guī)定：“重復(fù)性限r(nóng)和再現(xiàn)性限R小數(shù)位數(shù)應(yīng)與檢出限保持一致,但一般不超過2位有效數(shù)字?！绷硗?對(duì)于重復(fù)性限和再現(xiàn)性限末位數(shù)字的修約,也應(yīng)參照檢出限以“只入不舍”的方式來處理。

3.4 測(cè)定結(jié)果和平均值

一般環(huán)境監(jiān)測(cè)指標(biāo)的測(cè)定結(jié)果要求數(shù)值最后一位和檢出限取齊,且最多保留3位有效數(shù)字。特殊指標(biāo)如pH、質(zhì)量等與儀器精度有關(guān)。另外,物理性指標(biāo)及生物性指標(biāo)等有特殊規(guī)定的除外。為了保證測(cè)定結(jié)果的準(zhǔn)確性,應(yīng)采用“四舍六入五成雙”的舍入方式對(duì)測(cè)定結(jié)果的末位數(shù)字進(jìn)行修約處理。

平均值用于預(yù)測(cè)測(cè)定結(jié)果的期望值,其末位數(shù)字應(yīng)與測(cè)定結(jié)果取齊。另外,應(yīng)以準(zhǔn)確性原則對(duì)平均值進(jìn)行修約,即對(duì)平均值末位數(shù)字的修約應(yīng)采用“四舍六入五成雙”的舍入方式。

3.5 標(biāo)準(zhǔn)偏差

HJ 168—2020附錄A規(guī)定,標(biāo)準(zhǔn)偏差一般保留2位有效數(shù)字。但筆者認(rèn)為,更為嚴(yán)謹(jǐn)?shù)谋硎鰬?yīng)該是：標(biāo)準(zhǔn)偏差的末位數(shù)字與測(cè)定結(jié)果取齊,且最多保留2位有效數(shù)字。

標(biāo)準(zhǔn)偏差是表征測(cè)定結(jié)果分散程度的一種度量,可以認(rèn)為是在一定置信水平下的置信區(qū)間的半寬度。筆者認(rèn)為,應(yīng)以保守性原則對(duì)標(biāo)準(zhǔn)偏差數(shù)值進(jìn)行“只入不舍”的修約處理,因?yàn)檫m當(dāng)擴(kuò)大置信區(qū)間可以提高測(cè)定結(jié)果的置信水平。如果采用“四舍六入五成雙”的修約方式,在某些情況下會(huì)造成測(cè)定結(jié)果的置信度降低。例如,某樣品測(cè)定結(jié)果平均值為1.25 mg/L,計(jì)算出的標(biāo)準(zhǔn)偏差為0.012 3 mg/L,那么測(cè)定結(jié)果區(qū)間1.25 mg/L±0.012 3 mg/L有一定概率(68.25%)覆蓋了結(jié)果真值。由于標(biāo)準(zhǔn)偏差需要修約至末位與平均值取齊,如果按照“四舍六入五成雙”的修約方式將結(jié)果修約為1.25 mg/L±0.01 mg/L,那么其覆蓋真值的概率肯定低于68.25%。因而只能采用“只入不舍”修約方式將標(biāo)準(zhǔn)偏差修約為0.02 mg/L,這樣就可使得測(cè)定結(jié)果(1.25 mg/L±0.02 mg/L)覆蓋真值的概率不低于68.25%。

3.6 相對(duì)標(biāo)準(zhǔn)偏差

HJ 168—2020附錄A規(guī)定,相對(duì)標(biāo)準(zhǔn)偏差一般保留2位有效數(shù)字。相對(duì)標(biāo)準(zhǔn)偏差用于表征測(cè)定結(jié)果的精密度,保留2位有效數(shù)字已足夠用于判斷測(cè)定結(jié)果的精密性。類似于標(biāo)準(zhǔn)偏差,相對(duì)標(biāo)準(zhǔn)偏差修約也應(yīng)該采取“只入不舍”的方式。

3.7 相對(duì)誤差和加標(biāo)回收率

HJ 168—2020附錄A規(guī)定：“相對(duì)誤差一般保留2位有效數(shù)字,加標(biāo)回收率保留3位有效數(shù)字?！?/p>

相對(duì)誤差和加標(biāo)回收率都是表征測(cè)定結(jié)果正確度的參數(shù),同時(shí)也是體現(xiàn)分析方法穩(wěn)定性或監(jiān)測(cè)人員技術(shù)水平的質(zhì)控性數(shù)據(jù)。筆者認(rèn)為,應(yīng)該采取保守性的原則來對(duì)這兩種數(shù)據(jù)進(jìn)行修約處理。相對(duì)誤差參照相對(duì)標(biāo)準(zhǔn)偏差采用“只入不舍”的方式修約。對(duì)于加標(biāo)回收率,為了保證數(shù)據(jù)的可靠性,從保守性角度分析：如果加標(biāo)回收率超過100%,應(yīng)采用“只入不舍”的修約方式;如果低于100%,則應(yīng)采用“只舍不入”的修約方式。

3.8 標(biāo)準(zhǔn)不確定度和擴(kuò)展不確定度

標(biāo)準(zhǔn)不確定度u即標(biāo)準(zhǔn)偏差,其修約方式同標(biāo)準(zhǔn)偏差。

擴(kuò)展不確定度U=ku,一般k取2或3(置信水平分別為95%和99%)?！稖y(cè)量不確定度的要求》(CNAS-CL01-G003—2021)規(guī)定,擴(kuò)展不確定度的數(shù)值不應(yīng)該超過2位有效數(shù)字,且最終測(cè)定結(jié)果的末位數(shù)字應(yīng)與擴(kuò)展不確定度的末位數(shù)字對(duì)齊[11]。與標(biāo)準(zhǔn)偏差一樣,擴(kuò)展不確定度末位數(shù)字修約也應(yīng)該采取“只入不舍”的方式。

3.9 相對(duì)不確定度與合成相對(duì)不確定度

相對(duì)不確定度與合成相對(duì)不確定度參考相對(duì)標(biāo)準(zhǔn)偏差的修約方式,一般保留2位有效數(shù)字,且末位數(shù)字采取“只入不舍”的方式修約。

4 結(jié)語

一份科學(xué)嚴(yán)謹(jǐn)?shù)谋O(jiān)測(cè)報(bào)告或者科研論文不僅要保證每個(gè)數(shù)據(jù)經(jīng)得起推敲,而且要保證構(gòu)成數(shù)據(jù)的每個(gè)數(shù)字都有意義。在監(jiān)測(cè)數(shù)據(jù)的記錄、計(jì)算和填報(bào)過程中,會(huì)遇到不同類型的數(shù)據(jù),需要采取不同的數(shù)值修約方式來處理數(shù)據(jù)。把握好準(zhǔn)確性和保守性兩條原則,才能對(duì)數(shù)據(jù)做出科學(xué)合理的修約處理。