有效數(shù)字在環(huán)境監(jiān)測(cè)中的應(yīng)用

韋業(yè)（北海市環(huán)境監(jiān)測(cè)中心站，廣西北海 536000）

?

有效數(shù)字在環(huán)境監(jiān)測(cè)中的應(yīng)用

韋業(yè)
（北海市環(huán)境監(jiān)測(cè)中心站，廣西北海 536000）

對(duì)實(shí)驗(yàn)中常用的玻璃量具如單標(biāo)線吸管、容量瓶、比色管、刻度吸管等進(jìn)行分析，確定了直讀式數(shù)據(jù)的讀數(shù)規(guī)則及有效位數(shù)。如10 mL單標(biāo)線吸管有效數(shù)字位數(shù)為5位，而10 mL刻度吸管隨移取溶液體積不同其有效數(shù)字位數(shù)可能為2，3或4位。分析了環(huán)境監(jiān)測(cè)中間接式數(shù)據(jù)的來(lái)源，如標(biāo)準(zhǔn)溶液的濃度、標(biāo)準(zhǔn)曲線的截距、斜率、樣品最終濃度等，這些數(shù)據(jù)應(yīng)當(dāng)遵守一定的修約及運(yùn)算規(guī)則，由此確定了間接式數(shù)據(jù)應(yīng)當(dāng)保留合理的有效位數(shù)。研究結(jié)果可以為環(huán)境監(jiān)測(cè)人員開展實(shí)驗(yàn)及數(shù)據(jù)處理提供依據(jù)。

環(huán)境監(jiān)測(cè)；數(shù)值修約；有效數(shù)字

環(huán)境監(jiān)測(cè)數(shù)據(jù)要求具有代表性、準(zhǔn)確性、精密性、可比性、完整性，數(shù)據(jù)處理是環(huán)境監(jiān)測(cè)中一個(gè)重要的環(huán)節(jié)，如果處理不當(dāng)將會(huì)導(dǎo)致監(jiān)測(cè)結(jié)果不嚴(yán)謹(jǐn)。環(huán)境監(jiān)測(cè)所產(chǎn)生的數(shù)據(jù)大致可以分為兩種：一種是直讀式數(shù)據(jù)，比如滴定管滴定的體積、溶液取用量、藥品質(zhì)量等；另一種是間接數(shù)據(jù)，這種數(shù)據(jù)是通過(guò)一定公式計(jì)算得到的，比如工作曲線的截距、斜率、相關(guān)系數(shù)、樣品的最終濃度等。這兩種數(shù)據(jù)，無(wú)論哪一種都不能隨意保留小數(shù)點(diǎn)位數(shù)，這就涉及到有效數(shù)字。在實(shí)際工作中，發(fā)現(xiàn)監(jiān)測(cè)人員對(duì)檢測(cè)數(shù)據(jù)保留多少位小數(shù)點(diǎn)把握不準(zhǔn)。其實(shí)所謂有效數(shù)字，可以理解為在測(cè)量過(guò)程中，能夠反映測(cè)量準(zhǔn)確的數(shù)字和一位估讀的數(shù)字［1-4］，跟計(jì)量器具的精密度和準(zhǔn)確度有直接關(guān)系［5］。比如10 mL的刻度吸管，其最小分度值是0.1 mL，因此實(shí)際讀數(shù)時(shí)應(yīng)保留到小數(shù)點(diǎn)后2位，如9.00 mL，10.00 mL，8.56 mL等，最后一位“0”，“0”，“6”都是估讀的。而計(jì)算所得的數(shù)字是以直讀數(shù)字為基礎(chǔ)，按照有效數(shù)字的修約規(guī)則進(jìn)行修約、運(yùn)算所得。由此可見不能通過(guò)保留無(wú)數(shù)位小數(shù)來(lái)提高檢測(cè)精度，但至今還未見到系統(tǒng)性整理環(huán)境監(jiān)測(cè)中數(shù)據(jù)有效性的文獻(xiàn)報(bào)道。為此筆者對(duì)環(huán)境監(jiān)測(cè)中的有效數(shù)字問(wèn)題進(jìn)行探討。

1　直讀數(shù)字

環(huán)境監(jiān)測(cè)過(guò)程所用的計(jì)量器具是產(chǎn)生直讀數(shù)字的直接依據(jù)，因此分析人員應(yīng)當(dāng)先弄清楚該量具的最小分度值或者能夠測(cè)量的精準(zhǔn)數(shù)字，由此來(lái)確定實(shí)驗(yàn)過(guò)程應(yīng)當(dāng)記錄的小數(shù)點(diǎn)位數(shù)。單標(biāo)線量具只有一條刻度線，根據(jù)該量具允差來(lái)保留有效位數(shù)，最后一個(gè)“0”當(dāng)做估讀位。

1.1單標(biāo)線吸管

單標(biāo)線吸管是環(huán)境監(jiān)測(cè)中經(jīng)常用到的玻璃量具之一，根據(jù)允差分為A級(jí)和B級(jí)［6］，A級(jí)嚴(yán)于B級(jí)，此類量具只有一條刻度線，當(dāng)液體彎月面與刻度線水平相切即達(dá)到定量要求，但是此時(shí)讀數(shù)保留幾位小數(shù)點(diǎn)，往往不容易把握，其遵守的原則是讀數(shù)的小數(shù)點(diǎn)位數(shù)應(yīng)當(dāng)與該量具的允差小數(shù)點(diǎn)位數(shù)相同，表1列出了常見單標(biāo)線吸管的讀數(shù)及有效位數(shù)。

表1　單標(biāo)線吸管讀數(shù)及有效位數(shù)

由表1中可以看出，A級(jí)允差是B級(jí)的一半，所以A級(jí)管準(zhǔn)確度較高，但是兩者讀數(shù)的有效位數(shù)相同，因此精確度要求比較高的應(yīng)盡量選用A級(jí)管。

1.2比色管

比色管是環(huán)境監(jiān)測(cè)中分光光度法經(jīng)常用到的玻璃量具，具有便于定容、便于清洗等優(yōu)勢(shì)。比色管的精度比單標(biāo)線吸管的精度低，其讀數(shù)保留小數(shù)點(diǎn)位數(shù)應(yīng)當(dāng)與允差小數(shù)點(diǎn)位數(shù)相同。表2列出了比色管讀數(shù)及有效位數(shù)。

表2　比色管讀數(shù)及有效位數(shù)

由表2可以看出，比色管允差［7］較單標(biāo)線吸管大很多，以50 mL為例，比色管允差為±0.40，而50 mL單標(biāo)線吸管（A級(jí)）允差為±0.050，前者是后者的8倍，前者有效數(shù)字4位，而后者為5位，因此比色管是比較粗略的定容量具。

1.3容量瓶

容量瓶在實(shí)驗(yàn)過(guò)程中似乎不參與直接讀數(shù)，實(shí)驗(yàn)人員往往認(rèn)為定容到“刻度線”就可以了，但是它直接牽涉到配制溶液濃度的有效數(shù)字（該保留幾位小數(shù)點(diǎn)）。表3列出了容量瓶讀數(shù)及有效位數(shù)。

表3　容量瓶讀數(shù)及有效位數(shù)

由表3可以看出，容量瓶與單標(biāo)線吸管類似，分為A級(jí)、B級(jí)，且允差與單標(biāo)線吸管幾乎一樣，A級(jí)允差是B級(jí)的一半，所以A級(jí)準(zhǔn)確度較高，但是兩者讀數(shù)的有效位數(shù)相同，讀數(shù)保留有效位數(shù)的規(guī)則為與允差小數(shù)點(diǎn)位數(shù)平齊［8］。容量瓶的標(biāo)稱容量越大有效位數(shù)越多。定容溶液體積越大準(zhǔn)確度越高，如定容5 mL和定容2 000 mL時(shí)，5 mL溶液稍損失一點(diǎn)就會(huì)導(dǎo)致很大的誤差，因此前者的有效位數(shù)只有3位，后者為7位。

1.4帶刻度的量具

帶刻度的量具包括刻度吸管、滴定管、量筒、量杯等，其讀數(shù)很簡(jiǎn)單，主要是弄清其最小刻度值是多少，讀數(shù)時(shí)讀到最小刻度值的下一位（估讀位）即可。但需要注意，有些量具刻度線不是十等分，其最小刻度值不是1，0.1，0.01，0.001，……，而是5，2，0.2，0.002，……，對(duì)這類量具讀數(shù)需要注意。

1.4.1最小分度值為1的10n倍數(shù)的量具

環(huán)境監(jiān)測(cè)實(shí)驗(yàn)中經(jīng)常用到最小分度值為1的10n（n=1，2，3，……）的刻度吸管，此類量具有效位數(shù)與量具的最小分度值和分析取用量有關(guān)，例如用最小分度值為0.1 mL的10 mL刻度吸管取用0.5 mL溶液讀數(shù)，應(yīng)當(dāng)為0.50 mL（2位有效數(shù)字）；取用1 mL溶液讀數(shù)應(yīng)當(dāng)為1.00 mL（3位有效數(shù)）；取用10 mL溶液，讀數(shù)應(yīng)當(dāng)為10.00 mL（4位有效數(shù)）。因此當(dāng)實(shí)驗(yàn)要求精度很高時(shí)，不能拿大容量移液管取小體積樣品，表4列出了最小分度值為1的10n讀數(shù)及有效位數(shù)。

表4　最小分度值為1的10n讀數(shù)及有效位數(shù)

從表4中可以看出，最小分度值為1的10n倍數(shù)的量具，其讀數(shù)比最小分度值多一位即可。

1.4.2最小分度值不是1的10n倍數(shù)的量具

環(huán)境監(jiān)測(cè)實(shí)驗(yàn)中有些玻璃量具最小分度值不是1的10n（n=1，2，3，……），而是0.002，0.005，0.05等，此類量具讀數(shù)需要斟酌。當(dāng)溶液的彎月面在兩條刻度線之間，此時(shí)最后一位數(shù)的估讀值應(yīng)當(dāng)是兩條刻度線數(shù)值之間的一個(gè)數(shù)。如0.1 mL刻度吸管，最小分度值為0.005 mL，第3條刻度線為0.015 mL，第4條刻度線為0.020 mL，溶液彎月面恰好在第3條和第4條刻度線之間，讀數(shù)不可能是0.015Χ mL，而是0.01X mL，因?yàn)?.015到0.020，只有小數(shù)點(diǎn)后2位是準(zhǔn)確的，第3位是估讀值。表5列出了最小分度值不是1的10n讀數(shù)及有效位數(shù)。

表5　最小分度值不是1的10n讀數(shù)及有效位數(shù)

由表5可以看出，對(duì)最小分度值不是1的10n倍數(shù)的量具其讀數(shù)有兩種情況，當(dāng)彎月面在兩條刻度線之間時(shí)，其保留的小數(shù)點(diǎn)與最小分度值一致；如果彎月面剛好在某一刻度線，此時(shí)刻度線相當(dāng)于一個(gè)“標(biāo)桿”可以多保留一位，但估讀的這一位必定是“0”。

2　間接數(shù)字

環(huán)境監(jiān)測(cè)中間接數(shù)字很多，比如配制溶液的濃度，工作曲線的截距、斜率、相關(guān)系數(shù)，樣品的濃度等。間接數(shù)字應(yīng)當(dāng)如何確定？首先要遵守修約規(guī)則［9］，其次按照有效數(shù)字的運(yùn)算規(guī)則進(jìn)行計(jì)算得出［10-11］。

修約規(guī)則可總結(jié)為“四舍六入五成雙，五后非0則進(jìn)1，五后為0視奇偶，五前為奇則進(jìn)1，五前為偶則舍去”。常涉及到的運(yùn)算有加、減、乘、除運(yùn)算等。加、減法運(yùn)算時(shí)先將參與運(yùn)算的數(shù)值按照修約規(guī)則修約到與小數(shù)點(diǎn)位數(shù)最少者相同后再計(jì)算。乘、除運(yùn)算時(shí)，同樣是先將運(yùn)算的數(shù)值照修約規(guī)則修約到與有效數(shù)字位數(shù)最少者相同后再計(jì)算，得數(shù)的有效數(shù)字與之相同。

2.1溶液的濃度

2.1.1配制溶液的濃度

溶液濃度的有效位數(shù)應(yīng)當(dāng)根據(jù)配制溶液所用的量具來(lái)確定。如用普通天平和萬(wàn)分之一電子天平稱量藥品，用量筒和容量瓶確定溶液體積，其精確度不同，有效數(shù)字也不同。

用普通電子天平稱量2 g藥品，該電子天平精度為0.1 g，讀數(shù)應(yīng)該為2.0 g，用100 mL量筒量（100 mL量筒，最小分度值1 mL）取100 mL純水來(lái)溶解，其讀數(shù)應(yīng)為100.0 mL，該藥品的質(zhì)量濃度應(yīng)該為2.0/100.0=0.020 （g/mL），2位有效數(shù)字。如改用萬(wàn)分之一電子天平稱量（精度0.1 mg），讀數(shù)應(yīng)該為2.0000 g，改用100 mL容量瓶來(lái)定容，其讀數(shù)應(yīng)該為100.000 mL，該藥品的質(zhì)量濃度應(yīng)為2.000 0/ 100.000=0.020 000 （g/mL），5位有效數(shù)字，較普通電子天平多出3位有效數(shù)字。

2.1.2由標(biāo)準(zhǔn)溶液配制的溶液

標(biāo)準(zhǔn)溶液符合國(guó)家技術(shù)規(guī)范，且經(jīng)過(guò)多家實(shí)驗(yàn)室驗(yàn)證，溶液的標(biāo)稱濃度在運(yùn)算時(shí)可以看作有效數(shù)字最多者。如標(biāo)稱濃度為500 mg/L的標(biāo)準(zhǔn)溶液，用1 mL單標(biāo)吸管移取1 mL（讀數(shù)應(yīng)為1.000 mL）于100 mL容量瓶中，用純水定容至標(biāo)線（讀數(shù)應(yīng)為100.000 mL），所得溶液的質(zhì)量濃度應(yīng)為500.0×（1.000 /100.000）=5.000 （mg/L），4位有效數(shù)字。

例如氨氮標(biāo)準(zhǔn)使用液的濃度1.000 mg/L，用比色管配制氨氮標(biāo)準(zhǔn)曲線系列，移取標(biāo)準(zhǔn)溶液全部使用單標(biāo)線吸管，其讀數(shù)及對(duì)應(yīng)的濃度見表6。

如果移取溶液改用10 mL刻度吸管，其它條件不變，其讀數(shù)有所變化，因最小刻度為0.1 mL，保留一位估讀小數(shù)，只能讀到小數(shù)點(diǎn)后2位，在其它條件不變的情況下，其讀數(shù)及對(duì)應(yīng)的濃度見表7。

由表7可見，標(biāo)準(zhǔn)曲線系列濃度值的有效數(shù)字與所用的量具有直接關(guān)系，以刻度吸管繪制的標(biāo)準(zhǔn)曲線有效數(shù)字只有3位，而以單標(biāo)線移液管繪制的標(biāo)準(zhǔn)曲線則為4位。

表6　繪制標(biāo)準(zhǔn)曲線單標(biāo)線移液管的讀數(shù)及有效位數(shù)

2.2標(biāo)準(zhǔn)曲線的截距、斜率及相關(guān)系數(shù)

標(biāo)準(zhǔn)曲線截距的最后一位與因變量的最后一位取齊，斜率的有效位數(shù)應(yīng)與自變量的有效位數(shù)相同，相關(guān)系數(shù)只舍不入，保留到小數(shù)點(diǎn)后第一個(gè)非9數(shù)字，如果小數(shù)點(diǎn)后多于4個(gè)9，最多保留4位［12］。需要要注意，截距保留多少位小數(shù)點(diǎn)，不是根據(jù)有效數(shù)字來(lái)定，而是根據(jù)因變量的小數(shù)點(diǎn)位數(shù)來(lái)確定。如果因變量小數(shù)點(diǎn)后有3位數(shù)，那么截距也保留3位即可，這樣以便計(jì)算未知樣品含量時(shí)，截距參與加減法運(yùn)算。斜率的有效位數(shù)不是根據(jù)小數(shù)點(diǎn)位數(shù)來(lái)確定，而是根據(jù)因變量有效位數(shù)來(lái)確定，如前面舉例配制的標(biāo)準(zhǔn)溶液系列，對(duì)應(yīng)的斜率保留的有效數(shù)字分別是4位和3位。

表8　以單標(biāo)線吸管繪制的標(biāo)準(zhǔn)曲線

以前面配制的標(biāo)準(zhǔn)系列為例，以濃度-吸光度計(jì)算標(biāo)準(zhǔn)曲線得：

截距a=0.000 （保留小數(shù)點(diǎn)后3位，因因變量吸光度值小數(shù)點(diǎn)后只有3位）；

斜率b=0.639 0（表示為6.390×10-1，4位有效數(shù)字，因自變量濃度值有效數(shù)字為4位）；

相關(guān)系數(shù)r=0.999（只舍不入）。

2.3未知樣品測(cè)定結(jié)果的計(jì)算

未知樣品測(cè)定結(jié)果的計(jì)算也應(yīng)當(dāng)遵守有效數(shù)字修約法則及有效數(shù)字的加、減、乘、除運(yùn)算規(guī)則，不同的響應(yīng)值保留不同的有效位數(shù)。

如某人用4-氨基安替比林分光光度法蒸餾法分析水質(zhì)的揮發(fā)酚，含量（μg）-吸光度繪制標(biāo)準(zhǔn)曲線，得線性方程：Y=0.025 15X+0.002，某3個(gè)未知樣品的吸光度（扣除空白值后）見表9。

表9　未知樣品的濃度計(jì)算及有效位數(shù)

表9中的含量值是由樣品的吸光度根據(jù)標(biāo)準(zhǔn)工作曲線計(jì)算得到的，水樣體積屬于直讀數(shù)值，水樣濃度是由水樣的含量除以水樣的體積，根據(jù)有效數(shù)字運(yùn)算規(guī)則保留不同的有效位數(shù)。

3　結(jié)語(yǔ)

環(huán)境監(jiān)測(cè)數(shù)據(jù)處理是一項(xiàng)十分重要的工作，涉及到有效數(shù)字的修約及運(yùn)算規(guī)則，環(huán)境監(jiān)測(cè)人員如果不能深刻理解有效數(shù)字的含義，很容易造成運(yùn)算結(jié)果錯(cuò)誤。在《最高人民法院、最高人民檢察院關(guān)于辦理環(huán)境污染刑事案件適用法律若干問(wèn)題的解釋》（法釋〔2013〕15號(hào)）出臺(tái)后，環(huán)境監(jiān)測(cè)數(shù)據(jù)將作為證據(jù)呈堂對(duì)質(zhì)，因此其數(shù)據(jù)應(yīng)當(dāng)科學(xué)嚴(yán)謹(jǐn)，不得有絲毫差錯(cuò)。

［1］ 梁玉蘭.有效數(shù)字、數(shù)據(jù)處理在實(shí)驗(yàn)室測(cè)試中的應(yīng)用［J］.中國(guó)棉花加工，2015（6）: 40-41.

［2］ 梁信源，蘭宇衛(wèi)，周立亞.分析化學(xué)基礎(chǔ)課中的有效數(shù)字問(wèn)題［J］.高等函授學(xué)報(bào)：自然科學(xué)版，2010（6）: 44-46.

［3］ 楊賓利.有效數(shù)字新見解在衛(wèi)生理化檢驗(yàn)中的應(yīng)用研究［J］.世界最新醫(yī)學(xué)信息文摘，2015，29: 116-116.

［4］ 段坤杰.有效數(shù)字在工科大學(xué)物理實(shí)驗(yàn)中的應(yīng)用探討［J］.大學(xué)物理實(shí)驗(yàn)，2009，22（3）: 82-84.

［5］ 譚成勇.有效數(shù)字新見解在衛(wèi)生理化檢驗(yàn)中的應(yīng)用淺析［J］.中國(guó)衛(wèi)生產(chǎn)業(yè)，2015，30: 132-134.

［6］ JJG 196-2006 常用玻璃量器檢定規(guī)程［S］.

［7］ JJG 10-2005 專用玻璃量器［S］.

［8］ 封躍鵬，孫自杰，高保國(guó).檢測(cè)結(jié)果的數(shù)值修約和數(shù)據(jù)處理探討［J］.理化檢驗(yàn)：化學(xué)分冊(cè)，2015，11（51）: 1 585-1 589.

［9］ 國(guó)家環(huán)境保護(hù)總局.水和廢水監(jiān)測(cè)分析方法［M］.4版.北京：中國(guó)環(huán)境科學(xué)出版社，2002: 71-73.

［10］ 孫紅貴，樸影，張建華.有效數(shù)字及其運(yùn)算［J］.嘉興學(xué)院學(xué)報(bào)，2005（6）: 31-33.

［11］ 林景星.檢測(cè)數(shù)據(jù)的修約研究與探討［J］.中國(guó)測(cè)試，2011: 26-28.

［12］ HJ 630-2011 環(huán)境保護(hù)部.環(huán)境監(jiān)測(cè)質(zhì)量管理技術(shù)導(dǎo)則［S］.

Application of Significant Digits in Environmental Monitoring

Wei Ye
（Beihai Municipal Environmental Monitoring Center， Beihai 536000， China）

The general reading rule and number of significant digits of direct reading data were concluded on the basis of analysis of glass containers often used in experiments such as singlet burette，volumetric flask，comparison tube，and graduated pipette. For example，there were five significant digits for a 10 mL singlet burette，however，a 10 mL graduated pipette might have two，three or four significant digits depending on how much solution it absorbed. The sources of indirect data in environmental monitoring were also analyzed，such as the concentration of standard solution，the intercept and slope of standard curve，and the final concentration of samples. These data should follow certain rules of rounding off and operation，based on which the reasonable number of significant digits could be determined. The research results can provide reference for environmental monitoring personnel to carry out experiments and data processing.

environmental monitoring； rounding off of numerical values； significant digit

O651

A

1008-6145（2016）04-0090-04

10.3969/j.issn.1008-6145.2016.04.025

聯(lián)系人：韋業(yè)；E-mail: JZ8333781@126.com

2016-04-12