有效數(shù)字修約運(yùn)算疑難點(diǎn)的探討

孔祥威，金愛蝶，徐蕾蕾，章美琪

（1.浙江工貿(mào)職業(yè)技術(shù)學(xué)院，浙江 溫州 325003；2.溫州佳合標(biāo)準(zhǔn)化信息技術(shù)事務(wù)所，浙江 溫州 325200）

在教學(xué)研究中，會(huì)產(chǎn)生大量的試驗(yàn)數(shù)據(jù)[1-3]，如分析化學(xué)、材料分析技術(shù)等課程，企業(yè)中的測試分析也是如此。由于檢測方法和測量儀器精度的不同，造成試驗(yàn)中所得數(shù)據(jù)的有效數(shù)字的位數(shù)不同。因此，在試驗(yàn)數(shù)據(jù)運(yùn)算過程中，必然會(huì)碰到修約問題，這直接影響了測量結(jié)果的準(zhǔn)確性。然而，有些研究者或剛接觸檢測分析的大學(xué)生，對數(shù)據(jù)處理不嚴(yán)謹(jǐn)，造成數(shù)據(jù)記錄和處理的不規(guī)范，甚至錯(cuò)誤的情況，亟須引起關(guān)注和重視[4]。

在日常檢測分析的教學(xué)與科學(xué)研究中，有效數(shù)字修約是緊密圍繞著標(biāo)準(zhǔn)開展的[5-6]。標(biāo)準(zhǔn)是企業(yè)、科研機(jī)構(gòu)等開展有效數(shù)字修約的依據(jù)，是修約規(guī)則得以應(yīng)用的基礎(chǔ)和橋梁[7-8]。如GB/T 8170-2008《數(shù)字修約規(guī)則與極限數(shù)值的表示和判定》中明確有效數(shù)字修約的適用范圍及修約規(guī)則；GB/T 228.1-2021《金屬材料拉伸試驗(yàn)第1 部分：室溫試驗(yàn)方法》等產(chǎn)品標(biāo)準(zhǔn)明確結(jié)果的保留位數(shù)。然而，有些分析研究人員沒有充分理解標(biāo)準(zhǔn)中的條款要求，對于標(biāo)準(zhǔn)適用范圍、修約間隔等缺乏清晰的認(rèn)識(shí)，與此同時(shí)，對于標(biāo)準(zhǔn)中沒有明確規(guī)定的內(nèi)容有時(shí)會(huì)無從下手，如有效數(shù)字的運(yùn)算規(guī)則等，這需要在標(biāo)準(zhǔn)的基礎(chǔ)上借助經(jīng)驗(yàn)法則（rules-of-thumb，ROT法則）來運(yùn)算與修約[9]。

因此，以標(biāo)準(zhǔn)為指引，借助ROT法則對有效數(shù)字修約規(guī)則適用性、數(shù)據(jù)處理過程、結(jié)果判定等方面內(nèi)容進(jìn)行全面系統(tǒng)的探討分析，提高在檢測分析中檢測結(jié)果的準(zhǔn)確性和判定的合理性，以此提高學(xué)生開展檢測分析任務(wù)的能力，也為研究分析工作提供科學(xué)的參考。

1 標(biāo)準(zhǔn)與有效數(shù)字修約的關(guān)系

1.1 標(biāo)準(zhǔn)

《中華人民共和國標(biāo)準(zhǔn)化法》指出：“標(biāo)準(zhǔn)是指農(nóng)業(yè)、工業(yè)、服務(wù)業(yè)以及社會(huì)事業(yè)等領(lǐng)域需要統(tǒng)一的技術(shù)要求。國家鼓勵(lì)采用推薦性標(biāo)準(zhǔn)?！边@明確了標(biāo)準(zhǔn)在我國經(jīng)濟(jì)社會(huì)發(fā)展中的重要地位。在GB/T 1.1-2020《標(biāo)準(zhǔn)化工作導(dǎo)則第1 部分：標(biāo)準(zhǔn)化文件的結(jié)構(gòu)和起草規(guī)則》中對“標(biāo)準(zhǔn)”進(jìn)行了定義：通過標(biāo)準(zhǔn)化活動(dòng)，按照規(guī)定的程序經(jīng)協(xié)商一致制定，為各種活動(dòng)或其結(jié)果提供規(guī)則、指南或特性，供共同使用和重復(fù)使用的文件。生產(chǎn)生活中的規(guī)則、制度都是標(biāo)準(zhǔn)的一種形式。當(dāng)今，標(biāo)準(zhǔn)已成為世界各國通用的語言，世界需要標(biāo)準(zhǔn)協(xié)同發(fā)展。因此，企業(yè)在開展生產(chǎn)、檢測、銷售過程中，標(biāo)準(zhǔn)是其開展活動(dòng)的基礎(chǔ)。

1.2 標(biāo)準(zhǔn)與有效數(shù)字修約

在GB/T 8170-2008的基礎(chǔ)上，相應(yīng)的產(chǎn)品和產(chǎn)品檢測標(biāo)準(zhǔn)中，一般也會(huì)明確有效數(shù)字的舍入要求和指標(biāo)限制。標(biāo)準(zhǔn)是檢測分析的依據(jù)，如何運(yùn)用標(biāo)準(zhǔn)進(jìn)行數(shù)據(jù)運(yùn)算與結(jié)果判定是檢測分析準(zhǔn)確的關(guān)鍵。因此，不管作為科研工作者、企業(yè)檢驗(yàn)員，還是大學(xué)生，當(dāng)開展檢測分析等相關(guān)工作時(shí)，很有必要結(jié)合相關(guān)標(biāo)準(zhǔn)對有效數(shù)字修約進(jìn)行全面理解，這樣才能保證檢測結(jié)果的準(zhǔn)確性和判定的合理性。

1.3 經(jīng)驗(yàn)法則（ROT法則）

在GB/T 8170-2008等標(biāo)準(zhǔn)中沒有明確有效數(shù)字的運(yùn)算方法，但在很多文獻(xiàn)、書籍、維基百科中卻經(jīng)常被提及[9-11]，這就是通常所說的ROT 法則，即運(yùn)算得到的結(jié)果不能比開始運(yùn)算時(shí)得到的數(shù)字更精確。下面舉例說明ROT法則在四則運(yùn)算應(yīng)用中的幾種情況。

1.3.1 加減運(yùn)算規(guī)則

當(dāng)多個(gè)有效數(shù)字進(jìn)行加減運(yùn)算時(shí)，有效數(shù)字的和或差應(yīng)當(dāng)以有效數(shù)字中小數(shù)點(diǎn)后位數(shù)最少的數(shù)字（絕對誤差最大）為準(zhǔn)。如例1所示，不管是先修約再計(jì)算，還是先計(jì)算后修約，都是允許的，結(jié)果都是以小數(shù)點(diǎn)位數(shù)最少的數(shù)字為準(zhǔn)。

例1：21.456+24.153 48-22.37

解法1：先將算式修約為21.46+24.15-22.37，最后結(jié)果為23.24。

解法2：先算出結(jié)果23.239 48，再修約至23.24。

1.3.2 乘除運(yùn)算規(guī)則

當(dāng)多個(gè)有效數(shù)字進(jìn)行乘或除時(shí)，所得到的積或商以有效數(shù)字位數(shù)最少（相對誤差最大）為準(zhǔn)。如例2 所示，不管是先修約再計(jì)算，還是先計(jì)算后修約，都是可以的，但是結(jié)果都以有效位數(shù)最少的數(shù)字為準(zhǔn)。

例2：0.482×0.1238×2.28

解法1：先統(tǒng)一修約為0.482×0.124×2.28，最后結(jié)果修約為0.136。

解法2：先算出結(jié)果為0.136 051 248，最后結(jié)果修約為0.136。

2 有效數(shù)字修約的疑惑點(diǎn)探討

2.1 有效數(shù)字修約的適用范圍

在實(shí)際的檢測分析中，到底要在什么情況下使用“四舍五入”，什么情況下使用“四舍六入五成雙”，會(huì)讓很多人感到疑惑，特別是初次接觸檢測分析的大學(xué)生。

GB/T 8170-2008 中明確提出，“四舍六入五成雙”是適用于科學(xué)技術(shù)與生產(chǎn)活動(dòng)中測試和計(jì)算得出的各種數(shù)值。因此，不管是做科學(xué)研究，還是企業(yè)的生產(chǎn)檢測活動(dòng)，當(dāng)所得數(shù)值需要修約時(shí)，都應(yīng)按該標(biāo)準(zhǔn)的要求進(jìn)行。

2.2 有效數(shù)字的修約間隔

在GB/T 8170-2008中定義修約間隔是指修約值的最小數(shù)值單位。如指定修約間隔為0.1，修約值應(yīng)在0.1的整數(shù)倍中選取，相當(dāng)于將數(shù)值修約到1位小數(shù)。如指定修約間隔為100，修約值應(yīng)在100 的整數(shù)倍中選取，相當(dāng)于將數(shù)值修約到“百”數(shù)位。

以上幾種情況在平時(shí)運(yùn)算中是比較常見的，標(biāo)準(zhǔn)中還提及了兩種比較不常用的修約間隔，分別是0.2 和0.5 的單位修約。如在GB/T 228.1-2021 中明確，屈服點(diǎn)延伸率應(yīng)修約至0.1%，其他延伸率和斷后伸長率應(yīng)修約至0.5%。現(xiàn)分析如下：

（1）0.5單位修約過程。將需要修約的數(shù)字α乘2，得到數(shù)值2α，將2α運(yùn)用“四舍六入五成雙”規(guī)則修約至個(gè)位，所得結(jié)果2α修約值，2α修約值除以2得到α的修約值，具體修約過程如表1所示。

表1 0.5單位修約規(guī)則應(yīng)用（修約至個(gè)位）

（2）0.2單位修約過程。將需要修約的數(shù)字β乘5，得到數(shù)值5β，將5β運(yùn)用“四舍六入規(guī)則”進(jìn)行修約，所得結(jié)果5β修約值，5β修約值除以5 得到β的修約值，如表2所示。

表2 0.2單位修約規(guī)則應(yīng)用（修約至個(gè)位）

因此，按標(biāo)準(zhǔn)GB/T 228.1-2021 規(guī)定，假設(shè)斷后伸長率為17.51%，按0.5 單位進(jìn)行修約計(jì)算，現(xiàn)得兩倍修約值為35%，最終結(jié)果為17.5%。

2.3 有效數(shù)字連續(xù)修約問題

GB/T 8170-2008規(guī)定，數(shù)字修約時(shí)，應(yīng)在明確修約間隔和修約位數(shù)后，一次性修約到位，不可進(jìn)行多次連續(xù)修約，否則很可能會(huì)造成數(shù)值偏大或偏小。

標(biāo)準(zhǔn)中也指出，“在具體實(shí)施中，有時(shí)測試與計(jì)算部門先將獲得數(shù)值按指定的修約數(shù)位多一位或幾位報(bào)出，而后由其他部門判定。”因此，在修約中也可多保留一位數(shù)字，以便最后修約成所要求的位數(shù)，這是符合標(biāo)準(zhǔn)要求的。比如，對數(shù)值23.1234 修約至個(gè)位，可以先將報(bào)出值修約至23.1＋（數(shù)值右上角加“十”或加“一”或不加符號，分別表明已進(jìn)行過舍、進(jìn)或未舍未進(jìn)），最后修約至23。在這種精度允許的情況下，在運(yùn)算過程中，可將數(shù)值修約多報(bào)一位或幾位，但如果數(shù)值本身的測量精度只是個(gè)位，就不適合再增加一位。

2.4 計(jì)算結(jié)果值的表示與判定

GB/T 8170-2008中明確指出，在判定測定值或其計(jì)算值是否符合標(biāo)準(zhǔn)要求時(shí)，應(yīng)將測試所得的測定值或其計(jì)算值與標(biāo)準(zhǔn)規(guī)定的極限數(shù)值作比較，比較的方法可采用全數(shù)值比較法和修約值比較法。同時(shí)，GB/T 8170-2008 還規(guī)定，當(dāng)標(biāo)準(zhǔn)或有關(guān)文件中，若出現(xiàn)對極限數(shù)值無特殊規(guī)定時(shí)，應(yīng)該采用全數(shù)值比較法；如規(guī)定采用修約值比較法，應(yīng)在標(biāo)準(zhǔn)中加以說明。

2.4.1 全數(shù)值比較方法

全數(shù)值比較法是將檢測值不經(jīng)修約處理（或雖經(jīng)修約處理，但應(yīng)標(biāo)明它是經(jīng)舍、進(jìn)或未進(jìn)未舍而得），用該數(shù)值與規(guī)定的極限數(shù)值作比較，但是只要超出極限數(shù)值規(guī)定的范圍，則都判定為不符合要求。

2.4.2 修約值比較法

修約值比較法是將測定值或者對它進(jìn)行修約，且修約數(shù)位應(yīng)與所規(guī)定的極限數(shù)值數(shù)位一致。同時(shí)將修約后的數(shù)值與規(guī)定的極限數(shù)值進(jìn)行比較，只要超出極限數(shù)值規(guī)定的范圍都判定為不符合要求。

因此，要對某個(gè)產(chǎn)品的結(jié)果值進(jìn)行判定時(shí)，要找到相應(yīng)的檢測方法標(biāo)準(zhǔn)，嚴(yán)格依據(jù)標(biāo)準(zhǔn)上的要求進(jìn)行判定。如GB/T 1196-2017《重熔用鋁錠》明確規(guī)定，成分分析的判定應(yīng)采用數(shù)值修約法。如GB/T 5009.5-2010《食品中蛋白質(zhì)的檢測》，沒有規(guī)定相應(yīng)的修約規(guī)則，則應(yīng)該按照全數(shù)值比較法，但是該檢測方法規(guī)定了結(jié)果的保留位數(shù)，那么實(shí)際的檢測結(jié)果應(yīng)該按照該方法的保留位數(shù)要求進(jìn)行修約，最后將該結(jié)果與產(chǎn)品的指標(biāo)值進(jìn)行比較。

3 有效數(shù)字修約與運(yùn)算的難點(diǎn)探討

在檢測方法標(biāo)準(zhǔn)和產(chǎn)品標(biāo)準(zhǔn)中一般會(huì)提及檢測結(jié)果的修約要求，但關(guān)于有效數(shù)字的四則運(yùn)算在GB/T 8170-2008及其他產(chǎn)品、檢測標(biāo)準(zhǔn)中沒有明確提出。因此，關(guān)于如何進(jìn)行有效數(shù)字的混合運(yùn)算、數(shù)據(jù)處理等難點(diǎn)問題，下面將結(jié)合標(biāo)準(zhǔn)和ROT 法則，以實(shí)例的方式進(jìn)行探討分析。

3.1 運(yùn)用標(biāo)準(zhǔn)和ROT法則指導(dǎo)下的常見混合運(yùn)算

關(guān)于有效數(shù)字的混合運(yùn)算，是比較容易混淆的。事實(shí)上，混合運(yùn)算只要遵循運(yùn)算規(guī)則即可，即“先乘除后加減，有括號先算括號”的原則。

關(guān)于混合運(yùn)算，現(xiàn)以GB/T 5009.5-2016《食品安全國家標(biāo)準(zhǔn)食品中蛋白質(zhì)的檢測》的第一法（凱氏定氮法）為例，來說明混合運(yùn)算的規(guī)則，下面列出了食品中蛋白質(zhì)含量的計(jì)算公式。

試樣中蛋白質(zhì)的含量按式（1）計(jì)算:

式中X為試樣中蛋白質(zhì)的含量，單位為克每百克（g/100g）；V1為試樣消耗鹽酸標(biāo)準(zhǔn)滴定液的體積，單位為毫升（mL）；V2為試樣空白消耗鹽酸標(biāo)準(zhǔn)滴定液的體積，單位為毫升(mL)；c為鹽酸標(biāo)準(zhǔn)滴定溶液濃度，單位為摩爾每升（mol/L）；0.014 0為鹽酸標(biāo)準(zhǔn)滴定溶液相當(dāng)?shù)牡馁|(zhì)量，單位為克（g）；m 為試樣的質(zhì)量，單位為克（g）；V3為吸收消化液的體積，單位為毫升（mL）；F 為氮換算為蛋白質(zhì)的系數(shù)，各種食品中氮的轉(zhuǎn)換系數(shù)；100 為換算系數(shù)。

為便于理解，運(yùn)算中以某品牌牛奶中的蛋白質(zhì)含量為例，其換算系數(shù)F=6.25，同時(shí)假設(shè)以下數(shù)值：取樣質(zhì)量m=25.102 5g，取樣體積V3=10.00 mL，鹽酸標(biāo)準(zhǔn)溶液濃度c=0.102 4mol/L，空白消耗體積V2=1.00mL，滴定終點(diǎn)體積V1=13.13mL。

根據(jù)以上假設(shè)的數(shù)值，將數(shù)值代入式（1）中的蛋白質(zhì)計(jì)算公式，如下：

例3：

例3 中，由于6.25、0.014 0 和100 為轉(zhuǎn)換或換算系數(shù)，其有效數(shù)字可看為無限位數(shù)，可結(jié)合計(jì)算式的需要來確定，其有效數(shù)字為4 位，取樣質(zhì)量m為6 位有效數(shù)字，其他有效數(shù)字的位數(shù)為4 位。按照ROT法則，當(dāng)多個(gè)有效數(shù)字進(jìn)行乘或除時(shí)，所得到的積或商以有效數(shù)字位數(shù)最少（相對誤差最大）為準(zhǔn)。所以最終結(jié)果的有效數(shù)字保留位數(shù)為4 位，結(jié)果為4.283g/100g＋（數(shù)值右上角的“＋”表明已進(jìn)行過舍）。

GB/T 5009.5-2010 中明確規(guī)定蛋白質(zhì)含量小于1g/100g 時(shí)，有效數(shù)字保留至兩位；蛋白質(zhì)含量大于1g/100g 時(shí)，有效數(shù)字保留至三位。所以按該標(biāo)準(zhǔn)要求，例3的數(shù)值運(yùn)算結(jié)果應(yīng)修約為4.28g/100g。

3.2 運(yùn)用標(biāo)準(zhǔn)和ROT法則指導(dǎo)下的易混淆混合運(yùn)算

再來看一種比較容易混淆的情況，在例3 的基礎(chǔ)上，假設(shè)空白消耗體積V2=1.00mL，滴定終點(diǎn)體積V1=1.05mL，見例4。

例4：

在例4 的混合運(yùn)算中，括號里的結(jié)果為0.05mL，其為1 位有效數(shù)字，其他有效數(shù)字最少是四位有效數(shù)字，最后的運(yùn)算結(jié)果為0.017846828005178。那么依據(jù)ROT 法則，最后的結(jié)果也應(yīng)是一位有效數(shù)字，計(jì)算結(jié)果為X=0.02g/100g。因?yàn)閄=0.02g/100g 的結(jié)果誤差為ΔX=0.01g/100g，那么含誤差的結(jié)果可表示為X=0.02±0.005g/100g。由此可見在滴定值（減去空白值后）極小的情況下，運(yùn)算結(jié)果的波動(dòng)是很大的。

因?yàn)檫\(yùn)算結(jié)果波動(dòng)大，所以當(dāng)要運(yùn)用這樣的結(jié)果進(jìn)行判定時(shí)需謹(jǐn)慎處理。例4 的結(jié)果為0.02±0.005g/100g，當(dāng)指標(biāo)要求與檢測結(jié)果相接近，結(jié)果判定很容易引起爭議。一般需要變更方法或采用濃縮富集或加大取樣量等方法，來保障結(jié)果的準(zhǔn)確性。比如GB/T 5009.5-2016 第二法（分光光度法）的檢測限為0.1mg/100g，要遠(yuǎn)優(yōu)于第一法（檢測限為8 mg/100g）。因此，當(dāng)遇到上述的情況時(shí)，可以采用第二法來保障結(jié)果和判定的準(zhǔn)確性。

在結(jié)果有效數(shù)字保留位數(shù)上，GB/T 5009.5-2010中明確規(guī)定蛋白質(zhì)含量小于1g/100g時(shí)，有效數(shù)字保留至兩位，那么依據(jù)該方法標(biāo)準(zhǔn)，結(jié)果應(yīng)為0.025g/100g。也就是說，采用ROT法則運(yùn)算所得的結(jié)果滿足不了標(biāo)準(zhǔn)方法的要求。事實(shí)并非如此，可以觀察到，括號中的0.05mL中的5已經(jīng)是估讀值，也就是可疑數(shù)字。所以在運(yùn)算結(jié)果中再多取一位，對實(shí)際運(yùn)算結(jié)果的幫助并不大。正如前文所述，更重要的是選擇一種更適合的檢測方法來保障結(jié)果的準(zhǔn)確性[19]。

通過對以上兩種情況的分析，可知有效數(shù)字運(yùn)算需要在ROT 法則和標(biāo)準(zhǔn)的共同指導(dǎo)下運(yùn)算。然而，在日常檢測分析中，為了運(yùn)算方便，也可直接用計(jì)算器算出結(jié)果，然后取相應(yīng)的有效數(shù)字位數(shù)作為最后的結(jié)果。不管作為大學(xué)生、老師還是研究者，都有必要去明白有效數(shù)字和有效數(shù)字運(yùn)算過程的具體意義，這樣有助于對運(yùn)算結(jié)果的理解和運(yùn)用。

4 結(jié)語

本文對標(biāo)準(zhǔn)、有效數(shù)字修約、ROT法則的關(guān)系進(jìn)行了梳理與分析，指出標(biāo)準(zhǔn)是有效數(shù)字修約的基礎(chǔ)與橋梁，ROT 法則是有效數(shù)字修約的有益補(bǔ)充?；跇?biāo)準(zhǔn)和ROT法則，對有效數(shù)字修約運(yùn)算中存在的主要疑難點(diǎn)進(jìn)行分析，在疑惑點(diǎn)上指出：在適用范圍上，有效數(shù)字修約采用的“四舍六入五成雙”適用于科學(xué)技術(shù)與生產(chǎn)活動(dòng)中測試和計(jì)算得出的各種數(shù)值；有效數(shù)字的結(jié)果報(bào)告應(yīng)以產(chǎn)品或檢測標(biāo)準(zhǔn)為準(zhǔn)，當(dāng)沒有規(guī)定采用何種數(shù)值比較法時(shí)，則應(yīng)采用全數(shù)值比較法。在難點(diǎn)上指出：混合運(yùn)算時(shí)，運(yùn)算結(jié)果的修約應(yīng)與標(biāo)準(zhǔn)要求、ROT法則相結(jié)合，如果結(jié)果的重復(fù)性差或相對誤差大，應(yīng)考慮采用更為有效的試驗(yàn)方法來保證結(jié)果的準(zhǔn)確性。通過有效數(shù)字的探討分析，能夠給檢測分析員、科研工作者、大學(xué)生在實(shí)際檢測分析中提供參考，從而進(jìn)一步保障檢測結(jié)果的準(zhǔn)確性和結(jié)果判定的合理性、科學(xué)性。