測量結(jié)果數(shù)據(jù)修約及速算法

劉湘桂 周星明/桂林市計量測試研究所

0 引言

按有關(guān)規(guī)范的規(guī)定，測量儀器的最小分度值d 的數(shù)值應(yīng)遵循以下規(guī)則：

n為正整數(shù)、負(fù)整數(shù)或零。

因而測量結(jié)果經(jīng)修約后的數(shù)據(jù)最末位的數(shù)值也應(yīng)該相應(yīng)的為 1×10n或2×10n或5×10n，經(jīng)修約后的末位估讀值應(yīng)是1×10n-1或2×10n-1或5×10n-1。

1 數(shù)顯讀數(shù)裝置及模擬讀數(shù)裝置測量結(jié)果修約的區(qū)別

數(shù)顯測量儀器的測量讀數(shù)不存在估讀值，按相關(guān)的技術(shù)規(guī)范規(guī)定的程序測量n次，讀取n個測量值，若取平均值作為測量結(jié)果，則平均值按四舍大于五入五湊偶的法則取舍末位，而后再對應(yīng)測量儀器的最小分度值對經(jīng)取舍后的平均值末位進(jìn)行相應(yīng)的修約。

若最小分度值是d=2×10n，則末位數(shù)值應(yīng)修約為2、4、6、8、0（末尾數(shù)字應(yīng)為偶數(shù)），例如用500 g砝碼在分度值為2 g的電子秤上稱量三次，讀數(shù)分別為500 g、500 g、502 g,由于電子秤是直讀數(shù)顯儀器，不存在估讀值，平均值只取到對應(yīng)分度值那一位，即取平均值為501 g，電子秤的分度值d=2 g，不可能顯示出501 g，因而平均值為501 g仍不能作為最終的測量結(jié)果，要對其對應(yīng)分度值進(jìn)行修約，其最終結(jié)果要么為500 g，要么為502 g，按修約規(guī)則是將此平均值乘以5，再按四舍六入五湊偶的法則取舍末位后除以5即為最終的作為測量結(jié)果的平均值。501×5=2 505，末位5前面的0為偶數(shù)，5不入舍去，2 505修約為2 500，2 500÷5=500，即取500 g為測量結(jié)果的平均值而不是取501 g。

若最小分度值是d=5×10n，則末位數(shù)值應(yīng)修約為0.5，例如用100 kN標(biāo)準(zhǔn)負(fù)荷檢測分度值為0.5 kN的數(shù)顯壓力試驗機，三次測量讀數(shù)分別為100.0 kN、100.5 kN、100.5 kN，平均值 100.3 kN，分度值為0.5 kN的數(shù)顯壓力試驗機不可能顯示出100.3 kN，要將此平均值乘以2，再按四舍大于五入五湊偶的法則取舍末位后除以2即為最終的測量結(jié)果的平均值。100.3×2=200.6 ≈ 201，201÷2=100.5，即取100.5 kN為測量結(jié)果的平均值而不是取 100.3 kN。

若最小分度值是d=1×10n，其末位從0～9的10個數(shù)字均可顯示，則只要按四舍六入五湊偶的法則修約至對應(yīng)數(shù)顯儀器的最小分度值。

模擬讀數(shù)裝置的測量儀器測量讀數(shù)末位為估讀值，一般取最小分度值的十分之一作有效讀數(shù)，小于最小分度值十分之一的值是難以讀取而是沒有實際意義的。因此測量結(jié)果的末位只取到最小分度值的后一位，并對應(yīng)其進(jìn)行相應(yīng)的修約。

對于各種分度值的測量數(shù)據(jù)修約方法與上述方法相同。0.2單位修約的將擬修約的數(shù)乘以5，末位按規(guī)則取舍后再除以5，0.5單位修約的將擬修約的數(shù)乘以2，末位按規(guī)則取舍后再除以2。

例如用活塞壓力計檢定分度值為0.2 MPa的精密壓力表，測量讀數(shù)估讀到0.2 MPa的1/10（即0.02 MPa的整數(shù)倍），標(biāo)準(zhǔn)壓力值5 MPa點測量2次的讀數(shù)分別為 4.98 MPa、5.00 MPa，平均值為4.99 MPa，末位 0.09 顯然不是 0.02 的整數(shù)倍，要進(jìn)行 2間隔的修約，4.99×5=24.95，按取舍規(guī)則24.95 ≈ 25.00，25.00÷5=5.00，取 5.00 MPa 為該點最終的測量值。以此類推5間隔的修約，將擬修約的數(shù)乘以2，末位按規(guī)則取舍后再除以2即可。

2 2、5間隔數(shù)據(jù)修約速算法

按規(guī)定的要求2間隔修約要乘以5取舍后除以5，5間隔修約要乘以2取舍后除以2，若有效位數(shù)較多時口算或心算難以做到，就要用筆算或借助計算器，數(shù)據(jù)處理的效率大大降低。筆者根據(jù)多年從事計量工作的實踐經(jīng)驗，介紹一套非常實用的速算方法。

2間隔修約是對擬修約位的數(shù)值不是2的整數(shù)倍的數(shù)進(jìn)行修約，如對 12.93 和 12.83（0. 2 分度模擬讀數(shù)的平均值或0.02分度數(shù)顯讀數(shù)的平均值）進(jìn)行修約，按規(guī)定的方法 12.93×5=64.65，按規(guī)則取舍后為 64.6，再除以 5 最后得 12.92，12.83×5=64.15，按規(guī)則取舍后為 64.2，再除以 5最后得12.84。速算法是將擬修約位的數(shù)除以2，把商的個位與擬修約位的前一位相加得奇數(shù)擬修約位加1（即往大?。艏拥门紨?shù)則擬修約位減1（往小?。?2.93 和 12.83 擬修約位的數(shù)均為 3，3÷2=1.5，其個位1與前一位9相加得偶數(shù)，往小取得12.92；與前一位8相加得奇數(shù)則往大取得12.84。無需多位數(shù)的乘除, 一眼就能看出來。如 12.95, 5÷2=2.5, 2 ＋ 9 ＝ 11 是奇數(shù) , 往大取得12.96；又如 12.85，5÷2=2.5, 2 ＋ 8 ＝ 10 是偶數(shù) ,往小取得12.84。其結(jié)果與按規(guī)定步驟計算出的結(jié)果是一致的。

5間隔修約是對擬修約位的數(shù)值不是5的整數(shù)倍的數(shù)進(jìn)行修約，速算法更簡單，把擬修約位視為個位，擬修約位的值小于等于2.5的擬修約位取0，其值大于2.5而又小于7.5的擬修約位取5，而大于等于7.5的則進(jìn)位，即擬修約位取0，其前一位加1。這里不再一一舉例，讀者可自行驗證。