• 
    

    
    

      99热精品在线国产_美女午夜性视频免费_国产精品国产高清国产av_av欧美777_自拍偷自拍亚洲精品老妇_亚洲熟女精品中文字幕_www日本黄色视频网_国产精品野战在线观看 ?

      數(shù)值修約規(guī)則詳解及在電子表格中實(shí)現(xiàn)辦法

      2023-11-04 14:09:40章棣華
      大科技 2023年46期
      關(guān)鍵詞:電子表格間隔數(shù)值

      章棣華

      (鎮(zhèn)江市丹徒區(qū)宜瑞建筑工程質(zhì)量檢測(cè)中心,江蘇 鎮(zhèn)江 212028)

      0 引言

      在我國(guó)科學(xué)技術(shù)與生產(chǎn)活動(dòng)中,因測(cè)試或計(jì)算會(huì)得出的各種各樣的數(shù)值,當(dāng)所得數(shù)值需要修約時(shí),應(yīng)按《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》(GB/T 8170—2008)提出的一系列方法計(jì)算相關(guān)數(shù)據(jù)。日常的技術(shù)生產(chǎn)工作中,經(jīng)常會(huì)面臨復(fù)雜的測(cè)試數(shù)據(jù)運(yùn)算與分析問(wèn)題。而當(dāng)前所運(yùn)用的電子表格軟件通常具備靈活的數(shù)據(jù)處理能力,可以非常方便快速地對(duì)大量數(shù)據(jù)進(jìn)行運(yùn)算、統(tǒng)計(jì)、分析,可以極大地提高工作效率。然而電子表格軟件中的進(jìn)舍函數(shù)需要采取數(shù)值修約規(guī)則中的“四舍五入”方法進(jìn)行計(jì)算分析,不符合本文所研究的數(shù)值修約規(guī)則,因此不免會(huì)帶來(lái)額外的修約誤差。目前主流電子表格軟件有Microsoft Excel 和WPS 電子表格。本文主要研究了對(duì)數(shù)值進(jìn)行修約的規(guī)則及其背后的數(shù)學(xué)原理,并以使用最廣泛的Microsoft Excel 為例(簡(jiǎn)稱“Excel”),詳細(xì)給出了《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》數(shù)值修約規(guī)則在這個(gè)軟件中的實(shí)現(xiàn)辦法。

      1 《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》對(duì)數(shù)值修約的定義

      數(shù)值修約可以理解為舍去一個(gè)數(shù)值的最后若干位數(shù)字,對(duì)最末位數(shù)字進(jìn)行保留處理。經(jīng)過(guò)一系列處理之后,最后所得到的值會(huì)趨近于原本數(shù)值的過(guò)程,稱之為數(shù)值修約。其中,經(jīng)數(shù)值修約處理后的數(shù)值,稱之為修約值。

      修約間隔經(jīng)常作為修約值最小數(shù)值單位存在。修約值是修約間隔的整數(shù)倍。

      如指定修約間隔為0.1,修約值需要在0.1 的整倍數(shù)中大量選取,可以理解為將數(shù)值修約到具體一位小數(shù)。

      如指定修約間隔為10,修約值需要在10 的整數(shù)倍中大量選取,可以理解為將數(shù)值修約到十位。

      如指定修約間隔為0.5,修需要在0.5 的整數(shù)倍中大量選取,可以理解為將數(shù)值修約到具體一位小數(shù)。需要注意的是,該小數(shù)位必須能夠被5 整除。

      2 《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》對(duì)數(shù)值修約的進(jìn)舍規(guī)則

      《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》的數(shù)值修約進(jìn)舍規(guī)則并不等同于傳統(tǒng)的四舍五入方法,而是需要結(jié)合具體情況選擇不同的規(guī)則進(jìn)行計(jì)算處理。

      規(guī)則一。如果擬舍棄數(shù)字的最左一位數(shù)字<5,則將擬舍棄數(shù)字全部舍去,保留的其余各位數(shù)字不變。

      例1,將10.349 修約到一位小數(shù),得10.3。

      規(guī)則二。如果擬舍棄數(shù)字的最左一位數(shù)字>5,則將該位數(shù)需要進(jìn)一處理,也就是需要對(duì)保留的末位數(shù)字進(jìn)行加1 處理。

      例2,將12.60 修約到個(gè)位,得13。

      規(guī)則三。如果擬舍棄數(shù)字的最左一位數(shù)字=5,同時(shí)其后有非0 數(shù)字時(shí)進(jìn)一,那么則就需要對(duì)所保留的末位數(shù)字進(jìn)行加1 處理。

      例3,將10.501 修約到個(gè)數(shù)位,計(jì)算結(jié)果為11。

      規(guī)則四。如果擬舍棄數(shù)字的最左一位數(shù)字=5,而右面無(wú)數(shù)字/皆為0 時(shí),若所保留的末位數(shù)字屬于奇數(shù)領(lǐng)域范疇,則需要進(jìn)一處理,相反則舍棄。

      例4,將11.500 修約到個(gè)數(shù)位,計(jì)算結(jié)果為12。

      例5,將10.500 修約到個(gè)數(shù)位,計(jì)算結(jié)果為10。

      規(guī)則五。針對(duì)負(fù)數(shù)的修約處理需要關(guān)注其的絕對(duì)值,絕對(duì)值需要按照規(guī)則1~4 修約處理,經(jīng)過(guò)處理之后,需要在所得值前面加上“-”(負(fù)號(hào))。

      例6,將-10.500 修約到個(gè)數(shù)位,得-10。

      規(guī)則六。0.5 單位修約與0.2 單位修約等非整數(shù)位修約,先將修約間隔乘以數(shù)值X 換算到整數(shù)修約間隔Y,對(duì)擬修約數(shù)值和X 的積依規(guī)則一至四,按修約間隔Y 進(jìn)行修約,最后將所得數(shù)值再除以X。

      例7,將10.25 修約到個(gè)數(shù)位的0.5 單位,先將10.25×2=20.5,再依規(guī)則一至四修約到個(gè)數(shù)位得20,最后20÷2=10.0。

      3 《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》數(shù)值修約的統(tǒng)計(jì)學(xué)原理

      《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》數(shù)值修約規(guī)則的數(shù)學(xué)本質(zhì)上是為了在測(cè)量精度有限時(shí),使正負(fù)誤差期望絕對(duì)值相等,相互抵消后確保舍棄和進(jìn)位區(qū)間在統(tǒng)計(jì)意義上均等,因此適用于科研、生產(chǎn)活動(dòng)中測(cè)量、統(tǒng)計(jì)等不可避免存在測(cè)量誤差的數(shù)據(jù)處理[1]。

      對(duì)于精確的解析計(jì)算,或者原始數(shù)據(jù)都是整數(shù)或離散數(shù)值(且計(jì)算過(guò)程沒(méi)有精度損失的)的計(jì)算中,“四舍五入”是完全不存在任何問(wèn)題的,反而使用“四舍六入”會(huì)出現(xiàn)系統(tǒng)誤差。

      例如,由于精度受限,實(shí)際情況下,5 左右狹窄區(qū)域內(nèi)的測(cè)量數(shù)據(jù)都會(huì)被讀作5.00,“四舍五入”時(shí)進(jìn)位,導(dǎo)致系統(tǒng)誤差的產(chǎn)生,“四舍五入”誤差期望概率分布圖如圖1 所示,數(shù)據(jù)精度有限時(shí),“四舍五入”法舍棄區(qū)間和進(jìn)位區(qū)間概率分布不相等,解決的辦法就是按GB/T 8170—2008 規(guī)定的數(shù)值修約規(guī)則,對(duì)5 附近的數(shù)據(jù)概率相等地進(jìn)位或舍棄,以消除系統(tǒng)誤差。

      圖1 “四舍五入”誤差期望概率分布

      如要求保留某個(gè)測(cè)量讀數(shù)1.2500 到小數(shù)點(diǎn)后一位。該讀數(shù)即使精確到了0.0001,仍然無(wú)法確定該數(shù)的真值是略小于讀數(shù)(如1.249998),還是略大于讀數(shù)(如1.250002)。因?yàn)檫@兩個(gè)數(shù)如此接近于1.2500,當(dāng)測(cè)量精度不夠時(shí)把它們讀成1.2500 是無(wú)法避免的。因此如果對(duì)于1.2500,無(wú)論其真值比1.2500 小一點(diǎn)點(diǎn)還是大一點(diǎn)點(diǎn),我們都當(dāng)作1.25 使用“五入”規(guī)則進(jìn)位到1.3,那么就產(chǎn)生了系統(tǒng)誤差[2]。雖然這個(gè)誤差在很多場(chǎng)景下似乎并不算大,但隨著數(shù)據(jù)的累積,誤差最終一定會(huì)被放大到不可接受的程度。因此在這種情況下,采取《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》數(shù)值修約規(guī)則這種平均概率處理能夠在統(tǒng)計(jì)上抵消誤差。

      如果對(duì)于上例,總能精確地測(cè)量出真值是1.249998或1.250002,那么就完全不需要《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》數(shù)值修約的算法,“四舍五入”是完全正確的。但是對(duì)于測(cè)量[3]而言,真值是一個(gè)理想概念,一般來(lái)說(shuō),真值不可能確切獲知。

      例8,某商品住宅房基樁單樁豎向抗壓靜載試驗(yàn)項(xiàng)目,設(shè)計(jì)樁型(PHC-400(95)AB-C80)。其中,單樁豎向抗壓極限承載力控制設(shè)計(jì)為1300kN,檢測(cè)方法采取慢速維持荷載法,規(guī)范標(biāo)準(zhǔn)按照《建筑地基基礎(chǔ)設(shè)計(jì)規(guī)范》(GB 50007—2011)執(zhí)行。

      試驗(yàn)的沉降相對(duì)穩(wěn)定標(biāo)準(zhǔn):每級(jí)荷載作用下的樁的沉降量連續(xù)兩次在每小時(shí)內(nèi)小于0.1mm,(從分級(jí)荷載施加后的第30min 開始,按1.5h 連續(xù)三次每30min的沉降觀測(cè)值計(jì)算),認(rèn)為已經(jīng)達(dá)到相對(duì)穩(wěn)定,可施加下一級(jí)荷載。

      130kN 這一級(jí)最后1h 實(shí)測(cè)平均沉降如按照“四舍五入”應(yīng)為“0.10mm”,試驗(yàn)的沉降未達(dá)到相對(duì)穩(wěn)定標(biāo)準(zhǔn),應(yīng)繼續(xù)本級(jí)加載試驗(yàn),直至試驗(yàn)的沉降達(dá)到相對(duì)穩(wěn)定標(biāo)準(zhǔn),但根據(jù)《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》數(shù)值修約的算法130kN 這一級(jí)最后1 小時(shí)實(shí)測(cè)平均沉降應(yīng)為“0.09mm”,試驗(yàn)的沉降達(dá)到相對(duì)穩(wěn)定標(biāo)準(zhǔn),所以對(duì)于檢測(cè)檢驗(yàn)而言,數(shù)據(jù)的修約尤其重要,它關(guān)系的試驗(yàn)的準(zhǔn)確性及科學(xué)性,乃至試驗(yàn)成功與否?;鶚秵螛敦Q向抗壓靜載試驗(yàn)130kN 數(shù)據(jù)匯總表具體數(shù)值如表1 所示。

      表1 某商品住宅房基樁單樁豎向抗壓靜載試驗(yàn)130kN 數(shù)據(jù)匯總

      4 Excel 中數(shù)值的進(jìn)舍規(guī)則和數(shù)據(jù)存儲(chǔ)誤差

      Excel 中自帶的舍入函數(shù),常用的為ROUND 函數(shù),在數(shù)值修約上更適用于“四舍五入”規(guī)則,當(dāng)擬舍棄數(shù)字的最左一位數(shù)字為5,而右面無(wú)數(shù)字/皆為0 時(shí),計(jì)算結(jié)果會(huì)出現(xiàn)明顯偏差,不符合《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》修約結(jié)果。同時(shí),Excel 中自帶的舍入函數(shù)也不符合相關(guān)規(guī)則的修約間隔,如無(wú)法實(shí)現(xiàn)0.5 單位和0.2 單位的修約間隔。

      例9,將10.25 修約到0.1 單位,以Excel 中的自帶舍入函數(shù)為操作方法:ROUND(12.25,1)=12.3,結(jié)果出現(xiàn)偏差。

      計(jì)算機(jī)中因?yàn)閿?shù)據(jù)存儲(chǔ)的進(jìn)制問(wèn)題,還帶來(lái)其他誤差。計(jì)算機(jī)中的數(shù)據(jù)是按照二級(jí)制存儲(chǔ)的,有的小數(shù)以二進(jìn)制存儲(chǔ)時(shí)先天存在誤差。如十進(jìn)制數(shù)0.1 轉(zhuǎn)換成二進(jìn)制后,會(huì)變成0.0011001100…(1100 循環(huán))這樣的無(wú)限循環(huán)小數(shù)。就和無(wú)法用十進(jìn)制數(shù)來(lái)表示1/3 是一樣的道理。1/3 用十進(jìn)制表示就是0.3333…,同樣是無(wú)限循環(huán)小數(shù)。這樣計(jì)算時(shí)不免帶來(lái)誤差。計(jì)算機(jī)雖然是功能強(qiáng)大,但是無(wú)法處理無(wú)限小數(shù),Excel 對(duì)此采用浮點(diǎn)數(shù)表示,根據(jù)變量數(shù)據(jù)類型所對(duì)應(yīng)的長(zhǎng)度將數(shù)值從中截?cái)嗷蛘咚纳嵛迦搿?.333…這樣的循環(huán)小數(shù)從中間截?cái)鄷?huì)變成.33333,這時(shí)它的3 倍就無(wú)法得出1(結(jié)果是0.99999),計(jì)算機(jī)因?yàn)闊o(wú)法正確表示的數(shù)值,最后都變成了近似值,在需要精確計(jì)算的時(shí)候,就帶來(lái)了誤差。

      5 采用VBA 編程方式實(shí)現(xiàn)數(shù)值修約

      Excel 自帶函數(shù)本身存在局限性,無(wú)法完全實(shí)現(xiàn)數(shù)值修約功能,再加上其小數(shù)數(shù)值存儲(chǔ)誤差問(wèn)題明顯,最終計(jì)算結(jié)果精確度難以得到保障。這里利用Excel 中自帶VBA 編程自定義一個(gè)數(shù)字修約函數(shù)實(shí)現(xiàn)GB/T 8170—2008 數(shù)值修約規(guī)則。下面我們就以Microsoft Excel 2010 為例,利用Microsoft Visual Basic(以下簡(jiǎn)稱VBA)[4]來(lái)編制一個(gè)符合《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》的自定義數(shù)據(jù)修約函數(shù)(函數(shù)名:gbt8170)。

      第一步,選擇菜單“開發(fā)工具、按下鍵盤Alt+F11 組合鍵、選中命令指示、打開VBA 窗口、自定義函數(shù)。

      第二步,進(jìn)入VBA[5]窗口后,選擇菜單“插入→模塊"命令、獲取“模塊1”,在“模塊1”中輸入自定義函數(shù)代碼,如下所示:

      Public Function gbt8170(ByVal x As Double, ByVal n As Single) As Double

      Dim a As Single

      p = 1

      If x < 0 Then

      p = -1

      x = x * p

      End If

      a = x / n - Int(x / n)

      If a > 0 And a < 0.5 Then

      gbt8170 = p * Int(x / n) * n

      ElseIf a = 0.5 Then

      If Int(x / n) Mod 2 = 0 Then

      gbt8170 = p * Int(x / n) * n

      Else

      gbt8170 = p * Int(x / n + 1) * n

      End If

      Else

      gbt8170 = p * Int(x / n + 1) * n

      End If

      End Function

      注:a 的數(shù)據(jù)類型須設(shè)置成single 格式,不然會(huì)出錯(cuò)。

      第三步,函數(shù)自定義成功后,選擇菜單中的文件功能,點(diǎn)擊關(guān)閉并返回到Microsoft Excel 命令,退回到Excel 工作表窗口界面當(dāng)中。完成上述一系列操作后,可以在Excel 里面選擇gbt8170 函數(shù)調(diào)用。自定義gbt8170 函數(shù)用法:gbt8170(待修約值,修約間隔)[6]。

      Excel 舍入函數(shù)ROUND 和自定義函數(shù)gbt8170 比較如表2 所示,函數(shù)gbt8170 對(duì)各種不同類型的數(shù)值修約都能滿足標(biāo)準(zhǔn)的要求,而自帶的函數(shù)ROUND,對(duì)有些末尾是偶數(shù)的修約數(shù)值就開始出錯(cuò)了,而且對(duì)復(fù)雜一些的0.5 修約也不能直接使用。

      表2 Excel 舍入函數(shù)ROUND 和自定義函數(shù)gbt8170 比較

      6 結(jié)語(yǔ)

      綜上所述,利用Microsoft Excel VB 編程方式比較符合《數(shù)值修約規(guī)則與極限數(shù)值的表示和判定》數(shù)值修約規(guī)則要求,不僅比較容易實(shí)現(xiàn),使用起來(lái)也方便,就算不懂計(jì)算機(jī)編程,操作人員只要輸入自定義函數(shù)后,每次使用時(shí)只要調(diào)用gbt8170 函數(shù),就可以實(shí)現(xiàn)正常操作,可滿足科學(xué)技術(shù)和生產(chǎn)活動(dòng)中大多數(shù)需要數(shù)據(jù)計(jì)算處理的日常工作。

      猜你喜歡
      電子表格間隔數(shù)值
      用固定數(shù)值計(jì)算
      數(shù)值大小比較“招招鮮”
      間隔問(wèn)題
      間隔之謎
      電子表格的自動(dòng)化檢測(cè)
      淺談電子表格技術(shù)在人事管理中的應(yīng)用
      基于Excel電子表格的體育成績(jī)統(tǒng)計(jì)軟件設(shè)計(jì)
      基于Fluent的GTAW數(shù)值模擬
      焊接(2016年2期)2016-02-27 13:01:02
      巧用EXCEL電子表格計(jì)算土地面積
      上樓梯的學(xué)問(wèn)
      唐河县| 金溪县| 古浪县| 平阴县| 云和县| 偏关县| 卢龙县| 彰化县| 册亨县| 和静县| 陇川县| 江西省| 嘉鱼县| 视频| 岳西县| 昌吉市| 富阳市| 凤凰县| 额济纳旗| 鄂温| 河津市| 高密市| 行唐县| 壤塘县| 兴义市| 巧家县| 东丽区| 延庆县| 山西省| 深州市| 辉县市| 日照市| 陇南市| 金乡县| 拉孜县| 治多县| 双辽市| 个旧市| 安乡县| 榆社县| 丰顺县|