吳琪,趙宣茗,張佳誠(chéng),裘智峰
(中南大學(xué)自動(dòng)化學(xué)院,長(zhǎng)沙市 410083)
“雙碳”目標(biāo)是加快生態(tài)文明建設(shè)和實(shí)現(xiàn)高質(zhì)量發(fā)展的重要抓手,走低碳綠色發(fā)展道路是當(dāng)前社會(huì)發(fā)展的必由之路[1-2]。隨著電力市場(chǎng)改革的不斷推進(jìn)和碳交易試點(diǎn)工作的完善,電力行業(yè)作為最先納入碳試點(diǎn)工作的行業(yè),被認(rèn)為具有極大減排潛力[3]。電力市場(chǎng)[4]和碳市場(chǎng)[5-6]具有減排目標(biāo)一致、政策機(jī)制兼容、市場(chǎng)主體重合等特點(diǎn),在交易品種、參與主體、價(jià)格影響等多方面也存在諸多關(guān)聯(lián)[7]。
對(duì)兩個(gè)市場(chǎng)耦合的研究一直備受關(guān)注。文獻(xiàn)[8]表明研究電力市場(chǎng)和碳市場(chǎng)之間的相互關(guān)系及銜接機(jī)制有利于發(fā)揮綜合調(diào)控作用,為電力行業(yè)綠色發(fā)展提供決策參考。文獻(xiàn)[9]表明通過(guò)設(shè)計(jì)合理的市場(chǎng)機(jī)制研究電力市場(chǎng)與碳市場(chǎng)的耦合,有利于合理引導(dǎo)減排技術(shù)與資源的優(yōu)化配置,為市場(chǎng)主體提供減排激勵(lì)。在耦合的市場(chǎng)體系中,電市場(chǎng)提高碳市場(chǎng)活躍度,同時(shí)碳市場(chǎng)引導(dǎo)電市場(chǎng)主體進(jìn)行發(fā)用電行為,更好地發(fā)揮市場(chǎng)配置資產(chǎn)的作用。對(duì)電-碳耦合市場(chǎng)進(jìn)行仿真研究有助于實(shí)現(xiàn)電力資源優(yōu)化配置、低成本高效率地進(jìn)行節(jié)能減排。此外,還有針對(duì)電-碳耦合市場(chǎng)出清機(jī)制的研究。文獻(xiàn)[10]基于經(jīng)典的古諾競(jìng)爭(zhēng)模型,對(duì)不同類型的發(fā)電商參與市場(chǎng)的運(yùn)行方式進(jìn)行建模,構(gòu)建了兩層優(yōu)化的電力市場(chǎng)出清均衡模型,考慮了能量市場(chǎng)的出清條件。文獻(xiàn)[11-13]從碳市場(chǎng)背景出發(fā),針對(duì)碳市場(chǎng)背景下的電力市場(chǎng)均衡問(wèn)題建立雙層模型并分析碳市場(chǎng)對(duì)電力市場(chǎng)均衡的影響,其下層出清模型考慮碳配額總量約束。文獻(xiàn)[14]研究碳交易機(jī)制下考慮需求響應(yīng)的綜合能源系統(tǒng)優(yōu)化運(yùn)行出清機(jī)制,實(shí)現(xiàn)系統(tǒng)的經(jīng)濟(jì)性和低碳性。文獻(xiàn)[15]提出考慮碳排放限額的電力市場(chǎng)出清模型,同時(shí)考慮系統(tǒng)線路容量約束并以社會(huì)效益最大進(jìn)行市場(chǎng)出清。文獻(xiàn)[16]搭建了碳交易和發(fā)電權(quán)交易協(xié)同下的市場(chǎng)架構(gòu),分析不同博弈方式下的市場(chǎng)均衡,并基于經(jīng)濟(jì)效用和減排效益最大建立出清模型,結(jié)果表明所提模型可以實(shí)現(xiàn)出清目標(biāo)優(yōu)化。文獻(xiàn)[17]提出考慮碳市場(chǎng)影響的日前電力市場(chǎng)兩階段出清模型,結(jié)果表明該模型能夠平衡不同目標(biāo)的沖突,達(dá)到改善控制碳排放的效果。以上文獻(xiàn)考慮了碳交易對(duì)電力市場(chǎng)出清的影響,但是仍沿用傳統(tǒng)的電力市場(chǎng)出清機(jī)制,將所有發(fā)電商報(bào)價(jià)按照統(tǒng)一的規(guī)則進(jìn)行高低排序,未能區(qū)分不同類型發(fā)電商的環(huán)境效益,這可能導(dǎo)致以新能源為主的低排放機(jī)組出清結(jié)果不理想,不能有效激發(fā)新能源被消納的活力,也未體現(xiàn)兩個(gè)市場(chǎng)耦合下出清機(jī)制對(duì)市場(chǎng)結(jié)果的影響。事實(shí)上,環(huán)境成本通過(guò)碳市場(chǎng)傳導(dǎo)進(jìn)入電市場(chǎng),碳交易機(jī)制將通過(guò)價(jià)格信號(hào)對(duì)電市場(chǎng)主體形成激勵(lì)和約束,促使更多社會(huì)資源轉(zhuǎn)向低碳領(lǐng)域。有研究顯示,電-碳市場(chǎng)耦合協(xié)同運(yùn)作對(duì)于新能源發(fā)展的促進(jìn)作用更為顯著[18]。
綜上所述,目前電-碳耦合市場(chǎng)研究暫未考慮發(fā)電商的環(huán)境效益,現(xiàn)有機(jī)制下新能源的消納效果不明顯,基于此,本文提出一種促進(jìn)新能源消納的電-碳市場(chǎng)耦合激勵(lì)型出清機(jī)制,并對(duì)新機(jī)制下發(fā)電機(jī)組的投標(biāo)行為及其對(duì)新能源的消納作用展開(kāi)研究,主要?jiǎng)?chuàng)新點(diǎn)如下:
1)設(shè)計(jì)了一種電-碳市場(chǎng)耦合下的激勵(lì)型出清機(jī)制,通過(guò)引入激勵(lì)因子在整個(gè)電-碳市場(chǎng)的出清過(guò)程中充分考慮發(fā)電商的環(huán)境價(jià)值并對(duì)其發(fā)電投標(biāo)策略進(jìn)行調(diào)整,解決當(dāng)前新能源消納不足的問(wèn)題。
2)根據(jù)所設(shè)計(jì)的激勵(lì)型出清機(jī)制,構(gòu)建了電-碳市場(chǎng)耦合雙層模型,上層對(duì)異質(zhì)發(fā)電商的投標(biāo)策略建模,下層對(duì)激勵(lì)型市場(chǎng)出清機(jī)制建模。通過(guò)深度確定性策略梯度(deep deterministic policy gradient, DDPG)算法求解模型,建立了一個(gè)多維度的市場(chǎng)智能體行為-結(jié)果-調(diào)整行為的一個(gè)反復(fù)學(xué)習(xí)過(guò)程。
因此,本文從發(fā)電商的環(huán)境效益和電-碳耦合協(xié)同運(yùn)作下對(duì)新能源消納的積極作用出發(fā),首先,通過(guò)搭建電-碳市場(chǎng)框架厘清兩個(gè)市場(chǎng)之間的耦合關(guān)系和交互機(jī)理;其次,為促進(jìn)低碳清潔型機(jī)組參與市場(chǎng)的積極性,設(shè)計(jì)電-碳市場(chǎng)耦合環(huán)境下的激勵(lì)型出清機(jī)制,該機(jī)制包含預(yù)出清、修正、正式出清3個(gè)階段。在預(yù)出清階段,以社會(huì)福利最大化為目標(biāo),出清結(jié)果為市場(chǎng)出清電量和發(fā)電商初次報(bào)價(jià)系數(shù);在修正階段,以預(yù)出清結(jié)果為基礎(chǔ)求出碳市場(chǎng)激勵(lì)因子;在正式出清階段,通過(guò)激勵(lì)因子對(duì)發(fā)電商報(bào)價(jià)策略系數(shù)進(jìn)行調(diào)整,提高低碳清潔型機(jī)組的發(fā)電占比。最后,基于所提出清機(jī)制,構(gòu)建電-碳市場(chǎng)耦合雙層模型:上層研究異質(zhì)發(fā)電商策略投標(biāo)問(wèn)題,以發(fā)電商利潤(rùn)最大為目標(biāo),求解發(fā)電商的策略投標(biāo)系數(shù);下層研究激勵(lì)型出清機(jī)制下的市場(chǎng)出清問(wèn)題,以社會(huì)福利最大化為目標(biāo),求解機(jī)組中標(biāo)數(shù)據(jù);上下層之間通過(guò)兩層模型的數(shù)據(jù)結(jié)果進(jìn)行交互。采用深度強(qiáng)化學(xué)習(xí)算法對(duì)雙層模型進(jìn)行求解,并基于改進(jìn)的IEEE-30節(jié)點(diǎn)網(wǎng)絡(luò)進(jìn)行電-碳市場(chǎng)耦合模型搭建和算例仿真,得出市場(chǎng)出清結(jié)果和各機(jī)組收益情況,詳細(xì)分析電力市場(chǎng)與碳市場(chǎng)之間的相互影響和激勵(lì)型出清機(jī)制的有效性。
本文以碳市場(chǎng)和電力市場(chǎng)為背景,考慮二者之間的耦合關(guān)系,建立市場(chǎng)框架如圖1所示。由于輔助服務(wù)市場(chǎng)銜接碳市場(chǎng)不是本文考慮的重點(diǎn)內(nèi)容,且該市場(chǎng)不影響本文電-碳市場(chǎng)耦合模型的有效性分析,因此本文中的電力市場(chǎng)僅考慮電能量市場(chǎng),碳市場(chǎng)為同時(shí)考慮碳抵消市場(chǎng)和碳排放權(quán)交易的市場(chǎng)。電力行業(yè)的控排主體是指被生態(tài)環(huán)境部要求的強(qiáng)制納入碳市場(chǎng)總量管制和交易體系的企業(yè),主要指發(fā)電企業(yè),如燃煤火電等;非控排企業(yè)是指清潔的新能源企業(yè),如風(fēng)電、光伏等。整個(gè)電力市場(chǎng)和碳市場(chǎng)依托交易機(jī)制進(jìn)行耦合銜接,在資金流、物理流、信息流等方面存在相互影響。
1.1.1 碳市場(chǎng)概述
碳市場(chǎng)是一個(gè)基于總量控制的節(jié)能減排政策工具,分為碳交易市場(chǎng)和碳抵消市場(chǎng)。在實(shí)行強(qiáng)制減排的碳交易市場(chǎng)體系中,允許控排主體之間進(jìn)行自由的碳排放配額交易從而進(jìn)行配額清繳,即超額排放的主體通過(guò)購(gòu)買與超排量相當(dāng)?shù)呐漕~完成履約,反之則可以將多余配額在碳市場(chǎng)中出售以獲取收益。在自愿減排的碳抵消市場(chǎng)中,國(guó)家核證自愿減排量(Chinese certified emission reduction, CCER)作為碳市場(chǎng)中的一種補(bǔ)充交易機(jī)制[19]。目前全國(guó)碳市場(chǎng)中經(jīng)審定的CCER來(lái)源主要是可再生能源項(xiàng)目,包括水電、風(fēng)電、光伏等,控排主體可以按照1∶1的比例購(gòu)買CCER以完成履約。在本文中,各市場(chǎng)主體只作為碳市場(chǎng)價(jià)格的接受者,碳配額總量將依據(jù)規(guī)則分配至各主體,并與電力市場(chǎng)形成聯(lián)動(dòng)。
1.1.2 電力市場(chǎng)概述
在電力市場(chǎng)中,發(fā)電商向交易中心申報(bào)自身的報(bào)價(jià)曲線,以“電量-電價(jià)”對(duì)的形式參與競(jìng)標(biāo),電力交易中心在接收到供需雙方的競(jìng)標(biāo)信息后進(jìn)行市場(chǎng)出清,得到節(jié)點(diǎn)邊際電價(jià)和各市場(chǎng)成員的中標(biāo)電量,最后進(jìn)行交易結(jié)算[20]。
電-碳市場(chǎng)在運(yùn)行機(jī)制上緊密聯(lián)系、相互影響。電力市場(chǎng)中的各主體以日為時(shí)間尺度向交易中心進(jìn)行投標(biāo),常規(guī)火電機(jī)組的初始碳配額分配和配額清繳以年為單位進(jìn)行,并以季為時(shí)間尺度在碳市場(chǎng)進(jìn)行碳排放權(quán)交易。對(duì)于電力市場(chǎng)和碳市場(chǎng)的耦合,主要考慮在市場(chǎng)機(jī)制和市場(chǎng)主體行為方面的協(xié)同。就市場(chǎng)機(jī)制而言,電力市場(chǎng)通過(guò)出清的節(jié)點(diǎn)電價(jià)、機(jī)組出力等數(shù)據(jù)影響初始碳配額的分配和碳排放權(quán)交易,從而對(duì)碳市場(chǎng)產(chǎn)生影響;碳市場(chǎng)通過(guò)碳價(jià)、碳配額總量等數(shù)據(jù)影響機(jī)組發(fā)電成本和發(fā)電收益,從而影響電力市場(chǎng)的發(fā)電商報(bào)價(jià)決策和出清電量。就主體行為而言,發(fā)電商需要統(tǒng)籌考慮2個(gè)市場(chǎng)中的特性和各方面約束,從而做出最佳決策,同時(shí)考慮整個(gè)市場(chǎng)體系的社會(huì)效益和環(huán)境效益最大化。電-碳市場(chǎng)耦合問(wèn)題框圖如圖2所示。
為解決單個(gè)市場(chǎng)無(wú)法最大程度促進(jìn)資源配置和節(jié)能減排的問(wèn)題,考慮從加強(qiáng)電力市場(chǎng)和碳市場(chǎng)協(xié)同運(yùn)作和優(yōu)化市場(chǎng)機(jī)制方面入手,通過(guò)模擬主體在市場(chǎng)中的行為決策和改進(jìn)出清方式,促進(jìn)新能源消納和節(jié)能減排。本文所研究的電-碳耦合交易流程具體步驟如下:
步驟1:交易中心發(fā)布市場(chǎng)信息。其中電力市場(chǎng)發(fā)布次日負(fù)荷曲線和功率曲線等信息,碳市場(chǎng)發(fā)布碳價(jià)、碳配額等信息;各市場(chǎng)主體做好競(jìng)價(jià)前期準(zhǔn)備。
步驟2:發(fā)電機(jī)組根據(jù)市場(chǎng)交易信息申報(bào)次日的意愿成交電量及對(duì)應(yīng)價(jià)格。
步驟3:交易中心接收到各市場(chǎng)主體的申報(bào)信息,進(jìn)行預(yù)出清。預(yù)出清以直流潮流網(wǎng)絡(luò)模型構(gòu)建安全約束,出清目標(biāo)為考慮發(fā)用電側(cè)雙方的社會(huì)福利最大化,出清結(jié)果為市場(chǎng)出清電量和初次報(bào)價(jià)系數(shù)。
步驟4:考慮到環(huán)境效益和新能源消納問(wèn)題,正式出清以激勵(lì)因子為引導(dǎo),在預(yù)出清結(jié)果的基礎(chǔ)上對(duì)發(fā)電商的初次報(bào)價(jià)系數(shù)進(jìn)行修正和調(diào)整,出清目標(biāo)及其他約束不變,出清結(jié)果為市場(chǎng)出清電量和對(duì)應(yīng)的出清節(jié)點(diǎn)電價(jià)。
步驟5:將市場(chǎng)出清信息反饋至各主體,形成次日發(fā)電計(jì)劃并進(jìn)行安全校核。
步驟6:結(jié)合電力市場(chǎng)交易數(shù)據(jù),進(jìn)行碳排放權(quán)交易,得到碳市場(chǎng)交易結(jié)果。
步驟7:交易結(jié)果反饋至電力市場(chǎng),并同時(shí)影響下一次發(fā)電機(jī)組報(bào)價(jià)和出清約束條件。機(jī)組基于此優(yōu)化下一階段的報(bào)價(jià)策略,如此循環(huán),最終達(dá)到市場(chǎng)均衡狀態(tài)。
市場(chǎng)出清需要解決常規(guī)能源機(jī)組和新能源機(jī)組同臺(tái)競(jìng)價(jià)問(wèn)題,既要保證市場(chǎng)公平有序和穩(wěn)定運(yùn)行,又要兼顧減排效益和社會(huì)效益。與常規(guī)能源機(jī)組相比,新能源機(jī)組有著投入成本高的特點(diǎn),因此其報(bào)價(jià)在市場(chǎng)競(jìng)價(jià)過(guò)程中不具備優(yōu)勢(shì);但從環(huán)境效益的角度考慮,新能源機(jī)組的碳排放量顯著低于常規(guī)能源機(jī)組。由于碳市場(chǎng)將環(huán)境成本傳導(dǎo)至電市場(chǎng)調(diào)度決策中,進(jìn)而影響市場(chǎng)出清結(jié)果。而傳統(tǒng)的電力市場(chǎng)出清機(jī)制將所有的發(fā)電商報(bào)價(jià)按照統(tǒng)一的規(guī)則進(jìn)行高低排序,忽略了新能源的環(huán)境效益,導(dǎo)致以新能源為主的低排放機(jī)組出清結(jié)果不理想,這與低碳建設(shè)的理念相悖。因此,本文設(shè)計(jì)一種基于電-碳市場(chǎng)耦合的激勵(lì)型出清機(jī)制,以期促進(jìn)新能源消納和低碳減排。該機(jī)制分為預(yù)出清、報(bào)價(jià)修正和正式出清三階段:在預(yù)出清階段,以社會(huì)福利最大化為目標(biāo),出清結(jié)果為市場(chǎng)出清電量和發(fā)電商初次報(bào)價(jià)系數(shù);在修正階段,結(jié)合預(yù)出清階段模擬的各機(jī)組中標(biāo)情況,計(jì)算得到整個(gè)系統(tǒng)的平均碳排放系數(shù),將其與每個(gè)機(jī)組的碳排放系數(shù)進(jìn)行比對(duì),求解出碳市場(chǎng)激勵(lì)因子;正式出清階段,通過(guò)該激勵(lì)因子對(duì)發(fā)電商報(bào)價(jià)策略系數(shù)進(jìn)行調(diào)整,重新改變機(jī)組報(bào)價(jià),排放系數(shù)高于平均值的機(jī)組報(bào)價(jià)增加,低于平均值的機(jī)組報(bào)價(jià)降低,因此能夠提高低碳清潔型機(jī)組的中標(biāo)電量占比,有效促進(jìn)新能源消納,同時(shí)保證社會(huì)效益和環(huán)境效益。兩次出清階段均考慮到機(jī)組中標(biāo)電量、節(jié)點(diǎn)功率平衡、負(fù)荷中標(biāo)電量、支路潮流和碳配額總量等約束條件,出清結(jié)果包括碳交易和電力市場(chǎng)交易情況以及機(jī)組中標(biāo)情況。整個(gè)出清機(jī)制作為雙層模型的下層參與市場(chǎng)決策。激勵(lì)型出清機(jī)制框架如圖3所示。
圖3 激勵(lì)型出清機(jī)制框架Fig.3 Framework of incentive clearing mechanism
在電-碳市場(chǎng)耦合問(wèn)題中,各發(fā)電主體根據(jù)自身數(shù)據(jù)進(jìn)行報(bào)價(jià)競(jìng)標(biāo),為達(dá)到自身利益最大化選擇最優(yōu)策略,其行為影響市場(chǎng)出清結(jié)果;而電力交易中心根據(jù)發(fā)用雙方的申報(bào)數(shù)據(jù)進(jìn)行集中統(tǒng)一出清,碳排放權(quán)交易中心對(duì)發(fā)電機(jī)組的碳排放進(jìn)行總量約束,綜合所有報(bào)價(jià)信息和電碳市場(chǎng)運(yùn)行參數(shù)后得到的出清結(jié)果反饋至發(fā)電商并決定其中標(biāo)電量和收益;發(fā)電商基于此完成碳配額清繳與履約。整個(gè)交易過(guò)程綜合考慮到主體的交易行為和市場(chǎng)出清環(huán)境,兩者相互影響。因此,本文搭建發(fā)電商報(bào)價(jià)決策層和市場(chǎng)出清層相結(jié)合的電-碳市場(chǎng)耦合雙層模型,如圖4所示。
圖4 電-碳市場(chǎng)耦合雙層模型Fig.4 Two-layer model of electricity-carbon coupling market
2.2.1 上層:異質(zhì)發(fā)電商的策略性投標(biāo)
電-碳耦合的市場(chǎng)主體在一個(gè)統(tǒng)一的市場(chǎng)環(huán)境中參與競(jìng)爭(zhēng)。上層解決發(fā)電商在策略約束下進(jìn)行報(bào)價(jià)選擇使得自身利益最大化的問(wèn)題。
對(duì)于常規(guī)火電商而言,主要考慮供電燃料成本,構(gòu)建其成本函數(shù)為單位時(shí)間內(nèi)出力的二次函數(shù):
(1)
(2)
(3)
考慮常規(guī)火電機(jī)組和新能源機(jī)組進(jìn)行同臺(tái)競(jìng)價(jià),發(fā)電商基于自身報(bào)價(jià)特性及市場(chǎng)運(yùn)行規(guī)則,追求利潤(rùn)最大化,構(gòu)建詳細(xì)數(shù)學(xué)模型如下:
max{RF,RN}
(4)
(5)
(6)
(7)
(8)
(9)
(10)
(11)
此外,與發(fā)電商投標(biāo)模型相對(duì)應(yīng)建立負(fù)荷側(cè)的線性需求模型,反映其愿意接受的用電價(jià)格與用電量之間的關(guān)系,模型如下:
(12)
(13)
2.2.2 下層:市場(chǎng)出清模型
本文中電-碳耦合市場(chǎng)出清模型參考電力庫(kù)模型,為市場(chǎng)主體競(jìng)爭(zhēng)的下層模型。市場(chǎng)獨(dú)立運(yùn)營(yíng)商根據(jù)各方主體的投標(biāo)報(bào)價(jià),以社會(huì)福利最大化為目標(biāo)進(jìn)行市場(chǎng)出清,上層模型中的發(fā)電商投標(biāo)決策系數(shù)在本層模型中為已知量。采用激勵(lì)型出清機(jī)制進(jìn)行市場(chǎng)出清,設(shè)計(jì)思路如2.1節(jié)所述。具體建模過(guò)程如下:
1)預(yù)出清階段。
(14)
式中:π表示整個(gè)電-碳耦合市場(chǎng)的總社會(huì)福利。
2)報(bào)價(jià)修正階段。
考慮到常規(guī)火電機(jī)組和新能源機(jī)組具有不同的環(huán)境效益,因此進(jìn)行報(bào)價(jià)策略修正??傮w思路是在預(yù)出清模擬各機(jī)組中標(biāo)情況的基礎(chǔ)上,計(jì)算出整個(gè)系統(tǒng)的平均碳排放系數(shù)。將其與每個(gè)機(jī)組的碳排放系數(shù)進(jìn)行比對(duì),求出碳市場(chǎng)激勵(lì)因子。對(duì)于排放系數(shù)超過(guò)平均值的機(jī)組用該激勵(lì)因子抬高其報(bào)價(jià)系數(shù),使得其中標(biāo)量減少;反之,對(duì)低于平均值的機(jī)組降低其報(bào)價(jià)系數(shù),使其獲得更多的中標(biāo)量,從而降低整個(gè)系統(tǒng)的碳排放量。
對(duì)于m個(gè)常規(guī)火電機(jī)組而言,根據(jù)其競(jìng)價(jià)信息可得系統(tǒng)平均碳排放系數(shù)Eb為:
(15)
(16)
用激勵(lì)因子修正火電商報(bào)價(jià),同時(shí)考慮到新能源的清潔性,不進(jìn)行報(bào)價(jià)的修正:
(17)
采用修正報(bào)價(jià)的意義在于通過(guò)激勵(lì)因子的作用將碳市場(chǎng)的減排約束和電力市場(chǎng)的出清結(jié)果結(jié)合起來(lái),區(qū)分了不同市場(chǎng)主體的環(huán)境特性,在保證基本負(fù)荷需求的同時(shí)兼顧社會(huì)效益和環(huán)境效益。
3)正式出清階段。
按照修正后的報(bào)價(jià)重新進(jìn)行集中交易。正式出清階段的目標(biāo)函數(shù)如下:
(18)
電-碳耦合市場(chǎng)需運(yùn)行于出清規(guī)則約束和系統(tǒng)物理約束下,兩出清階段的約束條件相同。在接收到各發(fā)電商報(bào)價(jià)信息后,市場(chǎng)運(yùn)營(yíng)機(jī)構(gòu)以統(tǒng)一邊際價(jià)格,形成總報(bào)價(jià)曲線和總需求曲線進(jìn)行匹配出清,并確定中標(biāo)電量和電價(jià)。約束條件如下:
1)發(fā)電機(jī)組中標(biāo)電量約束。
(19)
2)負(fù)荷中標(biāo)電量約束。
(20)
3)節(jié)點(diǎn)功率平衡約束。
(21)
式中:m、n、k分別表示常規(guī)火電商、新能源發(fā)電商和電力負(fù)荷的數(shù)量。
4)支路潮流約束。
(22)
式中:σPTDF為功率傳輸轉(zhuǎn)移分布因子,能夠?qū)δP瓦M(jìn)行有效的潮流約束;Lmax為傳輸線路最大容量限制。
5)碳配額總量約束。
(23)
式中:Mi為市場(chǎng)中的總碳排放量約束。
(24)
對(duì)于雙層模型的求解,目前現(xiàn)有研究中,分為人工智能算法[24,27-28]和轉(zhuǎn)化為單層模型的線性化求解算法[11, 29-31]兩種。而深度強(qiáng)化學(xué)習(xí)[32-33]作為人工智能算法中的一個(gè)分支,通過(guò)在動(dòng)態(tài)環(huán)境中反復(fù)探索與試錯(cuò)從而找到最優(yōu)策略,能夠在兼顧多方利益的同時(shí)較好地幫助主體在兩個(gè)市場(chǎng)中進(jìn)行協(xié)同[34-35]。本文采用DDPG算法,將尋找最佳策略的優(yōu)化問(wèn)題轉(zhuǎn)化為智能體搜索經(jīng)驗(yàn)的更新問(wèn)題,進(jìn)行模型求解,基于DDPG算法的競(jìng)價(jià)模型求解示意如圖5所示。用四元組{sgt,agt,pgt,rgt}描述電-碳耦合市場(chǎng)的馬爾可夫模型[30],其中sgt表示狀態(tài)空間,agt表示動(dòng)作空間,pgt表示策略,rgt表示獎(jiǎng)勵(lì)函數(shù),具體如下:
圖5 基于DDPG算法的競(jìng)價(jià)模型求解示意Fig.5 Schematic diagram of bidding model solving based on DDPG algorithm
2)動(dòng)作空間:DDPG算法能夠處理連續(xù)動(dòng)作空間。在本模型中,動(dòng)作空間為按報(bào)價(jià)系數(shù)給出的報(bào)價(jià)曲線,如式(3)所示。
4)獎(jiǎng)勵(lì)函數(shù):獎(jiǎng)勵(lì)函數(shù)作為智能體執(zhí)行動(dòng)作后環(huán)境的反饋。在本模型中,由于市場(chǎng)理性,發(fā)電商只在意自身的利潤(rùn)回報(bào),因此將每個(gè)發(fā)電商的利潤(rùn)作為獎(jiǎng)勵(lì)函數(shù)。
整個(gè)模型求解流程如圖6所示。
本文仿真測(cè)試基于硬件平臺(tái)Intel(R) Core(TM) i5-7200U CPU實(shí)現(xiàn),深度強(qiáng)化學(xué)習(xí)算法均在python3.7中執(zhí)行,仿真環(huán)境為pytorch框架。
采用改進(jìn)的IEEE-30節(jié)點(diǎn)系統(tǒng)為例驗(yàn)證本文模型的有效性,其中G1、G2、G3、G4為常規(guī)火電機(jī)組,G5、G6為新能源發(fā)電機(jī)組。網(wǎng)絡(luò)中各節(jié)點(diǎn)之間的阻抗相同,不考慮線路阻塞的影響。機(jī)組的成本參數(shù)和性能參數(shù)如表1和表2所示[36]。此外,G5和G6的度電成本分別為220、250元/MWh。根據(jù)文獻(xiàn)[37]設(shè)置碳價(jià)為58元/t,CCER價(jià)格為36元/t,按照文獻(xiàn)[38]設(shè)定機(jī)組碳排放配額百分比為0.86,CCER比例取5%。
表1 機(jī)組成本參數(shù)Table 1 Cost parameter of generators
表2 機(jī)組性能參數(shù)Table 2 Performance parameter of generators
設(shè)置實(shí)驗(yàn)仿真參數(shù):最大實(shí)驗(yàn)仿真次數(shù)T=20 000;學(xué)習(xí)訓(xùn)練初始化次數(shù)Tcap=1 000;學(xué)習(xí)訓(xùn)練次數(shù)Ttra=19 000;更新率ρ=10-3;折扣因子γ=0.9。
圖7展示了在激勵(lì)型出清機(jī)制下,電-碳耦合市場(chǎng)中發(fā)電商競(jìng)價(jià)過(guò)程以及對(duì)應(yīng)的收益情況。對(duì)模型訓(xùn)練20 000個(gè)回合,由圖7可以看出,市場(chǎng)在前5 000輪仿真中不斷波動(dòng),說(shuō)明智能體在初期策略探索性較強(qiáng),經(jīng)驗(yàn)池中存儲(chǔ)著大量的經(jīng)驗(yàn)有利于模型的學(xué)習(xí),各智能體之間在不斷地進(jìn)行博弈對(duì)抗以爭(zhēng)取自身最大利益,在6 000輪實(shí)驗(yàn)之后逐漸趨于穩(wěn)定,最終每個(gè)發(fā)電商的報(bào)價(jià)達(dá)到了收斂的均衡效果,由此得出相對(duì)應(yīng)的利潤(rùn)結(jié)果。整個(gè)訓(xùn)練過(guò)程耗時(shí)1 757.12 s。
4.3.1 場(chǎng)景設(shè)置
為了更清晰地對(duì)比分析不同情況下發(fā)電商的報(bào)價(jià)策略以及市場(chǎng)均衡情況,本節(jié)設(shè)置了三個(gè)場(chǎng)景:
場(chǎng)景1:?jiǎn)我浑娏κ袌?chǎng)(electricity market,EM)場(chǎng)景,即不考慮發(fā)電商的碳排放行為,且市場(chǎng)中不對(duì)發(fā)電商的碳排放量進(jìn)行總量約束;
場(chǎng)景2:簡(jiǎn)單碳市場(chǎng) (carbon market,CM) 場(chǎng)景,即考慮市場(chǎng)中的碳排放總量約束但不考慮發(fā)電商的碳交易行為;
場(chǎng)景3:電-碳市場(chǎng)耦合 (electricity-carbon market,ECM) 場(chǎng)景,即在市場(chǎng)碳排放總量約束的前提下,考慮各發(fā)電商之間進(jìn)行自由的碳排放權(quán)交易。
多場(chǎng)景實(shí)驗(yàn)下機(jī)組報(bào)價(jià)策略組合和交易結(jié)果如表3所示。
表3 多場(chǎng)景實(shí)驗(yàn)下機(jī)組報(bào)價(jià)策略組合和交易結(jié)果對(duì)比Table 3 Comparison of unit quotation strategy combination and trading results under multi-scenario experiment
4.3.2 結(jié)果分析
1)對(duì)比ECM和CM場(chǎng)景結(jié)果可知,常規(guī)火電機(jī)組通過(guò)發(fā)電行為產(chǎn)生碳排放量,在沒(méi)有碳排放權(quán)交易行為的情況下,發(fā)電機(jī)組只能在各自的碳排放約束下進(jìn)行發(fā)電行為,在一定程度上造成了碳排放權(quán)和發(fā)電權(quán)的浪費(fèi);而在電碳市場(chǎng)耦合中考慮到發(fā)電商之間的排放權(quán)交易行為,系統(tǒng)中的碳排放量由CM場(chǎng)景中的189.71 t降為ECM場(chǎng)景中的186.92 t,發(fā)電量由319.6 MW·h增加為323.1 MW·h,即能夠在增加發(fā)電量的同時(shí)降低碳排放。隨著總發(fā)電量的增加,即使在節(jié)點(diǎn)電價(jià)由460.47元/(MW·h)降低到451.88元/(MW·h)的情況下,機(jī)組獲得的利潤(rùn)也得到提升,由CM中的61 785.90元增加到ECM中的63 690.38元。
2)對(duì)比ECM和EM場(chǎng)景結(jié)果可知,隨著碳市場(chǎng)交易的引入,常規(guī)火電機(jī)組因碳交易而增加的成本會(huì)折算到發(fā)電側(cè)報(bào)價(jià)中,從而間接地改變發(fā)電商報(bào)價(jià)策略和節(jié)點(diǎn)電價(jià),因此,碳市場(chǎng)會(huì)改變電力市場(chǎng)交易環(huán)境。以G3、G4和G6為例,相比于EM場(chǎng)景,在ECM場(chǎng)景中,G3的報(bào)價(jià)由249.28元/(MW·h)上升至259.18元/(MW·h),G4的報(bào)價(jià)由305.23元/(MW·h)上升至354.15元/(MW·h),同時(shí)新能源機(jī)組G6的報(bào)價(jià)由359.17元/(MW·h)下降至339.15元/(MW·h)。由此可見(jiàn),常規(guī)火電機(jī)組會(huì)抬高發(fā)電報(bào)價(jià)以滿足自身的利潤(rùn)最大化,新能源機(jī)組為了競(jìng)爭(zhēng)會(huì)降低報(bào)價(jià)以獲取更多的中標(biāo)電量,二者報(bào)價(jià)的變化均影響出清的節(jié)點(diǎn)電價(jià)。
碳成本反映在發(fā)電機(jī)組利潤(rùn)中,發(fā)電機(jī)組利潤(rùn)也會(huì)隨著發(fā)電商的中標(biāo)電量而變化,因而造成常規(guī)火電機(jī)組的利潤(rùn)有不同程度的下降,而新能源機(jī)組和排放量較低的G2機(jī)組利潤(rùn)有不同程度的上升。但總體而言,節(jié)點(diǎn)電價(jià)整體抬升,有利于提升系統(tǒng)整體收益,機(jī)組總利潤(rùn)由56 125.37元增加至63 690.38元。
3)相比于EM場(chǎng)景,ECM場(chǎng)景中碳排放量由209.79 t下降到186.92 t,可見(jiàn)碳交易的引入對(duì)于碳減排效果更為顯著。系統(tǒng)中的新能源發(fā)電量由EM場(chǎng)景中的66.24 MW·h上升至ECM場(chǎng)景中的80.74 MW·h,即電碳市場(chǎng)耦合能夠提高新能源發(fā)電量并促進(jìn)新能源消納。但是系統(tǒng)的總發(fā)電量有所下降,將在下節(jié)中做進(jìn)一步的改進(jìn)。
4)整體上,電碳市場(chǎng)耦合能夠結(jié)合2個(gè)市場(chǎng)各自的優(yōu)勢(shì),電力市場(chǎng)的電力資源得以優(yōu)化配置,提高了新能源發(fā)電量;碳市場(chǎng)的碳配額總量約束和碳排放權(quán)交易行為也進(jìn)一步約束了發(fā)電機(jī)組的發(fā)電行為,降低了系統(tǒng)的碳排放量,有助于實(shí)現(xiàn)減排目標(biāo)。
為了進(jìn)一步驗(yàn)證激勵(lì)型出清機(jī)制對(duì)機(jī)組行為的影響,本節(jié)設(shè)置傳統(tǒng)出清機(jī)制和激勵(lì)型出清機(jī)制的對(duì)比實(shí)驗(yàn),討論2種出清規(guī)則對(duì)于發(fā)電機(jī)組報(bào)價(jià)和交易結(jié)果造成不同的影響,對(duì)比結(jié)果分別如表4和表5所示,分析如下:
表4 不同出清階段發(fā)電機(jī)組報(bào)價(jià)及中標(biāo)情況對(duì)比Table 4 Comparison of bidding and quotation of generator sets in different clearing stages
1)在預(yù)出清階段,新能源機(jī)組G5和G6由于報(bào)價(jià)較高,在與常規(guī)火電機(jī)組同臺(tái)競(jìng)價(jià)中不具備優(yōu)勢(shì)。在修正階段計(jì)算出系統(tǒng)平均碳排放系數(shù)為0.62,顯然,G1、G3和G4的排放系數(shù)均高于該值,因此采用激勵(lì)因子進(jìn)行調(diào)整,結(jié)果如表4所示。在正式出清階段,G5和G6機(jī)組的報(bào)價(jià)系數(shù)相比之下更具優(yōu)勢(shì),從而獲得了更多的中標(biāo)電量。激勵(lì)因子將機(jī)組報(bào)價(jià)特性和環(huán)境成本結(jié)合并反映在市場(chǎng)出清中,改變機(jī)組中標(biāo)出力情況。
2)由表5可以看出,相比于傳統(tǒng)出清機(jī)制而言,激勵(lì)型出清機(jī)制能夠顯著地降低系統(tǒng)的節(jié)點(diǎn)電價(jià),增加社會(huì)福利,降低系統(tǒng)碳排放量,同時(shí)兼顧社會(huì)效益和減排效益。系統(tǒng)的總發(fā)電量由323.05 MW·h提高到346.70 MW·h,在一定程度上可以彌補(bǔ)發(fā)電不足而造成的缺電問(wèn)題,短期的電力缺口可以通過(guò)調(diào)整出力來(lái)滿足;而系統(tǒng)的碳排放量由186.9 t下降至167.5 t,節(jié)點(diǎn)電價(jià)降幅11.4%,即在提高系統(tǒng)總發(fā)電量的同時(shí)降低了節(jié)點(diǎn)電價(jià)和碳排放量,有利于電力行業(yè)綠色發(fā)展。
3)在傳統(tǒng)出清機(jī)制中,由于G3的報(bào)價(jià)較G1和G4而言更低,所以在不考慮其碳排放的情況下系統(tǒng)將按照?qǐng)?bào)價(jià)高低進(jìn)行統(tǒng)一排序,G3可能獲得更多的中標(biāo)電量。但是由于碳市場(chǎng)激勵(lì)因子的引入,重新對(duì)發(fā)電商的報(bào)價(jià)策略進(jìn)行調(diào)整,從而降低G3發(fā)電機(jī)組的出力比重。不同出清規(guī)則的發(fā)電量對(duì)比如圖8所示,G3和G4的發(fā)電量顯著降低,相比之下,G1和G2機(jī)組由于排放系數(shù)較小,其發(fā)電量略有上升。此外,新能源機(jī)組G5、G6的發(fā)電量均有顯著的增加,市場(chǎng)中的新能源發(fā)電占比由25%提升到36.3%。即高能效機(jī)組的競(jìng)爭(zhēng)優(yōu)勢(shì)提高,低能效機(jī)組的市場(chǎng)份額下降,同時(shí)有效提高新能源發(fā)電占比,促進(jìn)新能源消納。因此,激勵(lì)型出清機(jī)制能夠調(diào)整市場(chǎng)中機(jī)組發(fā)電的報(bào)價(jià)策略,改變現(xiàn)有的發(fā)電側(cè)中標(biāo)出力格局。
圖8 不同出清規(guī)則的發(fā)電量對(duì)比Fig.8 Comparison of energy generation under different clearing rules
CCER和碳配額的比例對(duì)于政府進(jìn)行市場(chǎng)調(diào)控至關(guān)重要,因此,本節(jié)分別分析了二者對(duì)電碳市場(chǎng)耦合的影響。
1)首先,CCER比例取1%至10%時(shí)的火電機(jī)組利潤(rùn)變化情況如圖9所示。由圖可知,隨著CCER抵消比例的提高,由于CCER自身價(jià)格低于碳價(jià)的優(yōu)勢(shì),可以促使發(fā)電機(jī)組購(gòu)買CCER以更加經(jīng)濟(jì)的方式完成履約,降低參與碳市場(chǎng)的成本從而獲得更高的發(fā)電利潤(rùn),提高發(fā)電機(jī)組參與碳市場(chǎng)的積極性。但需要注意的是,作為控排主體,常規(guī)火電機(jī)組理應(yīng)致力于自身的碳減排。如果過(guò)度放開(kāi)CCER抵消比例可能會(huì)增加機(jī)組的利潤(rùn),打破市場(chǎng)平衡,減排效果不佳甚至與建立碳市場(chǎng)的初衷相悖。
圖9 CCER抵消比例靈敏度分析結(jié)果Fig.9 CCER offset proportional sensitivity analysis results
2)再有,碳配額取10%~90%時(shí)市場(chǎng)的節(jié)點(diǎn)電價(jià)和發(fā)電量的變化如圖10所示。在碳價(jià)一定的前提下,隨著碳配額的收緊,節(jié)點(diǎn)電價(jià)呈現(xiàn)逐步上升的趨勢(shì),發(fā)電量呈現(xiàn)逐步下降的趨勢(shì)。當(dāng)碳配額比例下降到40%以下時(shí),出現(xiàn)個(gè)別發(fā)電商的負(fù)利潤(rùn);當(dāng)碳配額比例下降到20%以下時(shí),幾乎所有的常規(guī)能源火電機(jī)組無(wú)法正常發(fā)電。因此,碳配額的設(shè)置應(yīng)有其合理性依據(jù)。當(dāng)碳配額比例過(guò)于寬松,可能減排效果不突出,環(huán)境保護(hù)效益未能凸顯;當(dāng)碳配額比例過(guò)于收緊,將會(huì)導(dǎo)致節(jié)點(diǎn)電價(jià)的急劇上漲和社會(huì)福利減少。合理的碳配額比例設(shè)置能夠在滿足負(fù)荷需求、保證電力系統(tǒng)安全穩(wěn)定運(yùn)行的前提下盡可能地降低二氧化碳排放量,提高清潔能源機(jī)組競(jìng)爭(zhēng)力,約束發(fā)電機(jī)組的發(fā)電行為,促進(jìn)市場(chǎng)節(jié)能減排和低碳發(fā)展。
圖10 碳配額比例靈敏度分析結(jié)果Fig.10 Carbon quota proportional sensitivity analysis results
“雙碳”目標(biāo)的提出進(jìn)一步加強(qiáng)了電力系統(tǒng)和碳相關(guān)交易的耦合關(guān)系。為促使電碳市場(chǎng)協(xié)同發(fā)展,本文首先搭建電-碳市場(chǎng)耦合框架,分析2個(gè)市場(chǎng)之間的耦合關(guān)系和交互機(jī)理。針對(duì)現(xiàn)有出清機(jī)制因忽略發(fā)電商的環(huán)境效益而導(dǎo)致以新能源為主的低排放機(jī)組出清結(jié)果不理想的情況,本文提出了激勵(lì)型出清機(jī)制。綜合考慮碳成本、碳配額、碳交易等多種復(fù)雜的市場(chǎng)條件,構(gòu)建電-碳市場(chǎng)耦合雙層模型研究機(jī)制的可行性。最后,采用深度強(qiáng)化學(xué)習(xí)算法進(jìn)行多場(chǎng)景對(duì)比分析。研究表明:
1)電碳市場(chǎng)耦合能夠結(jié)合2個(gè)市場(chǎng)各自的優(yōu)勢(shì),電力市場(chǎng)的電力資源得以優(yōu)化配置,同時(shí),新能源發(fā)電量由66.24 MW·h提升至80.74 MW·h,即相對(duì)于單純電力市場(chǎng)而言,在電-碳耦合市場(chǎng)中新能源的發(fā)電量提高約22%;碳市場(chǎng)的碳配額總量約束和碳排放權(quán)交易行為也進(jìn)一步約束了發(fā)電機(jī)組的發(fā)電行為,有助于實(shí)現(xiàn)減排目標(biāo)。
2)激勵(lì)型出清機(jī)制可以顯著降低節(jié)點(diǎn)電價(jià),增大社會(huì)福利,增加高能效機(jī)組的競(jìng)爭(zhēng)優(yōu)勢(shì)。市場(chǎng)中的新能源發(fā)電占比由25.0%提升到36.3%,系統(tǒng)的總發(fā)電量由323.05 MW提高到346.70 MW,即該機(jī)制能夠顯著提高新能源發(fā)電占比和系統(tǒng)的總發(fā)電量,有效促進(jìn)新能源消納,在保證減排效果的前提下避免因發(fā)電量不足而造成缺電問(wèn)題。
3)適量比例的CCER和碳配額可以提高機(jī)組參與碳市場(chǎng)的積極性,鼓勵(lì)發(fā)電集團(tuán)加大自身節(jié)能減排力度和清潔轉(zhuǎn)型,在滿足負(fù)荷需求、保證電力系統(tǒng)安全穩(wěn)定運(yùn)行的前提下盡可能地降低二氧化碳排放量。
本文提出的模型考慮到我國(guó)碳市場(chǎng)建設(shè)的實(shí)際情況,并研究電力市場(chǎng)和碳市場(chǎng)之間的耦合關(guān)系,同時(shí)結(jié)合低碳要求對(duì)傳統(tǒng)出清機(jī)制做出進(jìn)一步改善,對(duì)于后續(xù)電-碳市場(chǎng)建設(shè)有一定的理論意義和實(shí)踐價(jià)值。