文档名:考虑区域间辅助奖励的配电网电压优化控制
摘要:智能软开关能够有效解决分布式光伏大规模接入配电网引起的电压波动问题,但会导致区域间协作程度加深,而现阶段使用多智能体深度强化学习算法进行电压优化时,各智能体仅使用各自区域内的奖励进行训练,导致智能体缺乏协同,输出策略难以保证最优性.为此提出考虑区域间辅助奖励的配电网电压优化方法,首先建立基于多智能体深度强化学习的多时间尺度电压优化框架,其次针对控制智能软开关的智能体,将各自区域内奖励定义为主奖励,邻近区域内奖励定义为辅助奖励,然后通过主、辅助奖励损失函数关于网络参数梯度的数量积分析辅助奖励对训练的有利程度,并采用演化博弈方法自适应修改辅助奖励参与因子;最后,在改进的IEEE33节点系统验证了所提方法能够稳定智能体训练过程,提升智能体策略的优化效果.
Abstract:Asoftopenpointcaneffectivelysolvethevoltagefluctuationproblemcausedbythelarge-scaleintegrationofdistributedphotovoltaicsintoapowerdistributionnetwork.However,thiscanleadtoincreasedcollaborationbetweenregions.Currently,whenusingmulti-agentdeepreinforcementlearningalgorithmsforvoltageoptimization,eachagentusesonlyrewardswithinitsownregionfortraining,resultinginalackofcoordinationamongagentsanddifficultyinguaranteeingtheoptimalityoftheoutputstrategies.Toaddressthisproblem,amethodforvoltageoptimizationindistributionnetworksthatconsidersinter-regionalauxiliaryrewardswasproposed.First,amulti-agentdeepreinforcementlearningframeworkbasedonmultipletimescaleswasestablishedforvoltageoptimization.Second,foragentscontrollingthesoftopenpoints,therewardswithintheirrespectiveregionsweredefinedasprimaryrewards,whereastherewardsfromneighboringregionsaredefinedasauxiliaryrewards.Thebeneficialeffectofauxiliaryrewardsontrainingwasanalyzedusingthedotproductoftheprimaryandauxiliaryrewardlossfunctionswithrespecttothenetworkparametergradients.Anadaptivemodificationoftheauxiliaryrewardparticipationfactorisimplementedusinganevolutionarygameapproach.Finally,theproposedmethodisvalidatedinanimprovedIEEE33nodesystem,whichdemonstratesstabletrainingprocessesandimprovesstrategyoptimizationfortheagents.
作者:周祥 李晓露 柳劲松 林顺富 Author:ZHOUXiang LIXiaolu LIUJinsong LINShunfu
作者单位:上海电力大学电气工程学院,上海市200090国网上海市电力公司电力科学研究院,上海市200437
刊名:电力建设
Journal:ElectricPowerConstruction
年,卷(期):2024, 45(5)
分类号:TM715
关键词:多智能体深度强化学习 电压优化 辅助奖励 演化博弈 参与因子
Keywords:multi-agentdeepreinforcementlearning voltageoptimization auxiliaryrewards evolutionarygame participationfactor
机标分类号:TM761.1TV742TP391
在线出版日期:2024年5月8日
基金项目:考虑区域间辅助奖励的配电网电压优化控制[
期刊论文] 电力建设--2024, 45(5)周祥 李晓露 柳劲松 林顺富智能软开关能够有效解决分布式光伏大规模接入配电网引起的电压波动问题,但会导致区域间协作程度加深,而现阶段使用多智能体深度强化学习算法进行电压优化时,各智能体仅使用各自区域内的奖励进行训练,导致智能体缺乏协同...参考文献和引证文献
参考文献
引证文献
本文读者也读过
相似文献
相关博文
考虑区域间辅助奖励的配电网电压优化控制 Voltage Optimization Control of Distribution Networks Considering Inter-Regional Auxiliary Rewards
考虑区域间辅助奖励的配电网电压优化控制.pdf
- 文件大小:
- 7.62 MB
- 下载次数:
- 60
-
高速下载
|
|