本发明属于通信领域,特别是涉及一种ris辅助稀疏联邦学习网络的传输方案设计方法及系统。
背景技术:
1、近年来移动边缘计算应用的广泛部署使边缘设备能够在本地处理和存储数据,推动了基于数据驱动的联邦学习(federated learning,fl)技术的快速发展。fl网络中边缘设备基于本地数据集独立训练其本地模型,并仅将本地梯度信息上传至服务器,有效避免大量敏感数据共享,实现数据泄露风险的降低。尽管在fl中上传本地梯度信息而不是原始数据集可以减少通信开销,但本地模型参数(例如神经网络)仍然包含大量参数。
2、为解决该问题,稀疏联邦学习网络通过对本地待上传的梯度进行稀疏化,实现传输信息量减少的同时保证联邦学习网络的性能。然而,已有工作均假设服务器成功接收本地梯度信息,而实际系统中,无线信道的不稳定性导致本地梯度信息上传过程中出现传输错误,进而影响成功接收到的本地梯度信息量。智能反射面(reconfigurable intelligentsurface,ris)技术作为6g关键技术之一,通过操纵反射单元精细调整反射信号的相位角,实现对无线传播环境的智能控制。ris技术为fl网络中无线通信系统的设计提供了更高的自由度。目前,国内外已经涌现了大量相关研究工作。2022年,m.naseritehran等人进一步研究了多用户场景下,提出了一种块坐标下降方法对发射端波束成形和ris相位进行交替迭代优化,实现在满足qos要求的同时最小化发射功率。2021年,h.liu等人在单ris辅助联邦学习场景下分析联邦学习的收敛性,通过连续凸逼近(sca)方法对发射端和ris的波束成形进行联合设计。为进一步提升通信效率,2022年w.ni等人提出一种多ris辅助的联邦学习框架,并提出一种基于交替迭代方法的联合发射功率、ris处波束成形和设备选择算法。
3、目前,已有工作设计联邦学习网络中的无线传输方案时均假设传输的块长趋于无穷。而实际场景下,由于无线资源的是有限的,因此本地信息传输采用有限块长度的编码承载,即所谓的有限块长度(fbl)通信。根据2012年polyanskiy提出的传输速率模型可知,即使编码率低于香农容量时解码错误也不可忽略,并且当块长的长度变短时,解码错误概率会增加。考虑采用有限块长进行信息传输时信息传输错误会降低联邦学习的收敛速度以及联邦学习解决方案的准确性,因此在稀疏联邦学习网络的设计时考虑对有限码长传输的影响至关重要。因此,考虑有限块长通信对稀疏联邦学习网络性能的影响,一种高效的无线传输方案的设计方法尚需研究。
技术实现思路
1、针对ris辅助的稀疏联邦学习网络中本地信息的稀疏误差和传输错误导致联邦学习性能低的问题,本发明提出一种基于交替迭代优化的传输方案设计方法,通过对ris相位、发射功率和编码速率进行联合设计,实现稀疏联邦学习网络性能的提升。
2、本发明提出了一种ris辅助稀疏联邦学习网络的传输方案设计方法,包括:
3、一种ris辅助稀疏联邦学习网络的传输方案设计方法,包括以下步骤:
4、步骤1:基于ris辅助的稀疏联邦学习网络场景,结合有限码长理论计算通信系统的传输错误概率表达式,并获取本地梯度信息的稀疏系数表达式;
5、步骤2:基于传输错误概率表达式和本地梯度信息的稀疏系数表达式构建优化问题的目标函数,并根据ris处波束成形定义恒定模长约束,根据服务器与边缘设备的传输功率总和定义总传输功率约束构建面向联邦学习性能最大化的联合资源分配和波束成形设计优化问题;
6、步骤3:获取编码速率最优解的解析表达式,并基于此对构建的优化问题进行降维将原问题转化为仅关于发射功率和ris相位矩阵的降维后的优化问题;
7、步骤4:求解降维后的优化问题,并获取边缘设备的编码速率、发射功率和ris相位矩阵的高效解以获取传输方案;
8、步骤5:基于步骤4中传输方案,边缘设备基于本地数据计算本地稀疏梯度信息,结合稀疏算法对本地系数梯度信息进行联邦聚合以获取全局梯度信息,通过广播的形式将全局梯度发送给所有边缘设备以进行模型更新。
9、进一步地,所述步骤1中结合有限码长理论计算通信系统的传输错误概率εk表达式为:
10、
11、其中rk表示边缘设备k的编码速率,m表示传输码长,ck=log2(1+γk)表示服务器与边缘设备k的香农传输容量,wk=1-(1+γk)-2表示服务器与边缘设备k间的信道色散;表示服务器与边缘设备k的接收信噪比,pk表示边缘设备k的发射功率,σ2表示噪声功率;g表示服务器与边缘设备k间的信道增益,表示高斯q函数。
12、进一步地,所述步骤1中的边缘设备k的稀疏系数βk设定为:
13、
14、其中,表示边缘设备k的稀疏梯度信息中剩余非零元素的个数,qg和ql分别表示中非0元素和对应位置坐标所占用的信息比特数,t表示在边缘设备k在本地梯度信息上传期间总传输次数,z表示原始本地梯度信息中元素个数。
15、进一步地,所述步骤2中通过优化边缘设备的发射功率、编码速率和ris的相位矩阵,最小化传输错误概率和稀疏系数,构建的优化问题的目标函数为:
16、
17、其中ac,k和as,k分别表示边缘设备k的传输错误概率系数和稀疏错误的性能系数;
18、所述的恒定模长约束为:
19、
20、式中θj表示ris上第j个反射单元的相位,l表示ris上反射单元的个数;
21、所述的传输功率约束为:
22、
23、式中pk表示分配给边缘设备k的发射功率,psum表示总发射功率;
24、构建的面向联邦学习性能最大化的联合资源分配和波束成形设计优化问题p0为:
25、
26、进一步地,所述步骤3包括如下子步骤:
27、步骤3.1:固定发射功率和ris相位矩阵,计算目标函数关于编码速率的二阶导数,证明优化问题关于编码速率为凸问题,基于kkt条件计算边缘设备k的编码速率的最优解表达式为:
28、
29、步骤3.2:将边缘设备k的编码速率的最优解带入优化问题p0中进行降维,降维后的优化问题p1为:
30、p1:
31、
32、其中为基于边缘设备k的编码速率最优解获取的传输错误概率。
33、进一步地,所述步骤4基于块坐标下降算法求解降维后的优化问题p1,包括:
34、步骤4.1:初始化发射功率和ris相位矩阵,设置迭代阈值并将边缘设备初始发射功率p(0)和ris初始相位矩阵θ(0)作为迭代的局部点
35、步骤4.2:固定ris相位矩阵,计算降维后的优化问题p1中目标函数关于发射功率的二阶导数,证明降维后的优化问题p1关于发射功率为凸问题;
36、步骤4.3:固定ris相位矩阵,利用椭球法求解降维后的优化问题p1,得到发射功率的本次迭代的优化解
37、步骤4.3:固定发射功率本次迭代的优化解基于一阶泰勒近似对在局部点进行近似,并引入置信域约束,降维后的优化问题p1近似为优化问题p2:
38、p2:
39、
40、其中,表示一阶泰勒近似所引入的常数项,和分别表示基于局部点计算出的服务器与边缘设备k的接收信噪比和信道色散,表示置信半径,且
41、步骤4.4:引入辅助变量y={y1,y2,...,yk},α={α1,α2,...,αk},对目标函数中的分式项进行二次变换以及对对数函数项采用拉格朗日对偶变换,优化问题p2等效为优化问题p3:
42、p3:
43、
44、其中c2k=1+αk+c1k表示二次变换与拉格朗日对偶变换所产生的常数项;
45、步骤4.5:对优化问题p3中目标函数进行凸近似,引入对偶变量ψ={ψ1,ψ2,...,ψn}和τ,基于kkt条件计算优化问题p3中最优ris相位矩阵和辅助变量y与α*的解析表达式,表示为:
46、
47、其中和表示辅助变量y={y1,y2,...,yk},α={α1,α2,...,αk}的最优解,表示本次迭代中ris相位矩阵的优化解,
48、表示数学计算后产生的常数项,ak=fhd,k表示直视通信链路的等效信道,jk=fhhdiag(hr,k)表示ris反射通信链路的等效信道,f表示基站处的接收波束成形向量,hd,k表示服务器与边缘设备k间的信道向量,h表示服务器与ris间的信道表示为,hr,k表示ris与边缘设备k间的信道向量表示为,和分别表示ak和jk的共轭转置矩阵,en表示一个长为n的指示向量,其中仅在第n个位置的元素为1,其余为0;in×n表示长度为n的单位阵;
49、步骤4.6:若本次迭代较于上次迭代的性能提升小于迭代阈值ε,则停止迭代,则本次迭代的优化解即为ris辅助的稀疏联邦学习网络中边缘设备的最优发射码长、发射功率和ris的相位矩阵(m*,p*,θ*)=(m,p,θ);否则将作为下次迭代的局部点回到步骤4.2。
50、进一步地,所述步骤5包括:
51、多边缘设备通过索引进行表征,k表示边缘设备数量,边缘设备将本地梯度信息中的非零元素集合以及其对应的位置坐标构建本地稀疏梯度信息矩阵其中表示边缘设备k在第t次全局迭代的原始本地梯度信息,表示稀疏操作;
52、基于稀疏本地梯度信息服务器通过联邦聚合操作以获取全局梯度信息g(t+1),表示为:
53、
54、其中d表示所有边缘设备的总数据量,dk表示第k个边缘设备的本地数据量;
55、服务器通过广播的形式将全局梯度信息g(t+1)发送给所有边缘设备,边缘设备基于接收的全局梯度信息更新其本地模型,表示为:
56、v(t+1)=v(t)-ηg(t+1)
57、其中v(t)表示第t次全局迭代的本地模型参数,v(t+1)表示第t+1次全局迭代的本地模型参数,η表示学习率。
58、另一方面,本发明提供一种ris辅助稀疏联邦学习网络的传输方案设计系统,包括:
59、模块一:其用于基于ris辅助的稀疏联邦学习网络场景,结合有限码长理论计算通信系统的传输错误概率表达式,并获取本地梯度信息的稀疏系数表达式;
60、模块二:其用于基于传输错误概率表达式和本地梯度信息的稀疏系数表达式构建优化问题的目标函数,并根据ris处波束成形定义恒定模长约束,根据服务器与边缘设备的传输功率总和定义总传输功率约束构建面向联邦学习性能最大化的联合资源分配和波束成形设计优化问题;
61、模块三:其用于获取编码速率最优解的解析表达式,并基于此对构建的优化问题进行降维将原问题转化为仅关于发射功率和ris相位矩阵的降维后的优化问题;
62、模块四:其用于求解降维后的优化问题,并获取边缘设备的编码速率、发射功率和ris相位矩阵的高效解以获取传输方案;
63、模块五:其用于基于传输方案,边缘设备基于本地数据计算本地稀疏梯度信息上传给服务器,服务器结合稀疏算法对本地系数梯度信息进行联邦聚合以获取全局梯度信息,通过广播的形式将全局梯度发送给所有边缘设备以进行模型更新;
64、所述ris辅助稀疏联邦学习网络的传输方案设计系统用于执行权利要求1-7中任一项ris辅助稀疏联邦学习网络的传输方案设计方法中的步骤。
65、与现有技术相比,本发明具有如下有益效果:
66、本发明提出了一种ris辅助稀疏联邦学习网络中的传输方案设计方法,通过对边缘设备的发射功率、传输码长和ris处相位矩阵进行联合设计以最小化传输错误概率和本地梯度信息稀疏误差,进而实现稀疏联邦学习网络性能的提升。本发明显著提高了ris辅助的稀疏联邦学习网络的性能,可广泛的应用于诸多实际应用场景且具有极高的可扩展性和经济效益。
1.一种ris辅助稀疏联邦学习网络的传输方案设计方法,其特征在于,包括以下步骤:
2.根据权利要求1所述的一种ris辅助稀疏联邦学习网络的传输方案设计方法,其特征在于,所述步骤1中结合有限码长理论计算通信系统的传输错误概率εk表达式为:
3.根据权利要求2所述的一种ris辅助稀疏联邦学习网络的传输方案设计方法,其特征在于,所述步骤1中的边缘设备k的稀疏系数βk设定为:
4.根据权利要求3所述的一种ris辅助稀疏联邦学习网络的传输方案设计方法,其特征在于,所述步骤2中通过优化边缘设备的发射功率、编码速率和ris的相位矩阵,最小化传输错误概率和稀疏系数,构建的优化问题的目标函数为:
5.根据权利要求4所述的一种ris辅助稀疏联邦学习网络的传输方案设计方法,其特征在于,所述步骤3包括如下子步骤:
6.根据权利要求5所述的一种ris辅助稀疏联邦学习网络的传输方案设计方法,其特征在于,所述步骤4基于块坐标下降算法求解降维后的优化问题p1,包括:
7.根据权利要求6所述的一种ris辅助稀疏联邦学习网络的传输方案设计方法,其特征在于,所述步骤5包括:
8.一种ris辅助稀疏联邦学习网络的传输方案设计系统,其特征在于,包括: