面向MU-MISO系统中直接导频到波束成形设计的自演化上下文学习

# 面向MU-MISO系统中直接导频到波束赋形器设计的自进化上下文学习 来源：https://arxiv.org/html/2607.11970 Yubo Zhang, 和 Xiaodong Wang Y\. Zhang 和 X\. Wang 与哥伦比亚大学电气工程系，纽约，NY 10027\. ###### 摘要 我们开发了一种增强型上下文学习（ICL）框架，以改善多用户多输入单输出（MU-MISO）系统中基于导频的波束赋形性能。所提出的方案将ICL-Transformer骨干网络与导频编码器-解码器网络（EDN）和波束赋形器EDN相结合。我们ICL网络的一个关键特性是，它能够在无需重新训练的情况下处理多种信道模型，这得益于构建了特定于模型的上下文数据集。为了提升收敛性和鲁棒性，我们引入了三项关键创新：(a) 一种课程学习（CL）策略，从有监督的LMMSE标签模仿平滑过渡到无监督的和速率最大化；(b) 一种自进化机制，在基于CL的训练过程中动态扩展和优化所有信道模型的上下文数据集；(c) 一种失配感知扩展，将多种失配情况纳入通用ICL框架，并绕过了显式的信道校准。消融研究验证了上下文架构和增强训练策略的有效性。在不同通信环境下的仿真结果表明，所提出的方案能够快速适应已见和未见过的信道模型，无需基于梯度的参数更新，并可通过智能上下文构建缓解失配问题。此外，我们的方案在基于导频的设置下始终优于现有的波束赋形方案，包括WMMSE基准和近期基于Transformer的方法。 ## I. 引言 下一代无线系统预计将在更大规模的天线阵列、更密集的用户群体和更多样化的传播环境下运行，这迫切需要对可扩展、可泛化且低延迟的物理层信号处理的需求\[1 (https://arxiv.org/html/2607.11970#bib.bib1)\]。经典的迭代方法，如加权最小均方误差（WMMSE）算法\[2 (https://arxiv.org/html/2607.11970#bib.bib2)\]和分支缩减定界（BRB）方法\[3 (https://arxiv.org/html/2607.11970#bib.bib3)\]，可以获得接近最优的解，但其计算成本在大规模系统中往往过高。另一方面，低复杂度的线性方案，如最大比传输（MRT）\[4 (https://arxiv.org/html/2607.11970#bib.bib4)\]和线性MMSE（LMMSE）波束赋形\[1 (https://arxiv.org/html/2607.11970#bib.bib1)\]，提供了快速的解决方案，但代价是显著的性能下降。为了弥合这种复杂度与性能之间的差距，深度学习（DL）方法，特别是基于Transformer的模型，近年来被研究用于实现高质量波束赋形，同时提升可扩展性和实时适应性。

### I-A. 基于导频的波束赋形学习  
针对多用户系统中波束赋形和预编码的深度学习近年来发展迅速。早期工作主要依赖轻量级架构，如全连接神经网络（FCNN）\[5 (https://arxiv.org/html/2607.11970#bib.bib5),6 (https://arxiv.org/html/2607.11970#bib.bib6),7 (https://arxiv.org/html/2607.11970#bib.bib7),8 (https://arxiv.org/html/2607.11970#bib.bib8)\]和卷积神经网络（CNN）\[9 (https://arxiv.org/html/2607.11970#bib.bib9),10 (https://arxiv.org/html/2607.11970#bib.bib10),11 (https://arxiv.org/html/2607.11970#bib.bib11)\]，用于学习紧凑的信道表示或直接预测波束赋形器。最近，图神经网络（GNN）\[12 (https://arxiv.org/html/2607.11970#bib.bib12),13 (https://arxiv.org/html/2607.11970#bib.bib13)\]被引入，通过利用用户和天线之间的交互结构来提升可扩展性，而基于Transformer的方案\[14 (https://arxiv.org/html/2607.11970#bib.bib14),15 (https://arxiv.org/html/2607.11970#bib.bib15),16 (https://arxiv.org/html/2607.11970#bib.bib16)\]则通过捕获大规模优化问题中的长程全局依赖性，进一步增强了表达能力。与此同时，一些研究开始探索无线基础模型\[17 (https://arxiv.org/html/2607.11970#bib.bib17),18 (https://arxiv.org/html/2607.11970#bib.bib18)\]，以追求更广泛的多任务和多场景适应性。尽管取得了这些进展，大多数基于学习的波束赋形方法仍然假设基站（BS）拥有完美的信道状态信息（CSI），而实际系统只提供带有噪声、长度有限的导频信号。特别是，当导频长度小于用户数量时，即使在无噪声情况下也无法精确恢复完整信道\[19 (https://arxiv.org/html/2607.11970#bib.bib19),20 (https://arxiv.org/html/2607.11970#bib.bib20)\]。这种信息瓶颈限制了传统的两阶段流水线（信道估计后接波束赋形）\[21 (https://arxiv.org/html/2607.11970#bib.bib21),22 (https://arxiv.org/html/2607.11970#bib.bib22)\]：信道估计最小化的是重构误差而非最终的系统和速率目标，且其误差会传播到后续的波束赋形阶段。这些局限激发了对*直接导频到波束赋形器学习*的研究，即直接从导频观测生成波束赋形器，而无需显式重构完整信道\[9 (https://arxiv.org/html/2607.11970#bib.bib9),23 (https://arxiv.org/html/2607.11970#bib.bib23)\]。这种方法特别适用于稀疏的毫米波和亚太赫兹信道，因为角度稀疏性使得压缩导频能够保留与波束赋形相关的信息\[21 (https://arxiv.org/html/2607.11970#bib.bib21),24 (https://arxiv.org/html/2607.11970#bib.bib24)\]。因此，编码器-解码器网络（EDN）架构可以从导频中提取任务相关特征，并直接映射到波束赋形解，近期研究已证明了这种方法的有效性\[19 (https://arxiv.org/html/2607.11970#bib.bib19),6 (https://arxiv.org/html/2607.11970#bib.bib6),25 (https://arxiv.org/html/2607.11970#bib.bib25)\]。

### I-B. 上下文学习  
上下文学习（ICL）已成为一种有前景的多场景自适应范式，无需参数更新\[26 (https://arxiv.org/html/2607.11970#bib.bib26),27 (https://arxiv.org/html/2607.11970#bib.bib27)\]。最初由大型语言模型推广，ICL使模型能够从少量输入演示中推断出底层任务，并仅通过前向推理实现自适应\[28 (https://arxiv.org/html/2607.11970#bib.bib28)\]。理论研究进一步表明，自注意力可以隐式模拟基于梯度的自适应，为这种能力提供了原则性的解释\[29 (https://arxiv.org/html/2607.11970#bib.bib29),30 (https://arxiv.org/html/2607.11970#bib.bib30)\]。在无线通信中，ICL主要应用于接收端检测和估计，基于导频的演示使得无需重新训练即可实现实时自适应\[31 (https://arxiv.org/html/2607.11970#bib.bib31),32 (https://arxiv.org/html/2607.11970#bib.bib32)\]。近期结果进一步证明了基于Transformer的ICL对于某些无线估计问题而言是最优的上下文估计器\[33 (https://arxiv.org/html/2607.11970#bib.bib33)\]。与我们工作特别相关的是，\[34 (https://arxiv.org/html/2607.11970#bib.bib34)\]将ICL扩展到了发射端波束赋形，利用演示对进行任务自适应。然而，它假设完美CSI，并需要大量预计算的WMMSE标签，这限制了其在大规模高频系统中的实用性。

### I-C. 课程学习和自进化机制  
我们的训练框架结合了课程学习（CL）和自进化机制。CL逐渐增加学习难度\[35 (https://arxiv.org/html/2607.11970#bib.bib35),36 (https://arxiv.org/html/2607.11970#bib.bib36)\]，有助于稳定的优化并降低早期收敛差的风险。这对于波束赋形尤其有益，因为其非凸的和速率目标在用户负载更重、系统规模更大时变得更加困难。近期研究\[37 (https://arxiv.org/html/2607.11970#bib.bib37),16 (https://arxiv.org/html/2607.11970#bib.bib16)\]也表明，CL可以改善基于学习的波束赋形方法的可扩展性和泛化能力。作为CL的补充，自进化策略逐步用高质量的模型生成样本扩充一个小型种子数据集。这一想法与自训练和伪标签\[38 (https://arxiv.org/html/2607.11970#bib.bib38),39 (https://arxiv.org/html/2607.11970#bib.bib39)\]相关，其中精心设计的质量控制可防止不可靠的预测破坏训练\[40 (https://arxiv.org/html/2607.11970#bib.bib40)\]。类似的从过滤后的模型生成中进行迭代学习也已在大语言模型中显示出潜力\[41 (https://arxiv.org/html/2607.11970#bib.bib41)\]。在我们的ICL框架中，这种机制减少了对昂贵预计算波束赋形标签的依赖，同时不断丰富上下文分布。更重要的是，由此产生的上下文数据集提供了越来越多样化和信息量丰富的演示，从而提高了模型的泛化和自适应能力。

### I-D. 贡献与论文结构  
尽管最近取得了进展，现有的基于导频的波束赋形方法在多个方面仍然受限。传统的导频到波束赋形器方案通常使用针对固定信道模型定制的常规神经网络，导致可扩展性和跨场景泛化能力有限\[24 (https://arxiv.org/html/2607.11970#bib.bib24),9 (https://arxiv.org/html/2607.11970#bib.bib9),23 (https://arxiv.org/html/2607.11970#bib.bib23),19 (https://arxiv.org/html/2607.11970#bib.bib19)\]。基于Transformer的方案改善了可扩展性，但通常仍然限于特定场景\[14 (https://arxiv.org/html/2607.11970#bib.bib14),15 (https://arxiv.org/html/2607.11970#bib.bib15)\]；将它们扩展到异构信道环境通常需要额外的模块\[17 (https://arxiv.org/html/2607.11970#bib.bib17)\]、架构修改或代价高昂的重新训练和微调\[16 (https://arxiv.org/html/2607.11970#bib.bib16)\]。此外，最相关的基于ICL的波束赋形方法ICWLM\[34 (https://arxiv.org/html/2607.11970#bib.bib34)\]假设完美CSI，并需要大量预计算的WMMSE标签，限制了其在实用的基于导频的高频系统中的应用。为解决这些问题，我们提出了一种带有上下文自启动（context bootstrapping）的自进化ICL框架，用于MU-MISO系统中的直接导频到波束赋形器设计，从而能够在导频长度有限的情况下实现可扩展的多模型自适应，且所需预计算标签显著减少。我们的主要贡献总结如下。

- • **ICL-Transformer架构**：我们开发了一个增强型ICL框架，直接从带有噪声、长度有限的导频信号生成波束赋形器，无需显式的信道估计。所提出的架构将导频EDN和波束赋形器EDN与ICL Transformer骨干网络相结合，使得Transformer能够在低维特征空间中基于导频-波束赋形器演示对进行推理。
- • **带有上下文自启动的课程自进化训练**：我们设计了一种基于CL的训练方案，从对廉价LMMSE标签的有监督模仿逐步过渡到无监督的和速率最大化。这种策略防止了早期收敛到局部最优解的差劲表现，并使模型能够超越初始解而无需接近最优的标签。为了改善训练效果，采用了自进化策略，动态扩展和优化上下文数据集，有选择地将模型生成的解纳入数据集。这种机制减少了对预计算标签的依赖，同时为ICL提供了越来越多样化和信息量丰富的演示。
- • **通过上下文数据集实现多模型自适应**：一个共享的ICL网络可以通过特定于模型的上下文数据集适应多种信道模型，无需添加额外模块或更新网络参数。我们进一步将其适应空间扩展到模型失配设置，通过将多种失配情况纳入所提出的ICL框架，并绕开显式的信道校准。
- • **性能评估**：消融研究证实了所提出的ICL-Transformer架构和增强训练策略的有效性。大量仿真证明，所提出的方案无需基于梯度的参数更新即可快速适应已见和未见过的信道模型，同时通过上下文构建有效缓解模型失配。此外，我们的方案在基于导频的设置下始终优于现有的波束赋形方案，包括WMMSE基准和近期基于Transformer的方法。

## II. 背景  

### II-A. 下行链路波束赋形  
考虑一个TDD MU-MISO下行链路系统，其中基站（BS）配备NN根发射天线，服务KK个单天线用户。从BS到用户kk的下行链路信道表示为hk∈CN×1\\bm\{h\}\_\{k\}\\in\\mathbb\{C\}^\{N\\times 1\}，聚合信道矩阵为H=\[h1,...,hK\]∈CN×K\\bm\{H\}=\[\\bm\{h\}\_\{1\},\\ldots,\\bm\{h\}\_\{K\}\]\\in\\mathbb\{C\}^\{N\\times K\}。假设BS应用线性波束赋形器W=\[w1,...,wK\]∈CN×K\\bm\{W\}=\[\\bm\{w\}\_\{1\},\\ldots,\\bm\{w\}\_\{K\}\]\\in\\mathbb\{C\}^\{N\\times K\}来传输用户符号a=\[a1,...,aK\]T\\bm\{a\}=\[a\_\{1\},\\ldots,a\_\{K\}\]^\{T\}，其中对所有kk有E\[‖ak‖2\]=1\\mathbb\{E\}\[\\\|a\_\{k\}\\\|^\{2\}\]=1。则发射信号为 x=∑i=1Kwiai=Wa。\\displaystyle\\bm\{x\}=\\sum\_\{i=1\}^\{K\}\\bm\{w\}\_\{i\}a\_\{i\}=\\bm\{W\}\\bm\{a\}\.   (1) 相应地，用户kk处的接收信号为 rk=hkHwkak\+∑i≠khkHwiai\+zk，\\displaystyle r\_\{k\}=\\bm\{h\}\_\{k\}^\{H\}\\bm\{w\}\_\{k\}a\_\{k\}\+\\sum\_\{i\\neq k\}\\bm\{h\}\_\{k\}^\{H\}\\bm\{w\}\_\{i\}a\_\{i\}\+z\_\{k\}，   (2) 其中zk∼CN\(0,σk2\)z\_\{k\}\\sim\\mathcal\{CN\}\(0,\\sigma\_\{k\}^\{2\}\)表示用户kk处的加性噪声。因此可达和速率为 Rsum\(H,W\)=∑k=1Klog2⁡\(1\+\|hkHwk\|2∑i≠k\|hkHwi\|2\+σk2\)。\\displaystyle R\_\{\\rm sum\}\(\\bm\{H\},\\bm\{W\}\)=\\sum\_\{k=1\}^\{K\}\\log\_\{2\}\\\!\\left\(1\+\\frac\{\|\\bm\{h\}\_\{k\}^\{H\}\\bm\{w\}\_\{k\}\|^\{2\}\}\{\\sum\_\{i\\neq k\}\|\\bm\{h\}\_\{k\}^\{H\}\\bm\{w\}\_\{i\}\|^\{2\}\+\\sigma\_\{k\}^\{2\}\}\\right\)。   (3) 给定信道状态信息（CSI）H\\bm\{H\}，最优波束赋形器则表述为 W∗\(H\)=arg⁡max‖W‖F2⩽P⁡Rsum\(H,W\)，\\displaystyle\\bm\{W\}^\{\*\}\(\\bm\{H\}\)=\\arg\\max\_\{\\\|\\bm\{W\}\\\|\_\{F\}^\{2\}\\leqslant P\}R\_\{\\text\{sum\}\}\(\\bm\{H\},\\bm\{W\}\)，   (4) 其中PP是BS的最大发射功率预算。通常，(4)中的最优波束赋形器难以计算。相比之下，次优的LMMSE波束赋形器Wm\(H\)=\[w1m,...,wKm\]\\bm\{W\}^\{\\text\{m\}\}\(\\bm\{H\}\)=\[\\bm\{w\}^\{\\text\{m\}\}\_\{1\},\\dots,\\bm\{w\}^\{\\text\{m\}\}\_\{K\}\]更容易获得，其表达式为 wkm=PK⋅\(IN\+∑i=1KPKhihiH\)−1hk‖\(IN\+∑i=1KPKhihiH\)−1hk‖2，k∈\[K\]。\\displaystyle\\bm\{w\}^\{\\text\{m\}\}\_\{k\}=\\sqrt\{\\frac\{P\}\{K\}\}\\cdot\\frac\{\(\\bm\{I\}\_\{N\}\+\\sum\_\{i=1\}^\{K\}\\frac\{P\}\{K\}\\bm\{h\}\_\{i\}\\bm\{h\}\_\{i\}^\{H\}\)^\{\-1\}\\bm\{h\}\_\{k\}\}\{\\\|\(\\bm\{I\}\_\{N\}\+\\sum\_\{i=1\}^\{K\}\\frac\{P\}\{K\}\\bm\{h\}\_\{i\}\\bm\{h\}\_\{i\}^\{H\}\)^\{\-1\}\\bm\{h\}\_\{k\}\|\^\{2\}\}，k\\in\[K\]。