此次大赛以“智启无线 AI Enlightens Wireless Communication”为主题,致力于促进通信领域与人工智能领域的深度融合,是“5G+AI”的一次开创性探索和有效碰撞。参赛队伍共934支队伍,来自国内外160所高校和院所、210家企事业单位,包括中国移动、中国联通、中国电信、华为、中兴、三星、阿里、腾讯、百度等知名企业均有技术团队参赛。
大赛中的赛题面向MIMO信道反馈技术,是5G向6G过渡的重要一环。需要在用户端对信道信息进行压缩,发送压缩比特流到基站端,基站通过对压缩比特流进行解码,恢复出原始信道,主要比拼信道压缩率,其次比较信号重建质量,并对模型参数复杂度有严格限制。
空天院团队选择Transformer网络对数据进行编码和解码。相比于传统的CNN,Transformer拥有全局感受野,其提取的特征不局限于相邻的传输径,能够更好地融合长距离信息,尤其是本次数据,能量较强的传输径相隔距离较长,传统的3*3的卷积需要叠加多层网络才能够达到如此的感受野。本方案无需预训练,也不需要额外的数据增强,能够直接简便地进行端到端训练和推理,在模型大小和推理速度上表现优异。
标量量化认为数据的维度之间相互独立,对每一维的数据单独量化,同时量化中心固定且平均分布于整个子空间之中。缺乏对数据分布先验分利用,导致量化性能较差。矢量量化在编码过程中利用指数滑动平均不断更新量化中心的值,充分利用数据分布的先验信息。使得量化中心更能表征原始数据的分布,减小量化误差。
在日常科研工作中经常涉及到复数信号、无线信号的处理等问题,这些研究基础对无线通信信号的处理具有借鉴意义。在比赛中,该团队利用以上模块构建的最终模型将原始数据(24*16*2)压缩到了286bit,压缩比达到1.2%。相比于传统压缩方法,实现了较高的压缩率。
网络整体结构
标量量化和矢量量化示意图
OPPO副总裁、OPPO研究院院长刘畅为获奖团队颁奖