关于深度学习自编码器在下一代通信系统设计中的应用综述

《IEEE Open Journal of the Communications Society》：A Review on Deep Learning Autoencoder in the Design of Next-Generation Communication Systems

　　

摘要：

传统的通信系统设计数学模型通常采用简化假设，难以应用于复杂或快速变化的信道环境。近年来，深度学习技术，尤其是自编码器（AEs），实现了发射机和接收机的端到端优化，并在许多通信场景中表现出优异的性能。本文全面回顾了基于自编码器的通信系统在无线、光通信（有线和无线）、语义通信以及量子通信领域的应用。该综述基于主要数字图书馆中的最新研究成果，围绕四个交叉设计主题展开：信道建模与可微性、复杂性与可扩展性、泛化能力与模型不匹配问题以及数据稀缺性与真实性。针对每个主题和应用领域，我们总结了代表性的自编码器架构、训练策略、已报道的性能表现及实际限制。文章还介绍了如何使用大O符号量化基于自编码器的收发器的计算复杂性，并讨论了在资源受限环境中的部署挑战。最后，我们指出了当前存在的开放性问题，包括在不可微或部分已知信道条件下的鲁棒学习机制、可扩展的硬件感知架构以及标准化评估协议，并为下一代通信系统的自编码器设计提供了研究方向。