从以算法为中心的智能向以可靠性为中心的智能转变 [编者按]

《IEEE Computational Intelligence Magazine》：From Algorithm-Centric to Reliability-Centric Intelligence [Editor's Remarks]

人工智能系统在现实应用中面临数据不完美、不确定环境和对抗性风险等挑战，需通过多因素协同（数据可靠性、学习稳定性、安全意识、严格评估和部署场景）提升可信度。文章强调可信AI需突破单一算法优化，转向集成系统设计，并涉及深度伪造检测、医疗伦理等应用场景，指出可解释性和人类中心设计是高可信系统的必备要素。

　　

随着人工智能越来越多地从受控的实验室环境应用到现实世界中，一个根本性问题变得愈发重要：

当智能系统面临不完美的数据、不确定的环境、对抗性风险以及高后果的应用场景时，如何保持其可靠性、可验证性、可解释性和可持续性？

这个问题是“可信且安全的AI”研究的核心，也是本期《IEEE计算智能杂志》的统一主题。这里收集的文章不仅仅追求更高的性能，而是共同关注在何种条件下智能系统能够在超越理想化假设的情况下可靠地运行。

从系统层面的角度来看，这些文章共同表明，可信性不能仅仅归结为某个单一的算法组件。相反，它是由多种因素相互作用产生的，包括数据可靠性、学习稳定性、安全意识、评估严谨性以及部署环境等。一些研究强调了数据的不完美性（如不平衡、稀缺性或通过知识转移进行的数据重用）如何从根本上影响系统行为，有时这些不完美性会带来隐藏的漏洞，同时也会带来性能的提升。其他研究则强调了理论保障的重要性，证明了可证明的稳定性和收敛性仍然是可靠学习系统不可或缺的基础。

在美国斯蒂尔沃特，一台真正的Transformer前大家笑容满面：（从右到左）Gary Yen教授、Coco和Min Jiang。

显示全部

同时，本期杂志还探讨了在更广泛的社会和应用背景下的信任问题。深度伪造检测这一日益严峻的挑战表明，生成式AI技术直接影响了公众对信息生态系统的信任，因此需要严格的评估框架和跨模态的鲁棒性。在医疗保健等敏感领域，对婴儿动作的评估进一步揭示了可解释性、伦理考量和以人为中心的设计并非可选特征，而是高风险环境中采用这些技术的基本前提。

总体而言，本期杂志的文章反映了计算智能研究的明显演变：从优化孤立模型转向设计能够在现实世界约束下持续保持信任的集成智能系统。这一转变不仅反映了当前面临的挑战，也指明了该领域的未来发展方向。

我们还要热烈祝贺新当选的IEEE CIS AdCom成员（2026–2028年任期）以及2026年的杰出IEEE会士。你们的领导力和贡献将继续塑造计算智能的发展方向及其对社会的影响。