人工智能领域中的“双相情感障碍”问题 [主席致辞]

《IEEE Computational Intelligence Magazine》：The Bipolar Disorder of Artificial Intelligence Community [President's Message]

AI双极周期、应用范围限制、潜在风险与责任伦理|

　　

显示全部

亲爱的各位，

几周前，在准备一场邀请演讲时，我使用了一个知名的人工智能工具来生成演讲所需的图像。然后，我决定让这个工具告诉我关于我的信息。说实话，得到的结果让我很惊讶。在描述了我生平的几个方面后（这些描述与事实相差不大），最后一句是这样的：

“他以对人工智能应用的谨慎和批判性思维而闻名。”

哇！我完全没料到会这样。

接着，就像收到意外诊断后寻求第二意见的人一样，我又用另一个竞争性的人工智能工具进行了同样的测试，结果也类似：

“路易斯·马格达莱娜以他对人工智能的批判性和深思熟虑的分析而闻名，尤其是在教育领域的应用方面。”

不再需要第三种意见了，这时我开始问自己：“我该如何描述人工智能，才能让它被视为一种谨慎、批判性和深思熟虑的体现呢？”我找到了一些令人信服的证据。

我以前认为，人们常说的“人工智能寒冬”实际上是一种明显的双相情感障碍（也称为躁郁症）的表现，这种障碍在人工智能领域尤为明显。这种障碍会导致时而出现躁狂行为，时而陷入极度抑郁的状态。通常，抑郁状态是由躁狂状态直接引发的，因为在躁狂期间人们会高估人工智能的潜力（认为人工智能很快就能解决所有问题，甚至认为通用人工智能即将诞生），但实际成果却未能达到这些预期。显然，我们现在正处于人工智能的躁狂期。虽然“寒冬”这个概念听起来更浪漫，有点像冬眠，但我所观察到的人工智能的躁郁行为更类似于经济领域中出现的泡沫现象。

我经常批评的一种观点是，认为人工智能适用于所有人、所有领域和所有场合。我不认同这一观点，因为并非每个人都有与人工智能系统互动所需的技能、资源或兴趣。此外，由于训练偏差等原因，大多数人工智能系统还不能统一地应用于所有人。其次，人工智能并不能解决所有问题，因为还有很多问题更适合用其他更简单、更高效的方法来解决。最后，人工智能并不能普及到所有地方，因为基础设施、能源等方面的条件并不普遍具备，同时还需要考虑地区间的社会、文化和监管差异。

如果我们忽视了人工智能并非适用于所有人、所有领域和所有场合这一事实，就很容易导致过度曝光和人工智能的简单化。人工智能很可能会成为本世纪最具战略性的技术之一。它非常强大且日益普及，但如果使用不当，也会带来危险。我们已经看到许多类似情况：电气伤害每年在全球造成数千人死亡，仅在美国每年就有约1000人死亡，其中至少3000起是触电事故，儿童占比约20%。尽管我们对这种风险有所了解，但事故仍然频发。关于人工智能滥用风险的警告并不多见，或许是时候创造一个类似的概念——“智能伤害风险”，并开展相应的教育活动了。

上述提到的双相情感障碍的另一个重要表现是我们热衷于展示人工智能系统的智能程度，以及我们距离实现通用人工智能还有多远。事实上，我们甚至没有一个明确的智能定义，又怎能去衡量它呢？我们是否在试图为机器定义某种智商？人类真的适合用来衡量智能吗？我认为这只是我们以人类为中心的世界观的另一种体现。如果我们的人工智能系统并不智能，或者无法与人类相提并论呢？作为一名工程师，我认为人工智能系统是非常强大的问题解决工具，这足以使它们成为改变游戏规则的技术。不过，我认为短期内不会出现通用人工智能，尽管一些专家预测它将在几年内或最迟在本世纪末初出现。虽然有可能，但这种可能性难以预测，我们也不应频繁做出这样的承诺。

我的讲话可能超出了预期的长度，也偏离了主题。不过，在我们的会议上我多次听到有人说“计算智能才是真正的人工智能”或“计算机科学服务于真正的人工智能”。这篇讲话只是试图提出一些我认为实现这一目标所需的前提。我们必须以批判性、谨慎和深思熟虑的态度来开展研究和应用。不应过度承诺，也不要制造虚假的期望。我们必须识别并强调工作的潜在风险，让人工智能为人类的发展服务。因为我们是IEEE，而IEEE的使命就是推动人类科技的发展。