香港随缘论坛如果您曾参与过 AI 讨论，无论是在研究、行业还是浏览网页，您可能已经遇到过诸如AI 代理、AGI、ASI 和推理等流行术语被广泛使用。但这些术语真的有意义吗？还是它们只是助长了炒作周期和误导性对话？

　　简短的回答是：截至目前，其中一些术语具有明确的技术含义，而其他一些则更具推测性或误导性。它们在公共言论中的使用方式很重要——因为当炒作超过现实时，它可能会对现实世界产生影响。

　　AI 代理是一种能够感知环境、做出决策并采取行动以实现特定目标的系统。这一概念是 AI 研究的基础，适用于从简单的基于规则的机器人到复杂的强化学习系统等所有领域。

　　例如，谷歌的 DeepMind AlphaZero是一个经过训练的 AI 代理，可以掌握国际象棋、将棋和围棋。它会接收棋盘状态，评估潜在动作，并根据学习到的策略选择最 佳行动。这是该术语的明确、实用的用法——无需大肆宣传。

　　通用人工智能 (AGI)是指能够执行人类所能执行的任何智力任务的人工智能。与当今的狭义人工智能（擅长翻译、图像识别等特定任务）不同，通用人工智能将灵活、适应性强，并且能够在多个领域进行自主学习。

　　1、我们正在慢慢接近这个目标（根据 OpenAI 和 DeepMind 的说法）。

　　2、这是一个遥远的梦想，更多的是关于进步而不是事件（根据Meta 首席人工智能科学家Yann LeCun 的说法）。

　　Meta 首席人工智能科学家 Yann LeCun 对 AGI 的到来表示怀疑，称 AGI 的出现不会是突然事件，而是一个渐进的发展过程。他强调，目前的人工智能系统，包括大型语言模型，还远未达到人类水平的智能。

　　与此同时，《人工智能：一种现代方法》一书的合著者斯图尔特·拉塞尔警示称，对通用人工智能的热潮可能会导致不可靠的人工智能系统过早部署——这是一种现实世界的风险，我们已经在有偏见的人工智能模型和产生幻觉的聊天机器人中看到了这种风险。

　　如果说 AGI 只是推测，那么超级人工智能 (ASI)则完全是科幻小说（截至目前）。

　　ASI 指的是在所有领域（科学发现、创造力、社交智能、战略规划等）不仅匹敌人类智能，甚至超越人类智能的人工智能系统。从《终结者》到伊隆·马斯克对人工智能末日的存在主义警告，人工智能霸主的场景都应运而生。

　　如果你问像Murray Shanahan（DeepMind）这样的人工智能研究员，他会说我们对人类智能的了解还远远不够，无法复制它，更不用说创造超越它的东西了。

　　围绕 ASI 的炒作不仅具有误导性，而且会分散注意力。它将人们的注意力从真正的、直接的 AI 风险上转移开，例如：

　　目前，人工智能话语中最大的误称之一就是声称 GPT-4 或 Gemini 等模型可以“推理”。

　　当今的人工智能从根本上来说属于统计模式匹配，而非真正的推理。当人工智能系统“推理”时，它实际上是：

　　例如，在 2023 年的 AI 基准测试中，大型语言模型在解决人类儿童可以解决的基本逻辑难题时遇到了困难。尽管它们生成的文本听起来像是推理驱动的，但它们却无法实现分布外泛化——这是真正智能的一个基本方面。

　　所以下次有人告诉你人工智能会“推理”时，你要问：推理是什么样的？如何衡量？

　　当科技公司在营销材料中大肆宣扬 AGI 和 ASI 时，公众对人工智能实际能力的理解就会被扭曲。人们开始认为我们即将拥有自我意识的机器，而实际上，当今的人工智能甚至很难在不产生幻觉的情况下可靠地总结一份文件。

　　炒作会导致不切实际的期望——以及失望。投资者向无法立即实现目标的“AGI 初创公司”投入了数十亿美元。政策制定者追逐科幻场景，而不是监管实际危害。

　　以IBM Watson为例，它曾被吹捧为将改变医疗保健行业的革命性人工智能。由于未能达到预期，该项目失败了，留下了人们的质疑。

　　有关人工智能监管的辩论政府经常陷入对 AGI 和 ASI 的长期担忧，而数据隐私、偏见和算法责任等真正的道德问题仍未解决。

　　Stuart Russell警告称，人工智能安全讨论必须关注实际风险，而不是假设风险：

　　“超级智能 AI 是一个有趣的思想实验，但真正的挑战是确保当今的 AI 系统与人类价值观相一致。”

　　评估人工智能系统实际上能做什么以及所声称能做什么，区分当前的功能、未来的能力和推测的潜力。

　　考虑谁会从某些人工智能能力框架中受益，以及这些描述是否服务于营销、资金或其他利益。

　　通过批判性地研究人工智能术语并质疑所呈现的叙述，我们可以促进更明智的公共讨论，指导负责任的政策制定，并确保对人工智能的投资与真正的进步和社会福祉保持一致。