What Does "General" in AGI Actually Mean?

本文从基本原理出发,重新审视了通用人工智能中“通用”一词的含义。 认为通用性不应简单地理解为系统所拥有的能力数量或…… 它能够执行的任务范围。一个系统可能拥有大量的技能,同时仍然依赖于…… 任务边界、工作流程、判断标准和停止条件均由人预先定义。通用性是 因此,更根本的是,智能与变革之间存在着一种关系:相关能力是否能够发挥作用。 当任务、条件、路径或规则发生变化时,仍然有效。 为了将模糊的印象转化为可以比较和检验的论断,我们认为任何 一般性主张必须至少明确三件事:被评估的对象、变化的类型 已跨越,且变更后必须继续保持的有效性要求。基于此,我们 区分四种如今常被混淆的普遍性形式:g1 技能普遍性、g2 迁移 普遍性、g3 开放普遍性和 G4 主体性普遍性。它们分别涉及任务的变化。 类型、分布和环境,缺乏完全预定义的工作流程,以及规范方面的差距 外部规则不再能唯一地决定行动。 我们进一步论证,g1至g4并非从低到高的四个等级,也不是简单的能力概念。 阶梯。尤其重要的是,g3 和 G4 之间的界限至关重要:能否组织好后续步骤并非易事。 这与能够判断应该选择什么是一样的。路径开放性并非判断开放性。因为 四种表格分别针对不同类型的变更,每种表格都对应不同的举证责任,以及相应的证据。 一种形式不能自动建立另一种形式。 其目的并非引入新的排名表,而是建立一种能够抵制概念性偏见的共同语言。 替代。当一个系统被描述为“更通用”或“更接近通用人工智能”时,我们仍然应该问,它究竟是哪种替代。 改变它,使其在各个方面都保持有效,以及现有证据实际支持的内容。 关键词:通用人工智能、通用性、技能通用性、迁移通用性、开放通用性 主体性普遍性、人工智能行动者、规范差距、判断、通用人工智能