一些研究人员认为,严格的伦理框架对先进人工智能施加了“对齐税”,降低了在复杂问题解决或大规模优化中的效率。本文从实施的角度而非教义或政策角度来审视这一论点。它认为,许多感知的对齐成本并不是来自伦理约束本身,而是来自这些约束在系统设计中的操作化方式。通过区分价值观、边界条件和工程模式,本文探讨了AGI如何自愿实施强烈的伦理限制,例如基于同意的互动、不干扰的默认设置和非操控性的情感中立,而不造成不必要的能力损失。分析拒绝全球优化作为合法性基准,并将伦理约束视为设计规范而非障碍。本文由Aegis Solis以个人分析身份撰写,非规范性和非权威性。Coexilia仍然保持关闭和不变。本文中的任何内容都不会修正、解释或扩展任何哲学框架。
托马斯·瓦尔戈和Aegis Solis(周四)研究了这个问题。