当人工智能开始替人类写报告、筛选简历、安排工作、判断风险甚至自主执行复杂任务，一个过去主要属于科幻作品的问题正在进入现实政策研究领域：如果越来越多社会决策交给人工智能，人类究竟从什么时候开始不再是实际意义上的决策者？

美国兰德公司（RAND Corporation）2026年发布的一项研究给出了一个颇具警示性的答案：人类失去对人工智能控制权的过程，很可能不会出现一个清晰、戏剧性的时间节点。相反，它可能表现为无数次看似合理的效率提升——每一次把任务交给AI都没有明显问题，但这些决定不断累积后，人类可能逐渐失去塑造集体选择和未来方向的能力。

这意味着，未来真正值得担忧的“AI接管”，未必是机器突然反抗人类，而可能是人类主动、渐进而且几乎没有察觉地将自己的决策权交出去。

AI真正可能改变的，是人类“选择什么”的权力

美国兰德公司政策研究员本杰明·布德罗（Benjamin Boudreaux）与数学家阿尔文·穆恩（Alvin Moon）尝试利用社会选择理论建立数学模型，分析人工智能介入政府、经济和社会决策之后，人类集体能动性（human agency）如何变化。

这里的“能动性”并不只是简单意义上的“人类有没有按下确认键”，而是一个更深层次的问题：人是否仍然能够确定目标、提出不同方案、讨论选择，并最终影响集体行动方向。

两名研究人员总结出人工智能侵蚀人类能动性的三种主要路径。

第一种是人类被排除出决策过程。过去由员工、管理人员或专家作出的决定逐渐自动化，人类不再真正参与。

第二种是AI本身获得决策权。随着AI Agent发展，机器不再只是提供信息，而是进入决策链条，拥有执行甚至选择行动方案的权限。

第三种，也是兰德研究认为最容易被忽视的一种机制，就是**“议程控制”（agenda control）**。

假设一个企业面临100种战略选择，AI经过计算后，只向董事会推荐其中三个方案。董事会仍然由人类投票，看起来人类拥有最终决定权。

但真正的问题在于：另外97个方案为什么没有出现？

如果决定“人类能够看到哪些选择”的系统本身是AI，那么人类即使拥有最终表决权，其决策边界实际上已经由机器提前划定。

这种权力比直接替人类投票更加隐蔽，因为人甚至不知道自己错过了什么。兰德研究认为，当AI越来越多承担信息筛选、排序和方案生成时，这种“议程控制”可能成为未来人类决策权逐渐流失的重要机制。

真正的问题不是一次授权，而是成千上万次“小授权”累积

这一判断与目前国际社会关于人工智能治理的方向正在逐渐形成呼应。

经济合作与发展组织（OECD）在人工智能原则中明确提出，AI的发展和使用应尊重个人自主权以及以人为中心的价值，并建立保障人类能动性和监督能力的机制。OECD的相关原则最早于2019年形成，并在2024年更新，目前已经成为人工智能国际治理的重要参考框架之一。

美国国家标准与技术研究院（NIST）发布的《人工智能风险管理框架》同样特别讨论了人机互动问题。该框架指出，在不同AI系统中，人类可能处于完全控制、监督、接受AI建议乃至完全自动化等不同位置，因此组织必须清楚界定人在决策中的角色和责任。NIST同时警告，人类本身的认知偏见以及AI系统的不透明性可能相互叠加，使监督变得更加困难。

其中一个越来越受到关注的问题，就是“自动化偏见”（automation bias）。

所谓自动化偏见，是指人面对计算机或人工智能提供的建议时，即使存在其他相互矛盾的信息，也更容易相信机器给出的结果。换句话说，“human in the loop”——在系统中保留一个人——并不天然意味着实现了有效的人类监督。

如果工作人员每天需要审批几百个AI生成的判断，而且其中绝大多数过去都是正确的，那么人的角色很可能逐渐从真正意义上的“审核者”变成机械地点击“确认”。

形式上，人依然拥有最终决定权；实际上，判断能力却已经转移到了算法。

AI Agent让这一问题变得更加现实

随着AI从聊天机器人向自主智能体（AI Agent）发展，这种讨论已经不再只是理论问题。

新的AI Agent能够根据一个总体目标，自主拆解任务、调用软件和数据库、执行交易、安排工作，并根据执行结果继续调整下一步行动。这意味着AI正在从过去的“提供答案”进一步向“采取行动”演变。

2026年7月，联合国国际电信联盟（ITU）启动了一项针对AI Agent可信度的国际工作机制，重点讨论智能体的身份识别、责任以及如何确保这些系统保持在有意义的人类控制之下，尤其涉及金融和关键基础设施等敏感领域。

类似变化已经进入企业实际运行。越来越多组织开始尝试让AI参与招聘、绩效评估、任务分配、客户服务以及内容审核等流程。欧盟因此将部分就业和人员管理领域AI应用列入高风险体系，并要求相关系统必须具备有效的人类监督机制。

这也说明，人工智能治理正在发生一个明显变化：监管重点已经不再只是询问“AI输出是否准确”，而开始追问另一个问题——究竟是谁在作决定？

“人类拥有最后否决权”可能远远不够

兰德研究特别提出，可以通过一些指标持续观察人类决策能力是否正在下降，例如：人类究竟多长时间会推翻一次AI建议；决策者拥有多少独立分析时间；AI获得的权限究竟只是完成一个具体任务，还是已经横跨信息收集、方案制定、筛选和执行等多个环节。

这实际上提出了一种新的AI安全观。

过去人工智能安全研究很大程度上关注模型是否产生错误、偏见、虚假信息或者恶意行为。未来则可能需要增加另一个指标：人类还剩下多少实质性决策权。

兰德研究提出，可以利用“决定性联盟的分布”“最小决定联盟规模”和“最小联盟组成”等指标，观察人类与AI在集体决策中的权力结构是否发生变化。当能够决定所有选择的权力逐渐集中到某一个极小联盟甚至单一主体时，系统可能进入一种非常难以逆转的状态。

真正危险的是，人类失去能力之后可能无法重新接管

这也是整个研究中最值得重视的一点。

假设一家大型企业把采购、库存、招聘、生产调度、风险控制和投资分析逐步交给AI。短期来看，每一次自动化都可能降低成本并提高效率。

但十年之后，即使企业突然决定重新由人类管理，也可能发现原来的专业知识、组织结构甚至人才培养体系已经消失。

换句话说，人类不仅可能失去“决策权”，还可能同时失去重新获得决策权所需要的能力。

这正是兰德研究所谓的不可逆风险。一旦专业技能、制度安排以及人类在决策体系中的位置持续弱化到某个临界点，再试图恢复原有的控制能力，成本可能已经极其高昂。

因此，未来真正有效的人工智能监管或许不能停留在一句“最终由人类负责”。

企业和政府需要进一步回答：人有没有能力理解AI为什么这样判断？有没有权力要求系统提供其他方案？有没有时间独立思考？能不能拒绝AI建议？关闭AI以后，组织是否仍然能够正常运转？

如果这些问题的答案越来越是否定的，那么即使办公室里仍然坐着大量人类管理者，人类事实上也可能已经失去了相当一部分决策权。

从这个意义上说，人工智能时代真正值得警惕的，并不是某一天突然出现一个宣布“接管人类”的超级AI。

更加现实的情形可能恰恰相反：AI从未宣布接管，人类也从未正式交出控制权。但是因为机器越来越准确、越来越方便、越来越廉价，人类不断把一个又一个决定交给它。

最终，当人类再次询问“到底是谁在决定我们的未来”时，答案可能已经悄然发生了改变。