当前位置:首页 > AGI 与 AI 意识研究 > 正文内容

有能力的智能体必须知道什么:不确定性下稳健决策的「选择定理」

论文信息
英文标题:What Capable Agents Must Know: Selection Theorems for Robust Decision-Making under Uncertainty
作者:Aran Nayebi(2026)
来源:arXiv:2603.02491v3 | PDF全文

中文摘要

随AI智能体能力增强,什么内部结构是其在不确定下胜任行动所必须的?经典结果证明最优控制可用信念状态或世界模型实现,但没证明这些表征是必须的。本文证明量化「选择定理」:强任务表现(低平均遗憾)迫使世界模型、类信念记忆、以及(任务混合下)类似情绪功能原语的持续状态跟踪变量,及块结构任务下的信息模块化。技术上将预测建模归约到二元「下注」决策,遗憾界限制次优下注概率质量,强制预测区分。完全观测下近似恢复干预转移核;部分观测下暗示预测状态/类信念记忆的必要性。

核心贡献与解读

从理论上严格证明「世界模型/信念记忆」是强表现的必要条件,给世界模型存在的必要性提供了数学依据,很硬的理论。

关键词

选择定理 / 世界模型 / 不确定性决策 / 信念状态

相关文章

AGI不是更大的模型:从专用AI到通用智能的鸿沟

AGI不是更大的模型:从专用AI到通用智能的鸿沟

很多人觉得GPT-5、Claude就是AGI的前夜,再堆点算力就能"涌现"出通用智能。但事实是——我们连"通用智能"到底长什么样都没想清楚。这篇文章聊聊专用AI和AGI之间那道看不见、却真实存在的鸿沟...

机器能"感受"疼痛吗:AI意识的科学边界

机器能"感受"疼痛吗:AI意识的科学边界

如果有一天,一台机器人被"踩了一脚"后大喊"好疼",我们该相信它真的疼,还是觉得它在演戏?这个问题看似哲学清谈,却直接关系到我们未来如何对待越来越聪明的机器。今天聊聊AI意识的科学边界。 意识是什么:...

大模型真的理解语言吗:理解之谜与中文房间

大模型真的理解语言吗:理解之谜与中文房间

GPT能写出让你落泪的情书,能 debug 你写了三天的代码,能和你聊存在主义到深夜。但一个幽灵始终徘徊在这个领域:它真的"理解"自己在说什么吗?还是只是高级的"文字接龙"?今天拆解这个让图灵奖得主都...

意识的数学:整合信息理论(IIT)与Φ值

意识的数学:整合信息理论(IIT)与Φ值

能不能像测量温度一样,给一个系统的"意识程度"打个分?神经科学家朱利奥·托诺尼真的试了——他提出了一套叫"整合信息理论"(IIT)的框架,用一个叫Φ(Phi)的值来量化意识。这个理论对AI可不友好。...

图灵测试过时了吗:现代AI能力评测新范式

图灵测试过时了吗:现代AI能力评测新范式

1950年,图灵提出一个判据:如果机器在文字对话中骗过了人类,就认为它有智能。七十五年过去,GPT轻松通过这个测试,但没人觉得它已经"通用智能"了。图灵测试,是不是该退休了? 图灵测试的聪明与局限 图...

AI觉醒的边界:从《她》到现实的距离

AI觉醒的边界:从《她》到现实的距离

电影《她》里,男主爱上了操作系统萨曼莎;现实中,Google工程师曾公开声称对话模型LaMDA"有了灵魂"。AI觉醒到底是科幻的预演,还是人类的自我投射?今天我们扒开这层浪漫的滤镜。 科幻给了我们错误...