当前位置:首页 > AGI 与 AI 意识研究 > 正文内容

迈向可信赖具身智能:系统框架与分级可信度等级

论文信息
英文标题:Towards Trustworthy Embodied Intelligence: A Systems Framework and Graded Trustworthiness Levels
作者:Xinyu Yang, Tianxing Chen, Honghao Su, Minxuan Wang et al.(2026)
来源:arXiv:2607.26121v1 | PDF全文

中文摘要

具身智能集成学习感知/决策与实时计算/控制/物理交互。失败会造成即时物理/运行危害,仅任务完成不足以建立可信赖。定义可信赖具身智能为「在环境与系统变化下可靠执行指定任务、同时将风险维持在可接受边界的持续能力」(持续安全成功)。支撑机制分四层:模型层(校准不确定性+安全偏好)、系统层(授权行动+硬件保障+故障包容)、证据层(评估/验证/可追溯)、部署层(运行时监控/干预/事件响应)。提出非规范性可信度等级层次,跨任务能力/安全/系统保障/运行治理/证据分级。

核心贡献与解读

给出可信赖具身智能的系统框架+分级标准,给标准化和监管奠基,安全关键部署必读。

关键词

可信赖具身智能 / 系统框架 / 安全

相关文章

AGI不是更大的模型:从专用AI到通用智能的鸿沟

AGI不是更大的模型:从专用AI到通用智能的鸿沟

很多人觉得GPT-5、Claude就是AGI的前夜,再堆点算力就能"涌现"出通用智能。但事实是——我们连"通用智能"到底长什么样都没想清楚。这篇文章聊聊专用AI和AGI之间那道看不见、却真实存在的鸿沟...

机器能"感受"疼痛吗:AI意识的科学边界

机器能"感受"疼痛吗:AI意识的科学边界

如果有一天,一台机器人被"踩了一脚"后大喊"好疼",我们该相信它真的疼,还是觉得它在演戏?这个问题看似哲学清谈,却直接关系到我们未来如何对待越来越聪明的机器。今天聊聊AI意识的科学边界。 意识是什么:...

大模型真的理解语言吗:理解之谜与中文房间

大模型真的理解语言吗:理解之谜与中文房间

GPT能写出让你落泪的情书,能 debug 你写了三天的代码,能和你聊存在主义到深夜。但一个幽灵始终徘徊在这个领域:它真的"理解"自己在说什么吗?还是只是高级的"文字接龙"?今天拆解这个让图灵奖得主都...

意识的数学:整合信息理论(IIT)与Φ值

意识的数学:整合信息理论(IIT)与Φ值

能不能像测量温度一样,给一个系统的"意识程度"打个分?神经科学家朱利奥·托诺尼真的试了——他提出了一套叫"整合信息理论"(IIT)的框架,用一个叫Φ(Phi)的值来量化意识。这个理论对AI可不友好。...

图灵测试过时了吗:现代AI能力评测新范式

图灵测试过时了吗:现代AI能力评测新范式

1950年,图灵提出一个判据:如果机器在文字对话中骗过了人类,就认为它有智能。七十五年过去,GPT轻松通过这个测试,但没人觉得它已经"通用智能"了。图灵测试,是不是该退休了? 图灵测试的聪明与局限 图...

AI觉醒的边界:从《她》到现实的距离

AI觉醒的边界:从《她》到现实的距离

电影《她》里,男主爱上了操作系统萨曼莎;现实中,Google工程师曾公开声称对话模型LaMDA"有了灵魂"。AI觉醒到底是科幻的预演,还是人类的自我投射?今天我们扒开这层浪漫的滤镜。 科幻给了我们错误...