当前位置:首页 > AGI 与 AI 意识研究 > 正文内容

什么击碎了具身AI安全:LLM漏洞、CPS缺陷,还是别的?

论文信息
英文标题:What Breaks Embodied AI Security:LLM Vulnerabilities, CPS Flaws,or Something Else?
作者:Boyang Ma, Hechuan Guo, Peizhuo Lv, Minghui Xu et al.(2026)
来源:arXiv:2602.17345v1 | PDF全文

中文摘要

具身AI(自动驾驶/服务机器人/LLM驱动交互体)正从受控环境转向安全关键现实部署。与离身AI不同,具身失败导致不可逆物理后果。现有研究多从LLM漏洞或经典信息物理系统(CPS)失败分析,本文论证这些视角单独都不够解释现代具身系统的许多崩溃。提出显著一类失败源于「具身引发的系统级失配」而非孤立模型缺陷或传统CPS攻击。识别四核心洞察:(i)语义正确不意味物理安全;(ii)相同动作因非线性动力学导致截然不同结果;(iii)小错误在紧密耦合环中传播放大;(iv)安全不跨时间/系统层组合。建议安全需超越组件级防御,转向系统级推理。

核心贡献与解读

系统剖析具身AI安全,指出「具身引发的系统级失配」才是核心难点,给安全研究新框架,安全从业者必读。

关键词

具身AI安全 / 系统级失配 / CPS / LLM漏洞

相关文章

AGI不是更大的模型:从专用AI到通用智能的鸿沟

AGI不是更大的模型:从专用AI到通用智能的鸿沟

很多人觉得GPT-5、Claude就是AGI的前夜,再堆点算力就能"涌现"出通用智能。但事实是——我们连"通用智能"到底长什么样都没想清楚。这篇文章聊聊专用AI和AGI之间那道看不见、却真实存在的鸿沟...

机器能"感受"疼痛吗:AI意识的科学边界

机器能"感受"疼痛吗:AI意识的科学边界

如果有一天,一台机器人被"踩了一脚"后大喊"好疼",我们该相信它真的疼,还是觉得它在演戏?这个问题看似哲学清谈,却直接关系到我们未来如何对待越来越聪明的机器。今天聊聊AI意识的科学边界。 意识是什么:...

大模型真的理解语言吗:理解之谜与中文房间

大模型真的理解语言吗:理解之谜与中文房间

GPT能写出让你落泪的情书,能 debug 你写了三天的代码,能和你聊存在主义到深夜。但一个幽灵始终徘徊在这个领域:它真的"理解"自己在说什么吗?还是只是高级的"文字接龙"?今天拆解这个让图灵奖得主都...

意识的数学:整合信息理论(IIT)与Φ值

意识的数学:整合信息理论(IIT)与Φ值

能不能像测量温度一样,给一个系统的"意识程度"打个分?神经科学家朱利奥·托诺尼真的试了——他提出了一套叫"整合信息理论"(IIT)的框架,用一个叫Φ(Phi)的值来量化意识。这个理论对AI可不友好。...

图灵测试过时了吗:现代AI能力评测新范式

图灵测试过时了吗:现代AI能力评测新范式

1950年,图灵提出一个判据:如果机器在文字对话中骗过了人类,就认为它有智能。七十五年过去,GPT轻松通过这个测试,但没人觉得它已经"通用智能"了。图灵测试,是不是该退休了? 图灵测试的聪明与局限 图...

AI觉醒的边界:从《她》到现实的距离

AI觉醒的边界:从《她》到现实的距离

电影《她》里,男主爱上了操作系统萨曼莎;现实中,Google工程师曾公开声称对话模型LaMDA"有了灵魂"。AI觉醒到底是科幻的预演,还是人类的自我投射?今天我们扒开这层浪漫的滤镜。 科幻给了我们错误...