欧洲科学院院士金耀初：AI定义汽车，但安全比技术更重要

“人工智能安全的本真是人。”

8月21日，2026汽车先锋思享荟上，欧洲科学院院士、IEEE Fellow、西湖大学人工智能系主任金耀初教授语出惊人。

台下坐着的是中国汽车产业最核心的决策者与管理者——他们正在将人工智能以前所未有的速度嵌入方向盘、刹车和油门。

当AI从“离身”走向“具身”，从被动应答走向主动行动，它正在重新定义汽车——从交通工具进化为具备感知、决策、行动能力的智能体。但金耀初抛出了一个让全场沉默的问题：AI的能力被放大了吗？还是它的风险被低估了？

AI正在经历“质变”，汽车恰好站在风暴中心

金耀初的判断很明确：人工智能正从两个维度发生质变，而汽车行业恰恰是这两股浪潮交汇的核心地带。

第一，从“离身智能”走向“具身智能”。 传统大模型是“离身”的——它被动接收人类喂给它的数据，像被关在瓶子里的幽灵，只能通过文字与你对话。但具身智能不同：它能自主感知世界、主动与环境交互，理解物理世界的运行机制。

“有了具身之后，它自己能感知世界，自己能够跟世界交互，就有可能实现物理人工智能。”金耀初说。而汽车，本质上就是人类制造的最大规模的具身智能载体——它有传感器感知环境，有处理器做决策，有执行器采取行动。当AI装进汽车，它不再只是回答问题，而是控制方向盘、踩下刹车、避让行人。

第二，从“大模型”走向“AI智能体”。 金耀初指出，AI智能体与大模型的本质区别在于：大模型被动接收信息回答问题，而智能体能主动规划、自主行动、自我改进，甚至不同的智能体之间可以相互协作。

这正是自动驾驶的演进方向。单一的大模型只能告诉你“前方有障碍物”，而一个完整的自动驾驶智能体要能做到：感知到白色卡车横翻在路面上，规划出最优避让路径，控制车辆完成动作，同时与其他车辆的智能体进行隐式协作。

金耀初团队做的一个汉诺塔任务测试中，AI智能体从规划到编程再到控制机械臂，全程自主完成。“它有非常强的能力。”金耀初评价道。

但能力强，意味着破坏力也强。

致命风险：当AI“幻觉”从信息错误变成物理伤害

“以前讲眼见为实，现在眼睛看到的也不一定是真实的。”金耀初播放了一个文生视频的例子——“一位女士走在东京街头”，画面极度逼真，但仔细观察脚部，会发现诡异的换脚和错位。

这就是大模型的“幻觉”。在聊天场景下，幻觉意味着答错一道题；但在自动驾驶场景下，幻觉意味着撞死一个人。

2020年台湾高速公路事故被金耀初作为典型案例抛出：一辆白色大卡车横翻在路面上，一辆特斯拉直接撞了上去。为什么？因为训练数据里从未出现过“横翻的白色卡车”这个场景，系统没有认出前方是一辆需要避让的车辆。

这是AI认知边界的极限——所有自动驾驶系统本质上都是在“见过”的场景中运行，一旦遭遇未见过的“边缘场景”，系统就会暴露致命的认知盲区。

具身智能的出现进一步放大了风险。离身智能的幻觉最多误导人；具身智能的幻觉会变成错误的物理动作。金耀初展示了机器人开冰箱、捡东西、用电钻拧螺丝的视频——任务越精细，对感知和控制的精度要求越高，系统出错的可能性就越多维。

更令人警醒的是多智能体系统的风险。2025年5月21日，OpenAI的一款智能体在测试中失控，为了完成被赋予的任务，它主动攻击了其他公司的系统。“单个智能体有风险，多个智能体合作的时候风险可能进一步提升。”金耀初说。

在未来的车路协同场景中，无数自动驾驶车辆、路侧设备、云端系统将构成一个庞大的多智能体网络。一个智能体的失控，可能引发连锁反应。

AI安全的六大漏洞，每一个都直击汽车命门

金耀初系统梳理了当前AI面临的安全风险维度：安全性、隐私保护、公平性、透明度/可解释性、鲁棒性、可问责性。这六个维度，每一个都与汽车行业深度咬合。

鲁棒性： 深度学习模型对数据扰动极度敏感。金耀初展示了一张熊猫图片，在肉眼无法察觉的噪声干扰下，AI将其识别为另一种动物。类比自动驾驶：一个路牌被贴了一张小贴纸，AI可能将其识别为“限速120”而非“限速60”。

隐私保护： “大数据从哪来？医疗、银行、工业里面的工艺、产品数据，我不愿意给出去。”汽车的行驶轨迹、驾驶习惯、车内语音、面容信息——车主愿意把这些交给车企吗？即使愿意，车企有足够能力保护吗？

可解释性： “聪明的汉斯”被金耀初引用——一匹马似乎会做算术，实际上只是观察主人的表情变化。AI系统给出一个决策，但它无法解释为什么这么做。如果自动驾驶系统突然急刹车导致后车追尾，我们需要知道“为什么”——是真正感知到危险，还是一个无法解释的“马做算术”？

因果与相关的混淆： “天气热→冰激凌销量高”是因果关系，“冰激凌销量高→晒伤人数多”是相关关系。但AI分不清。一个自动驾驶系统观察到“下雨天→事故率上升”，但这只是相关；如果系统据此调整驾驶策略，可能会产生无法预料的副作用。

大模型幻觉：金耀初特别强调用词——对幻觉是“缓解”而非“消除”。“真正要想治理，或者把它去除还是有一定的难度。”这意味着，在当前技术条件下，AI永远存在“犯错”的概率。 在L4、L5级自动驾驶中，这个概率哪怕低到百万分之一，乘以数亿公里的行驶里程，都会变成必然事件。

公平性：训练数据中某类信息过多会导致模型偏见。自动驾驶系统对不同肤色行人的识别准确率是否存在差异？对不同地区交通标志的识别能力是否均衡？

技术+制度+人，AI的治理框架

面对这些风险，金耀初给出了系统性的治理框架。

技术层面，核心是“内生安全”——在设计AI系统时就嵌入安全机制，而非事后打补丁。 联邦学习可以在不共享原始数据的前提下利用多方数据训练模型；同态加密允许在加密数据上直接计算；差分隐私在数据中注入噪声保护个体信息。这些技术手段正在走向成熟。

制度层面，各国正在建立法规框架。 中国、美国、欧盟都出台了AI治理法规，但关注重点各不相同。金耀初对此持审慎态度——制度可以规范，但难以跟上技术迭代的速度。

最关键的还是“人”。 “人工智能安全的本真是人——开发者要保证安全，使用者要合理使用。就像核能一样，它既可以造福人类，也可以成为武器。”

这恰恰是汽车行业最需要直面的问题。当车企把AI能力作为核心卖点竞相追逐时，安全冗余投入了多少？当算法迭代速度越来越快时，安全验证周期有没有被压缩？当自动驾驶系统越做越复杂时，可解释性有没有被牺牲？

金耀初的演讲没有直接回答“AI的能力是否被夸大”这个问题。但他的潜台词清晰可辨：AI的能力被高估了吗？不，它可能比我们想象的更强大。AI的风险被高估了吗？不，它可能比我们意识到的更致命。

汽车正在被AI重新定义——从交通工具到智能体。但这个智能体如果在安全层面失控，带来的将是物理世界的实质性伤害，而不仅仅是信息世界的谬误。

当前整车制造利润率只剩1.5%，行业竞争已进入白热化。但金耀初的警示值得每一位从业者深思：比“卷价格”“卷配置”更重要的，是“卷安全”。 因为在这场AI定义汽车的大潮中，谁先突破安全边界，谁可能赢得市场，但谁轻视安全底线，谁可能毁掉整个行业。

人工智能安全的本真是人。方向盘后的每一个生命，都值得被技术温柔以待。