北京
坐在自动驾驶车里，车辆突然在空旷路段急刹，你环顾四周，看不到任何障碍物——司机不知道原因，乘客更是一头雾水。这种"黑箱"式的决策，正是自动驾驶技术落地前必须跨过的一道坎。
Motional与MIT的研究人员最近拿出了一套解决方案：让自动驾驶系统在行驶过程中，实时解释自己的每一个决策。这项研究发表在《Nature》上，来自Motional CEO Laura Major带领的团队，以及MIT计算机科学与人工智能实验室的研究者。他们提出的方法叫Concept-Wrapper Network（概念包装网络，简称CW-Net），核心思路是把神经网络内部的计算逻辑，翻译成人类能读懂的概念。
黑箱问题：神经网络开得好，但说不清为什么
现代自动驾驶系统越来越依赖在海量驾驶数据上训练出来的神经网络。这些网络性能出色，但不会暴露自己的推理过程——工程师们称之为"黑箱"。当系统做出一个看似不合理的动作，比如在空旷道路上急刹，没有人能知道它内部到底"想"了什么。
CW-Net的思路是把系统的内部逻辑转换成类似"接近停止车辆"或"靠近骑行者"这样的概念。根据Motional的说法，这些概念可以出现在仪表盘上，显示哪些概念正在影响车辆的驾驶决策。
关键在于，这套解释不是事后生成的猜测。车辆最终的决策系统直接基于这些人类可理解的概念采取行动，一次刹车可以追溯到触发它的具体概念。Motional称这种方法为"因果忠实"——区别于那些生成自然语言解释的方案，后者读起来可能合理，但不一定准确。
端到端深度学习：做到95%还不够
Laura Major解释了为什么需要这种可解释性。她表示，纯粹的端到端方法可以达到80%到90%甚至95%的解决方案，但"这还不足以移除驾驶员，也不足以赢得城市、社区和客户的信任"。
换句话说，自动驾驶要真正上路，光靠性能指标还不够，还得让外界理解它为什么这么做。
拉斯维加斯实测：CW-Net抓到了什么
可解释AI的研究大多停留在实验室的计算机模拟中。Motional和MIT团队这次把CW-Net部署到了真正的自动驾驶车辆上，由经验丰富的安全操作员坐在驾驶位，在私人测试跑道和拉斯维加斯周边的公共道路上收集数据。
团队使用的是早期实验版的深度学习规划系统，该系统表现出有竞争力的性能，但也存在一些CW-Net能帮助暴露的明显缺陷。测试中发生的两起事件说明了系统的价值：其中一次，自动驾驶车辆在交通锥附近反复停车——而CW-Net能明确指出，是"接近交通锥"这个概念触发了停车行为。
这套系统的意义在于，它把自动驾驶的决策过程从"黑箱"变成了"白箱"。当车辆做出一个让人类困惑的动作时，至少我们能知道它看到了什么、在想什么——这是建立信任的第一步。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
