广东
机器人已能执行搬运、导航及人机协作等任务，但在误读物体或遭遇意外时的反应仍存隐患。今年7月，一段网传视频显示，一款中国制造的类人机器人在俄罗斯因误判握手手势而做出攻击性动作。尽管该视频疑似摆拍，但随着AI驱动机器人加速迈向工业部署，如何证明系统在现实世界中的安全性，已成为超越硬件性能的核心挑战。
NVIDIA推出Halos for Robotics，试图从计算堆栈层面解决这一难题。NVIDIA机器人生态系统与边缘AI产品负责人Amit Goel指出，传统安全措施已无法支撑现代机器人的复杂任务需求。工业机器人开发商Addverb的测试也证实了这一点，其系统曾出现深度计算错误及轻微碰撞等问题，凸显了机器人需持续验证行为而非单纯执行指令的必要性。
当“停止”已不再足够
传统工业机器人依赖预定义的安全边界，检测到障碍物即停止，无法区分人员与普通障碍。Goel表示，这种频繁停机限制了操作区域，降低了多任务场景下的实用性。在由基础模型驱动的机器人时代，安全措施需具备情境理解能力：递送物品时需靠近工人，而其他场景下同样距离则可能构成风险。
“上下文和推理是安全功能的关键。”Goel称。Halos作为参考平台，涵盖计算硬件、系统设计、操作系统及安全应用。其配套的Holoscan Sensor Bridge以低延迟传输传感器数据，并将安全逻辑与主要功能分离，允许两者在同一计算单元上并行运行。
“由外向内”的安全机制
NVIDIA方案的核心之一是“由外向内”（Outside-In）安全机制。通过部署在设施周围的外部摄像头，系统可监控机器人、人员与机械的互动，弥补机器人自身视野盲区。相比在每个转弯前减速的传统做法，该机制能识别潜在危险并发送指令阻止不安全运动，从而在保障安全的同时维持运营吞吐量。
Goel表示，该方法可适配工厂、仓库、医院及零售等不同环境。此外，仿真技术在测试多AI系统交互中扮演重要角色，帮助开发人员预判多个模型共存时的行为表现。NVIDIA还设有检查实验室，在开发者寻求正式认证前审查技术文档并提供反馈，但实验室本身不进行产品认证。
鉴于AI与安全领域尚处早期，标准制定机构仍在探索通用解决方案。机器人、传感器及应用场景的多样性，使得开发统一的安全标准极具挑战。
跨越试点到量产的鸿沟
Addverb高级机器人部门负责人Rajesh Kumar指出，挑战常现于测试阶段，如库存单位重叠导致的深度计算错误、夹爪过度旋转等。即使完成任务，系统仍需冗余深度传感、置信度评分及运动中检查来捕捉错误。面对意外障碍，系统可结合传感器数据减速、重规划路径或停止，必要时将任务移交人类。
速度限制、扭矩限制及紧急停止等硬性措施独立于学习系统运行。Kumar强调，成功的试点仅证明机器人能执行特定任务，而量产要求其在对象、环境及操作条件变化中保持性能一致性。“最大的差距在于不可预测环境中的一致性。”
为应对风险，NVIDIA推出开源项目OpenShell，对机器人上的AI模型进行沙盒化处理，防止模型超出最大扭矩等预设限制。同时，带外监控系统旨在检测并阻止不安全活动，即使AI决策超出预期边界也能实施约束。
Goel承认，除计算效率和模型成熟度外，安全性仍是阻碍类人机器人广泛部署的主要障碍。当前的核心挑战不仅是提升机器人智能，更是确保其不断增长的能力始终处于人类可信任的范围内。
【星途科讯 图文丨伊贝 首发于ZAKER科技，转载请注明出处】
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
