在滴滴安全开放日现场，我提出了一个伦理问题

前几天去参加了滴滴在成都举办的“预警风险 共建安全”主题安全开放日活动。这次活动，邀请了很多媒体朋友、专家学者，开放、透明地介绍了滴滴过去几年安全体系的建设，与大家共建安全。

活动先是走进滴滴成都安全预警中心，近距离看看安全专家是怎么工作的。我们可以体验和安全员一起听录音。

滴滴的安全预警中心24小时运转，先是安全AI模型秒级检测全量订单，捕捉路线偏移、车内争执录音、不当言语、轨迹异常等风险信号，分级推送至全国多个城市的安全职场。安全专家核验信息后，确认存在安全隐患即启动外呼提醒、震慑，必要时直接报警。目前，滴滴有超过4000名安全专家每天处理预警中心各类案例。

我身边的安全专家接的一个工单，因为有未成年人的声音，AI判断有风险，然后分配给人工。我听了一下，跟安全专家说，大白天，交通繁忙的上午十点，一个妈妈带着一个未成年，坐网约车，我觉得只要确认这个情况，就可以不继续听了。因为发生风险的概率已经降低到了一个非常小的水平。即便发生问题，妈妈也会有自保能力，一定会投诉，后续处理就行了。安全专家说，不行的，我们规定一定要听完。我继续问安全专家你们怎么考核的。我说你核查一小段录音，确定类似的情况，你就可以不听了，结束这一工单，这样你的KPI就会很好。

在交流环节，滴滴的安全相关部门的负责人讲解了平台常见的典型案例。

有些案例令人感慨，有些令人啼笑皆非。父母帮三个孩子叫车，跨城顺风车，三个孩子最大10岁，最小的不过两三岁。父母心大，真叫人叹为观止。还有一个女乘客，醉酒上车，身子从后面探到前面，和男司机发生肢体接触。滴滴的安全中心即刻响应，打电话给男司机。男司机最开始小心翼翼地应对女乘客，在最后下车扶女乘客的时候，忍不住亲了一下，结果被封号。

然后是媒体间的讨论，滴滴问道于媒体，怎么做能更好地提升安全。认识我的人都知道，不管是评论圈的笔会，还是一些专业会议，我都还是比较有表述欲，还是会讲几句。不过，我不想顺着怎么提升安全这个议题走。我觉得，虽然不排除旁观者清，但一般来说，该怎么做，滴滴的产品经理肯定开过无数次头脑风暴会议了。

上台我就说，我讲点不一样的。

我说，在实际生活中，安全并不是第一位的。这是一个误解。我出去接孩子，我可能不开车，而是骑电瓶车。显然这没有开车安全，但开车却不方便，不好停车。这里安全让位给方便。这不是我一个人的选择，很多家庭都是如此。

再比如购车，一般来说，预算先投入到车型的档次上，先要面子，然后才是升级安全配置。这就是安全让位于面子。

不过，人的实际行为，安全虽然不是第一位的，但一旦出事了，人们就会说安全是“第一位的”，也就是“不讲道理的第一位”，比如“人死为大”，不讲法律、不讲道理。比如，一个大学生本来成年了，自己到校外去喝酒，意外死亡，学校本无责，但还是得负责。结果就是学校就把大学生像高中生一样严管。同样的，滴滴也要承担很多法律之外的责任，从商誉、社会责任的角度去承担责任。

为了尽可能地提升安全，滴滴的具体办法，就是用安全预警的系统性去抵消一部分用户的侥幸心理。

对此，我谈到警报系统的两类错误。

任何“报警”系统，比如火警、病毒试纸等，都必然存在两类错误：假阳性（没发生但“报警”）和假阴性（发生但未“报警”）。这两类错误此消彼长，不可同时消除。

比如，地铁按下紧急停车按钮，可能是假阳性，虚惊一场，本来不用按。有一段时间，媒体一直宣传不能乱按“紧急按钮”，包括电梯和地铁的，就是为了减少假阳性。这种宣传其实是有问题的，结果就是有一次有人被夹在列车和门之间，没人敢按，列车启动，人不幸死亡。“不要乱按”其实追求的是降低假阳性的成本，但必然导致假阴性（该按未按）的概率上升。

滴滴选择了承担大量的假阳性产生的成本。调高人工智能的触发概率，并且严格要求安全员听完，支付更多的工资。这就是我前面问安全专家的那些问题。

安全从来都是有巨大成本的，比如滴滴，安全投入每年数十亿，年复一年。但这些安全投入的成本是很难被外界感知的。

首先，因为安全的边际提升的成本很高。

都说安全是最大的奢侈。这话来形容安全的成本也非常贴切。1分钱1分货，5分钱2分货，10分钱3分货。奢侈品就是如此。所以，安全的一丁点提升，就意味着大量的成本，而这个大量的投入的效果，很难被消费者感知。

很难被感知，有些是意识问题、观念问题。有些是因为做得很完善，边际提升很小了。

再比如，出租车完全没有滴滴这样的实时检测，你坐出租车的时候也不会惊恐万分。因为大量投入，当然会带来提升，但未必是那么明显。

最后，关于安全成本，我抛出了一个伦理问题。

我说，按照滴滴现在的安全措施，出事的概率已经很小了，假设每年滴滴再多投5个亿，能够在5年内阻止几桩安全事件发生。那么，这25亿没人会觉得不该投入，但问题还有另一面。

如果这笔钱不花，成立一个基金，专门针对还未纳入医保的那部分干细胞移植费用，治疗少儿急性白血病。这是一种最令人悲痛的病：得病的都是小孩，且可以治愈。这25亿，可以救1万个小孩。

这就是边沁的功利主义哲学。当然，康德提出过“人是目的，而不是手段”；罗尔斯提出过 “无知之幕”，批评功利主义。但边沁的功利主义在法律、政治、经济等领域都有影响，是很多法律、判决、政策的依据。比如，个人所得税，从富人手里拿走给穷人，就是因为同样的钱，给穷人带来的效用更大。现实中，很多事情不得不算。

我当时没说，这里补充一些内容。像滴滴这样的公司，还有相关部门的管理措施，比如，为了防徒步出事，把山圈起来。表面看，这都是他们的选择，但这背后，是考虑社会舆论做出的选择。

正如我前面所说，对安全的投入，大家很难感觉得到，不过一旦出了事，平台所有努力又容易被舆论一笔勾销。安全是不可穷尽的，每一个副驾驶都派一个人监督司机，也会出现两个人一起联手犯罪的情况。但社会不接受安全问题必然会出现，只要出事，舆论会觉得安全投入不够，企业、相关部门应该为投入不够负责，那么，相关方就只要加大投入。

有些部门，比如高校，它可以不加大投入，它可以通过减少大学生的自由来换安全。而像滴滴这样的企业，就只有加大投入。所以，某种程度上，是社会决定了安全投入的水平，但这种安全投入，其实是会带来新的伦理问题的。

所以，我最后总结说：我们未必一定要朝着一个提升安全的方向去讨论，正确认识安全的边界，合理地确定安全的责任划分，才能实现更大程度的社会福利。

讲完后，有认识的记者朋友也在场，在微信上发来消息，说我讲得很好。会议结束后，有几位记者来加我微信，现场也聊了一会儿。我说，现在各行各业都在讨论安全，但往往忽略了安全的成本，安全背后，是有人的利益受损的。社会需要共识安全的边界，安全责任的划分应当合理界定，而用户建立起直面风险或承担风险的意识，同样是这道命题中不可或缺的部分。

刘 远 举

央视网、第一财经、光明日报、腾讯大家、南方周末、新京报、南方都市报、FT中文网、澎湃等特约作家，多家智库研究员。

关注财经、科技、时政，以深度、专业、理性的态度，去掘现象背后的事实。

中国科技自媒体50人

第35届中国新闻奖评论三等奖

第34届中国经济新闻奖评论二等奖

第28届北京新闻奖一等奖

2024年湖南新闻奖一等奖

腾讯大家年度作家奖

新浪最有价值专栏作家奖

红辣椒评论年度佳作奖

已开快捷转载，欢迎转载

已开过白名单的公众号，转载请遵循转载规则

您的关注是最好的支持！