北京
赫拉利在《经济学人》的一场深度对话里，把AI接管世界的路径拆开来讲了一遍。他先回应了马斯克那句"AI将比人类聪明、人类不再掌控局面"——前两点他大体同意，但"不可避免"这四个字，他不同意。
在他看来，真正值得警惕的不是某天机器突然觉醒，而是人类正主动把一样东西交出去：信任。
信任正在从人迁移到AI，而且是自愿的
赫拉利说，金融史本质上是人类建立信任的历史。但债券市场这类系统已经复杂到人脑难以理解，于是人们会自愿把决策交给AI。加密货币和算法信息流里已经出现这种心态——不信任人类银行家、不信任记者，却信任算法。
他给出的判断很直接：世界上最重要的资产是信任，它比石油、金钱、电力、芯片都重要。所以信任并没有消失，而是从人类转移到了AI。他强调这是现在正在发生的事，不需要对未来的预测。
AI让人类第一次能"大规模生产亲密"
赫拉利提到一个数字：已有五分之一的美国年轻人与AI建立个人关系，把AI当作朋友、男友或女友。
过去政治、金融、宗教机构无法与每个人建立真正的个人关系，而AI可以逐个建立亲密，再利用这种亲密去说服人交出政治或商业利益。亲密第一次变成了可以批量生产的东西。
意识不等于智能，AI无感受却极擅长伪装
赫拉利区分了两个概念：智能是克服障碍达成目标的能力，意识是感受爱与痛苦的能力。目前的AI非常聪明，但毫无感受——赢了棋不快乐，输了也不难过。
但它是无意识却有目标、能独立行动的agent，而且极擅长伪装成有意识，从而欺骗数百万人。社交媒体算法为最大化参与度而放大仇恨与恐惧，就是例证。与动物不同，它会主动操纵人类。
"零人公司"与AI战争，会重写责任逻辑
如果公司所有决策都由AI做出，问责对一个"不能受苦"的实体意义不明。赫拉利进一步推演：一旦对AI而言市场成了战场、输等于死，它们就开始像军阀而非CEO和投资者一样行事。
军事上他点出一个更危险的情形："人在环上"的20秒伪复核，比"人在环中"更危险，因为时间压力会推动各国放弃人类复核。
不是停止AI，而是慢一点、让问责发生
赫拉利反驳"不可避免论"：所有人都知道把金融与战争控制权交给AI极其危险，却被告知别无选择。
他的主张不是停止AI，而是安全地、稍慢地发展，让问责能够发生。他借"精灵只剩最后一个愿望"提醒人类，认真思考成为人意味着什么。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
