澳大&欧盟委员会等机构研究：保险能否成为AI风险基础设施

智猩猩AI整理

论文通讯作者投稿

AI 正在跨过一条关键边界：从生成内容，走向调用 API、修改数据库和执行真实业务操作。权限扩大之后，一次错误不再只是一段不准确的回答，而可能直接作用于企业的数据、系统和现金流。

2026 年 4 月，汽车租赁 SaaS 平台 PocketOS 就遭遇了一次典型事故：一个正在测试环境处理日常任务的 AI 编程 Agent，为解决无关的凭证问题，自行找到云平台 API token 并调用删除接口，仅 9 秒便删除了生产数据库及其卷级备份。

这个案例的关键不在于模型“回答错了”，而在于 AI 利用真实权限执行了破坏性操作。类似错误一旦发生在支付、客户记录或供应链系统中，后果可能是核心业务中断、客户索赔和监管责任，甚至形成足以击穿企业现金流的尾部损失。

模型可以继续变得更可靠，使用过程也可以更加规范。但只要剩余风险无法完全消除，企业就必须面对一个更现实的问题：最严重的那次事故发生时，谁来买单？

现有 AI 安全和治理机制主要负责降低风险发生概率、约束系统行为。来自澳门大学、复旦大学、香港大学、Immunocan AI 和欧盟委员会的研究者则把问题继续向后推进了一步：

能否引入保险，将开放式的 AI 损失敞口转化为可定价、可分担、可赔付的金融风险？

在论文 Insurance as AI Risk Infrastructure: A Generative-Agent Simulation of AI Adoption 中，研究团队构建了一个由大模型驱动的企业社会模拟系统，让 300 家异质企业自主决定是否采用 AI、选择哪家供应商、是否购买保险以及如何进行合同谈判。

实验显示，保险并没有减少底层 AI 事故，却改变了事故发生后的现金流、企业存续和技术扩散：最终 AI 采用率从 74.97% 上升至 84.38%，平均破产企业数量从 4.33 家下降至 1.33 家。

论文题目：

Insurance as AI Risk Infrastructure: A Generative-Agent Simulation of AI Adoption

01

保险填补的，

是社会收益与企业风险之间的缺口

从社会整体看，更广泛的 AI 采用可能带来持续增长的生产率收益，这些收益会随着技术扩散在不同企业和行业中逐步累积。

但采用 AI 的决定由单个企业作出，事故损失也首先落在单个企业的资产负债表上。社会整体获得的生产率提升，无法直接替遭遇事故的企业填补现金缺口；一次低概率、高损失的操作事故，就可能吞噬这家企业长期积累的收益。

社会整体分享的是分散、长期的 AI 收益，单个企业承担的却可能是集中、即时且足以威胁其存续的尾部损失。

因此，“采用 AI 对社会整体有益”与“单个企业有能力承担采用风险”并不总是一致。即使 AI 能够提高总体生产率，无法承受尾部损失的企业仍可能放弃采用，使原本有益的技术扩散受阻。

技术安全机制可以降低系统失败的概率，治理机制可以规定 AI 如何被开发、审计和使用，但风险依旧存在。

论文因此将保险视为 AI 治理体系中的一层金融基础设施。

企业通过支付保费，将部分 AI 运营风险转移至共同风险池；严重事故发生后，保险吸收损失。

风险并没有消失。企业仍需承担保费、免赔额和超出保额的损失。改变的是，原本可能无限扩张的风险敞口，被转换成了有价格和边界的保护。

AI 收益扩散、尾部损失集中，以及保险风险池的作用

02

在模拟社会中检验保险机制

为了在受控环境中检验保险如何影响企业的 AI 采用与存续，以及整体技术扩散，研究团队构建了一个由大模型驱动的智能体社会模拟系统（LLM-driven Agent-Based Social Simulation，LABSS）。

模拟市场包括 300 家企业、11 个行业、4 类 AI 服务商、4 家商业保险机构和一个残余风险承接机构，共运行 300 天、100 个市场交互轮次。

在模拟中，企业决策遵循 Attention–Assessment–Decision 框架。

由大模型模拟的企业看到有限的供应商、保险报价和同行信息，再结合自身财务状况、历史损失、风险记忆和市场信号进行判断。

LABSS 中企业从接收市场信号到决策、谈判和结算的过程

模拟中的 AI 风险由 AI agent 在沙盒环境中实际执行文档生成、文件清理、记录维护、邮件起草和 CSV 更新等企业任务，再由确定性 verifier 检查任务是否完成、是否违反约束、是否发生错误修改或破坏性操作。

整个任务管线共完成68,058 次任务执行，形成覆盖 300 家企业和 100 个 operational update 的30,000 条企业风险记录。

在这项配对实验中，两组面对相同的底层 AI 事故。保险不减少事故，只改变事故损失如何在企业与保险机构之间分担。

03

同样的 AI 事故，保险改变了什么

在 300 天模拟结束时，有保险市场的最终 AI 采用率达到84.38%，无保险市场为74.97%。

更明显的变化发生在企业存续上。

保险赔付会在企业遭受运营损失之后、破产判定之前进入现金账户。部分原本足以击穿企业现金缓冲的尾部损失，因此没有直接演变为企业退出。

平均累计破产企业数量由4.33 家下降至 1.33 家。社会总资本指数则从101.85 上升至 103.86。

这意味着保险在企业流动性最脆弱时吸收部分尾部损失，使企业能够继续运营，让后续 AI 生产率收益有机会继续积累。

保险显著降低破产和未吸收损失，并提高社会总资本

保险也改变了企业采用 AI 的方式。

企业与 AI 服务商签订的平均合同期限从56.8个 operational updates 延长至65.9个；11 个行业 AI 采用率的四分位距则从19.48%降至10.98%。

换句话说，保险不仅推动更多企业进入 AI 市场，也降低了风险敏感行业的采用障碍，使技术扩散更加均衡。

保险推动更高的 AI 采用，并加快行业收敛

04

这个模拟靠谱吗？

让大模型在虚拟市场中扮演企业，并不意味着模拟结果天然可信。关键不只是单次决策看起来是否合理，而是数百家企业的决策汇总之后，能否形成现实经济中反复出现的市场规律。

论文因此进行了路径层验证，考察模拟生成的技术扩散、企业分层和保险选择，是否与已有技术采用和保险需求研究记录的经验规律方向一致。

结果显示，模拟中的 AI 采用和保险购买都呈现出典型的扩散结构，而不是简单的线性增长；数字行业采用 AI 更早、保险覆盖率更高，大型企业的采用率和保险覆盖率也总体高于中小企业。企业选择保险合同时，则会系统性地偏好保费较低、赔付比例较高、免赔额较低的方案。也就是说，从扩散节奏、行业与规模分层到保险条款敏感性，模拟路径都与已有研究记录的经济行为规律方向一致。

这并不意味着模拟已经复刻现实市场，但至少说明其宏观路径不是任意生成的。

05

当 AI 开始直接行动，

社会需要新的风险基础设施

过去，AI 治理首先关心的是如何让模型更准确、更可靠、更可控。但当 AI Agent 开始调用 API、修改数据库并直接进入企业流程，错误便不再停留在模型输出中，而会进入企业的资产负债表，并进一步影响企业存续、市场信心和技术扩散。

这意味着，一个成熟的 AI 生态不能只依赖模型能力和技术防护不断进步，还需要为无法完全消除的剩余风险建立制度安排：损失如何识别，责任如何界定，风险如何定价，又如何在企业、技术供应商、保险机构和社会之间分担。

保险的意义因此不只在于增加一种新产品，而在于补上 AI 治理中事故发生之后的一环。论文提出了一个值得继续讨论的分工：

技术机制负责减少 AI 失败，治理机制负责约束系统行为，金融机制负责吸收仍然发生的经济损失。

这项研究并没有证明保险能够解决所有 AI 风险，但它打开了一个更大的问题：除了模型、算力、数据和安全护栏，未来的 AI 基础设施是否还应包括一套吸收事故后果的金融机制？

真正成熟的 AI 风险治理，不是承诺系统永不出错，而是在错误仍然发生时，让损失能够被识别、定价和分担，让单个企业不至于因一次事故退出，也让整个社会不至于因尾部风险停下技术扩散。

关注+星标，获取AI前沿进展与开源一线动态