北京
分享至
英国公布了一套完整的AI安全计划，核心动作之一，是用前沿模型去扫描政府系统里的漏洞。不是请外部安全公司做渗透测试，而是让AI自己去找自己这类系统可能被攻破的地方。
这套计划里能明确看到的动作有几项：
- 用前沿模型扫描政府系统，查找漏洞
- 研究智能体的事件响应与报告机制
- 争取模型的预发布测试权
- 推动本土技术自主
第三项值得多看一眼。预发布测试权意味着，在模型正式对外发布之前，监管方要拿到测试的入口。这不是事后追责，是把检查点前移到产品上线之前。
第二项针对的是智能体。智能体一旦被放进真实系统里执行任务，出问题时怎么响应、由谁报告、按什么格式报告，目前都还没有成型的制度。英国把这块单独列出来研究，说明他们判断风险的重心正在从“模型会说什么”转向“模型会做什么”。
最后一项是本土技术自主。这条和前面几项放在一起看，逻辑是通的：要扫描政府系统，要测试前沿模型，依赖外部供应链总归不踏实。
整套计划的落点，是让英国成为全球最难被攻破的国家。这个目标能不能兑现另说，但路径已经写清楚了——用最强的模型，去守最要害的系统。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
