重庆
人工智能在金融领域的应用正从效率工具向核心业务环节延伸,随之而来的安全议题也日益受到行业关注。在中国—东盟人工智能产业创新中心研讨会圆桌环节,马上消费资深AI产品专家郭奕提出,安全是金融行业应用人工智能的普遍诉求。
这一判断与行业面临的现实挑战直接相关。随着生成式人工智能技术门槛持续降低,深度伪造手段不断翻新,由此引发的用户投诉与纠纷相应增多。今年9月,全国网络安全标准化技术委员会发布《人工智能安全治理框架3.0》,延续“风险分类、技术应对、综合治理”的核心逻辑,为行业安全治理提供了新的参照。
马上消费金融围绕上述方向在多个层面推进实践。在标准与规则建设层面,其牵头起草的ISO国际标准《信息技术 生物特征识别深度伪造攻击检测 测试与报告》于今年5月正式获批立项,这是全球范围内首次在生物特征识别深度伪造检测领域建立系统化的测试与报告框架。该标准聚焦深度伪造、生物特征欺诈等全球共性安全难题,旨在构建国际统一的测试与报告要求,为评估AI换脸防御能力提供可量化、可复现、可审计的第三方验证依据。
技术治理层面,马上消费金融自主研发的零售金融大模型“天镜”以安全可信为核心设计原则,实现从算法、算力到数据的全链路治理。在防伪安全领域,公司自研防伪大模型配合在线背景聚类与检索算法,实现对新型攻击的迭代周期从90天缩短至1天,防伪拦截率提升至99.9%以上。在数据治理方面,公司建立了覆盖数据采集、存储、使用全生命周期的安全管理机制,并通过多方安全计算平台实现原始数据不出域前提下的数据协同利用。
不同于将安全视为阶段性合规任务的思路,马上消费将AI安全治理嵌入日常业务中,目的是让每一位用户在享受智能金融服务的便捷时,都能感知到背后有一套稳定、可追溯、不断进化的安全屏障在持续运行。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
