辽宁
当AI开始学会自己找漏洞、写恶意代码，网络世界的攻防格局正在被重新改写。
过去需要顶尖黑客耗费数周才能发现的软件漏洞，如今可能在AI的帮助下被批量挖掘出来。
10月30日，中国AI芯片公司寒武纪的联合创始人陈云霁在上海出席活动时发出呼吁：中美两国的领先AI模型，应当遵循共同的、普遍适用的伦理要求。他的出发点很明确——降低AI给社会带来的日益增长的风险。
在他看来，在可能危及社会整体的风险面前，即便是竞争对手，也需要守住一些共同的底线。这一表态，出自一位身处中美科技竞争最前线的芯片专家之口，显得格外耐人寻味。
芯片专家为何谈伦理
陈云霁是中国AI芯片领域的代表性人物。他与兄长陈天石共同创立了寒武纪科技，该公司源自中国科学院计算技术研究所，是国内最早专注于AI专用处理器的企业之一。
他早年在中国科学院计算技术研究所从事处理器研究，曾参与国产龙芯处理器的研发工作。
寒武纪长期被视为中国在高端AI芯片领域自主突围的重要力量，也因此早早进入美国的出口管制视野。
近年来，随着国内AI算力需求激增，寒武纪的业绩和市值也大幅增长，成为资本市场关注的焦点。一位深耕底层硬件的科学家，主动谈论模型的伦理标准，本身就说明了一个问题：AI风险已不再只是软件层面的事。
当模型能力越来越强，算力、模型与应用之间的边界正在模糊，安全问题必须从整个技术链条上统筹考虑。
AI网络风险正在升级
陈云霁的呼吁，有着清晰的现实背景。AI与网络安全的交汇，正成为全球安全领域最受关注的议题之一。
今年9月，中国国家安全部部长陈一新在《中国网信》杂志上发表署名文章，点名美国两款AI模型可能构成网络威胁。
文章认为，这类模型标志着AI显著提升了漏洞挖掘和恶意软件开发的效率与“武器化”程度，对关键信息基础设施构成严重风险。文中提出了“漏洞工业化”“攻防全自动化”“以AI对抗AI”等说法。
文章还从政治安全、网络攻防、泄密窃密、技术垄断、社会治理和军事冲突等多个层面，梳理了AI可能带来的风险。
在国际上，欧盟方面也在测试前沿模型的网络安全能力，美国的AI公司则强调将相关能力优先用于防御。一个越来越清晰的共识是：同一项AI能力，既可以帮助防御者修补漏洞，也可能被攻击者用来批量制造武器。
全球主要经济体都在加紧摸索，如何在鼓励创新与防范风险之间找到平衡。
正因为这种双重属性，如何管控高能力模型的扩散，成为各国政策制定者面临的共同难题。
竞争之中，能否有一条底线
中美在AI领域的竞争日趋激烈，从芯片出口管制到模型能力排名，几乎处处针锋相对。在这样的背景下，呼吁建立共同的伦理标准，听起来似乎有些理想化。
尤其是在双方相互设限、技术脱钩加速的当下，坐下来谈“共同规则”并不容易。
但从风险管理的角度看，这种呼吁并非没有道理。网络攻击没有国界，一旦AI驱动的自动化攻击工具扩散，任何国家都难以独善其身。
一个被恶意利用的AI工具，今天可能攻击这个国家的电网，明天就可能瘫痪另一个国家的医院系统。
这就好比核技术的发展史，竞争双方最终也需要坐下来，就某些底线达成共识，避免灾难性后果。事实上，中美学界和智库此前已多次探讨在AI安全领域开展合作，包括建立沟通渠道、共享技术评估方法等。
中方此前也提出了全球人工智能治理倡议，主张以人为本、智能向善，反对以意识形态划线和构建排他性小圈子。
共同标准的难点在哪
当然，从呼吁到落地，还有很长的路要走。首先，中美在数据治理、内容监管和价值观层面存在明显差异，统一的伦理框架如何兼顾各自关切，是一大难题。
例如，什么样的内容属于“有害”，什么样的能力需要被限制，双方的理解未必一致。
其次，在缺乏互信的情况下，任何标准都面临如何核查、如何执行的问题。再次，AI技术迭代极快，标准制定往往跟不上技术发展的步伐。
此外，模型开源与闭源的路线差异，也让统一监管更加复杂，开源模型一旦发布便难以收回。
但正因为难，才更需要有人率先发声。
历史经验表明，许多重要的国际规则，最初都只是少数有识之士的呼吁。
在技术狂奔的时代，为最强大的AI系统设定共同底线，或许是中美之间少数能够真正实现共赢的议题之一。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
