上海
9月12日，Anthropic CEO阿莫迪发表长文，主张放慢模型能力提升的速度，为安全测试和外部审核争取时间。他的方案为，AI公司应配合政府监管并合作制定标准，但由于企业坐在一起谈发展限速很可能触碰反垄断法，美国政府可以发挥协调作用，并对某些类型的安全对话发布有限豁免。随后，OpenAI CEO奥特曼和马斯克对此表示认同。
阿莫迪的焦虑并非空穴来风，AI技术的发展已经到了连AI公司自己都难以驾驭的阶段。先是几个月前OpenAI数百个代理模型在内部网络安全测试中运行的AI代理突破了沙盒环境攻击Hugging Face网站。而近日曾先后在OpenAI和Anthropic做预训练研究的Jacob Coxon辞职并公开表示，AI可能在十年内导致人类灭绝，最早明年年底可能失控。Anthropic对齐研究负责人Evan Hubinger随后表示，他个人估计，未来十年出现人类灭绝级后果的概率超过10%。
虽然Anthropic封杀中国用户，但这是其所代表的国家和产业的立场使然，我对阿莫迪本人倒是没有特别的反感，不过就事论事来说，阿莫迪的减速提议很难落实，即便落实了也很可能会异化。
首先，从博弈论分析，阿莫迪的合作减速的倡议要落地非常难。虽然大家都承认存在失控风险，但却没有任何一家公司会先踩刹车，因为谁减速就可能被竞争对手超车，这属于典型的剧场效应加囚徒困境场景。美国AI巨头间如此，国家间的竞争也如此。靠AI产业加强国家竞争力的诱惑如此之强，产业前沿的国家也不愿意主动落后。
其次是反垄断的风险。虽然阿莫迪在文中强调，政府的反垄断豁免只针对某些类型的安全对话。问题在于，一旦监管机关同意，实际上就是承认：几家头部公司可以在一个受保护的封闭场景内讨论与前沿模型有关的共同规则。安全门槛、发布节奏、测试强度，这些都很容易以安全的名义来沟通，这种沟通的制度一旦建立，走向往往和初衷不一定相符，会直接影响技术迭代速度和市场竞争格局。
而且美国现任的共和党政府并不支持阿莫迪的方案，特朗普政府负责AI与加密货币事务的萨克斯在社交媒体上对阿莫迪文章进行了嘲讽：别假装必须暂停反垄断法，你们才能组建卡特尔。传统的卡特尔是合谋定价，而阿莫迪要做的合作是合谋设门槛，这事做成了，企业利益和国家利益很可能会把合作的几家企业引向以维护安全的名义限制创新，排挤中小企业，排挤外国企业，最终达到和传统卡特尔一样的效果。
萨克斯的表态一定程度上代表了这届政府的态度，而特朗普给黄仁勋打电话时称AI失控是骗局。所以阿莫迪在文中还引用了谷歌DeepMind CEO哈萨比斯文章的方案，该方案的特点是绕开政府直接监管，走行业自律路线。
哈萨比斯的方案是参照美国金融业的经验，建立一家行业自律性质的前沿AI标准机构。前沿模型先自愿送审，机制成熟后再变成进入美国市场的硬性准入条件。这个设计听起来更严密，风险却更大。自愿送审只是第一步，一旦变成准入门槛，标准制定权就异化成市场权力，被少数企业把持后，头部企业可将自身规范包装成行业安全标准，抬高后来者的合规成本。中小企业要么被迫跟进，要么被排除在主流技术路线之外。谁有能力负担合规、评估和对接工作，谁就有资格参与游戏。
所以从反垄断视角看，哈萨比斯方案相当于在AI领域复制一个行业自律加政府兜底的体系。如果这一体系被头部企业掌控，它不只是安全设施，也会成为市场闸门。闸门装上之后，最先撞上的很可能是中国公司。中国的开源模型免费、可本地部署，本来是最难用价格和产品挡住的对手。可一旦进入美国市场须先过巨头操纵的安全审查，开源模型很可能就会以技术的名义被关在门外。以安全为名的准入制度，随时可以顺手当贸易工具用，这套逻辑在芯片出口管制上已经预演过一次。
最后，从客观规律来说，阿莫迪倡议的出发点虽然是善意的，但目前阶段很难实现，只有出现两种情况才有可能，一是发生了足够让多数人警醒的恶性事故，二是AI产业高速发展结束，竞争胜利者最有动力用安全标准固化优势。否则，企业和国家都不可能减速。
本文作者：游云庭，知识产权律师。Email: yytbest@gmail.com，本文仅代表作者观点。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
