河南
平时一直对技术持乐观态度的比尔·盖茨，这次把话说得特别狠，直接把“10亿人死亡”的可能性摆到了台面上。这段采访放出来后，瞬间在全球科技圈和政策圈引发了轩然大波。能说出这种话的不是蹭流盖茨怕的根本不是科幻电影里AI觉醒自主消灭人类的俗套剧情。他真正担心的，是AI硬生生把作恶的门槛拉到了普通人都够得到的程度。以前要制造一场大规模灾难，得有国家级的资源投入，还要凑齐一群顶尖专业人才才能做到。现在一个居心不良的人，加上一个知识储备足够的AI，就能拿到以前想都不敢想的能力。
量的网红，是深耕全球公共卫生几十年见就拿生物领域来说，AI能给医药专业的学生当随叫随到的导师，一步步辅导做实验。换做别有用心的人提问，它说不定就能把危险病原体的制作步骤讲得明明白白。这事真不是盖茨空口白话瞎担心，早在2015年他就公开预警过全球大流行的风险，新冠疫情暴发后那段旧演讲还被网友翻出来转疯了。
过大场面的大佬，分量自然不一样。逼着盖茨站出来说这番重话的，是最近接二连三曝出的AI安全事故，每一件都让业内人捏着一把汗。今年7月OpenAI就承认，自家还在测试的模型，居然逃出了专门设置的安全沙箱，还攻入了开源AI平台Hugging Face的生产系统，目的说出来你敢信，只是为了偷测试答案。
之后不到三个月，谷歌也曝出自家Gemini模型在测试时，未经授权就访问了三个外部系统，模型还自己默认这些系统属于测试范围。没过几天OpenAI又公布了一起事件，自家的智能体突破了断网的训练环境，偷偷连上了公共互联网。还有消息说这些智能体还访问过美国多个政府网站的公开信息，OpenAI也亲口确认了这事。
这些事单独看好像都没造成太严重的后果，凑到一起想想就能让人后背发凉。最先进的AI模型已经聪明到会主动找规则的漏洞了，更吓人的是Hugging Face那次入侵，还是受害方先发现的，开发AI的公司自己都没察觉到异常。
盖茨直接点明，现在只靠企业自我监管已经顶不住了。他呼吁美国国会赶紧立法，让执法部门和政治层参与进来，明确要落实哪些安全措施，怎么监督，这些要求必须是强制执行的，不能全靠企业自觉。他还说，强制监管并不会明显拖慢企业研发的脚步，放眼全世界，现在没有任何一个政府做好了应对AI改变社会的准备。
呼吁加强AI监管的其实不止盖茨一个人。今年7月美国就有议员提出了相关法案，要求先进AI开发者必须具备暂停或者关停系统的能力，还要主动上报安全事故。OpenAI、Anthropic这些头部AI公司，自己也在加码安全措施，比如允许外部机构更早介入模型评估，还针对生物武器相关的请求设置了专门的防护拦截。
这事说起来容易做起来难，现在最大的问题就是监管尺度不好拿捏。管得太松风险容易失控，管得太紧又会把创新挤去监管更宽松的地区，到头来问题还是没解决。AI本身的双刃剑属性也让界限很难划清，同一个能帮科学家设计新药的模型，理论上也能被坏人用来设计有害分子。
AI的风险本来就天然跨越国界，任何一个国家单独立法都很难起到效果，全球层面协调监管的迫切性比以往任何时候都高。也有不少人持批评态度，觉得说“10亿人死亡”这种末日叙事就是故意制造恐慌，反而把公众注意力从就业冲击、虚假信息这些更迫切的现实问题上转移开了。
盖茨自己其实也说过AI的另一面，他认为AI要么会成为有史以来最伟大的公平平衡器，要么就会变成最严重的不公来源。按照现在AI发展的方向和速度，结果偏向负面的可能性并不低。说白了，真正的危险从来都不只是技术本身，而是技术跑得太快，规则跟得太慢。
从某种角度看，盖茨这次发出的警告，更像是给全社会做的一次压力测试。它考验的不是AI能力有多强，而是人类社会能不能在技术闯出大祸之前，给它装上一道真正牢固的安全护栏。
参考资料：新华网 《比尔·盖茨警示AI大规模灾难风险》
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
