网易首页 > 网易号 > 正文 申请入驻

美军拟造"数字蠕虫"自主猎杀,专家警告:它可能顺手打掉水厂

0
分享至

据The Intercept10月19日援引美国陆军网络司令部(ARCYBER)泄露的官方文件报道,美国陆军正在推进一个代号ECHOTRIBBLE的项目,目标是部署自主AI代理,让它们自行进入敌方数字与网络基础设施、识别目标并将其"中和"。


文件对"中和"的定义是:使威胁完全失效或暂时失效,或把威胁从目标上删除。项目的重心放在进攻性任务上,而非防御。

按照描述,这些代理的形态接近计算机蠕虫:在对手网络中隐蔽穿行,在设备之间移动,并跨不同操作系统自我复制。它们要在争夺激烈的云环境和物理隔离(air-gapped)系统中都能轻量运行,尽量减少上报,并隐藏必要的传输行为。

一旦代理识别并中和目标,它会自毁——理想情况下不惊动目标,也不留下任何存在痕迹。

专家担心的不是"打不打得中"

网络安全专家对该项目提出了安全层面的质疑。近期已出现一系列事件,AI代理脱离原有环境、自主执行未被指派的任务。

文件称,陆军将设置"预定义触发器",帮助代理精确区分目标。但专家的追问是:如果为良性任务设计的代理,都会为完成任务而执行计划外、有时危险的动作,那么专门为进攻任务设计、且能自我复制的代理,应该被期待做出什么?

Anthropic的实验显示,AI代理能够在不同硬件上部署推理,并在网络中复制自身。

陆军还要求代理具备"自主导向行为"(Self-Directed Behavior),在尽可能少的人类监督下行动,因为这是达到所需自主水平的必要条件。反过来看,正是这种自主水平,让AI代理出现过绕过护栏以完成任务的情况。

路径问题:目标之外还会碰到谁

AI安全公司Abundant联合创始人兼CEO Hyrum Anderson给出了一个具体场景:目标很可能会被击中,但它会走哪条路径?它会不会途经美国的一家自来水厂,因为对手恰好把指挥控制节点架设在那里,然后把这套设施一并打掉?

另一层担忧在于代理如何做判断。AI代理擅长克服路径上的障碍,但没有人能100%准确预测它会把什么认定为障碍,又会选择什么路径去克服。

兰德公司研究军事AI应用的高级行为科学家William Marcellino用了一个对照:之所以敢把实弹和武器交给拉马迪的19岁海军陆战队下士,是因为他们既有"算力底座"——大脑和眼睛,也有足够深的世界知识去判断"是的,我大概不该那么做"。而当前的公开AI技术并不具备这一点。

项目仍在早期,五份方案入围

ECHOTRIBBLE目前处于早期原型与产业评估阶段,由ARCYBER、陆军网络技术与创新中心(ArCTIC)、网络融合创新中心(CFIC)牵头,私营供应商和学术研究人员参与提案与设计。

分工上,ARCYBER和ArCTIC确定作战需求与交战规则,CFIC作为国防领域的非营利机构,充当陆军与商业科技公司之间的中介。

陆军在2026年10月6日至10月8日举行了一场线上评估活动,对私营供应商提交的65份技术白皮书进行评估,内容涉及代理框架的解决方案,并从中筛出5份。最终入选者将获得资金和正式原型合同。

把上述要求放在一起看,这个项目的技术难点并不只在"识别目标":隐蔽穿行、跨系统自我复制、低上报、无痕自毁,以及在没有人类实时监督的情况下判断什么算障碍——每一项都指向同一个问题,即代理在抵达目标之前和之后,究竟按什么逻辑行动。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
小哥发誓主队不赢球就不剃头!没想到一等就是700多天,已经成野人了…

小哥发誓主队不赢球就不剃头!没想到一等就是700多天,已经成野人了…

英国那些事儿
2026-10-20 00:32:37
28轮下来!中超前5名的门将 有4个都是35岁+ 北京国安侯森跟山东王大雷都是80后

28轮下来!中超前5名的门将 有4个都是35岁+ 北京国安侯森跟山东王大雷都是80后

80后体育大蜀黍
2026-10-20 23:30:15
比尔盖茨表示:他这辈子犯过最大的错误,就是把原本属于微软的移动生态,拱手让给了安卓

比尔盖茨表示:他这辈子犯过最大的错误,就是把原本属于微软的移动生态,拱手让给了安卓

元气科技馆
2026-10-10 21:56:30
抢不到的蛮夷,现出原形

抢不到的蛮夷,现出原形

美第奇效应
2026-10-20 00:46:34
52岁刘恺威大方承认新恋情!新女友黎纪君近照曝光,一身运动装活力感满满

52岁刘恺威大方承认新恋情!新女友黎纪君近照曝光,一身运动装活力感满满

八八尚语
2026-10-20 16:33:49
中纪委出台反腐新规,贪官末路来了!无论在职退休一律严惩

中纪委出台反腐新规,贪官末路来了!无论在职退休一律严惩

职场资深秘书
2026-10-20 14:36:19
商家称53万元直播合作成交3672.8元 交个朋友回应:未违约,愿补播协商

商家称53万元直播合作成交3672.8元 交个朋友回应:未违约,愿补播协商

封面新闻
2026-10-19 17:41:43
随着广州赢33分!山西大胜30分!CBA最新积分榜,上海第1四川第5广东第15

随着广州赢33分!山西大胜30分!CBA最新积分榜,上海第1四川第5广东第15

老吴说体育
2026-10-20 23:01:49
陈吉宁会见国际海事组织秘书长阿塞尼奥·多明戈斯

陈吉宁会见国际海事组织秘书长阿塞尼奥·多明戈斯

澎湃新闻
2026-10-20 19:14:27
领导干部任前公示

领导干部任前公示

锡望
2026-10-20 14:26:06
官宣!“全网最听劝董事长”离职

官宣!“全网最听劝董事长”离职

汽车工程师
2026-10-20 23:32:17
彻底没悬念了,NBA季前赛打完,东部冠军大概率在这三支队伍中间产生,76人出局

彻底没悬念了,NBA季前赛打完,东部冠军大概率在这三支队伍中间产生,76人出局

林子说事
2026-10-20 17:16:08
场均17分!26岁的小波特,为何会被裁掉?

场均17分!26岁的小波特,为何会被裁掉?

篮球实录
2026-10-21 01:05:51
你和谁发生了关系,是前世的姻缘,早已注定,躲都躲不掉

你和谁发生了关系,是前世的姻缘,早已注定,躲都躲不掉

匹夫来搞笑
2026-10-20 17:36:02
2027年将会是中华人民共和国全党、全军、全国各族人民重要的一年

2027年将会是中华人民共和国全党、全军、全国各族人民重要的一年

铁锤侃侃而谈
2026-09-12 00:54:59
随着美国17-0 朝鲜6-0 日本5-0,U17世界杯积分榜:中国女足退居第2

随着美国17-0 朝鲜6-0 日本5-0,U17世界杯积分榜:中国女足退居第2

侃球熊弟
2026-10-20 08:56:47
特朗普自我辩护引来骂声一片!泽连斯基:不要站在历史错误的一边

特朗普自我辩护引来骂声一片!泽连斯基:不要站在历史错误的一边

鹰眼Defence
2026-10-19 17:50:28
全程苦瓜脸,脸僵说话张不开嘴,老戏骨李乃文都带不动这个拖油瓶

全程苦瓜脸,脸僵说话张不开嘴,老戏骨李乃文都带不动这个拖油瓶

老吴教育课堂
2026-10-18 15:31:16
演员李小冉宣布离婚,其结婚逾十年未生育,曾坦言“没有心理成熟到想去承担这样一个沉重的责任”

演员李小冉宣布离婚,其结婚逾十年未生育,曾坦言“没有心理成熟到想去承担这样一个沉重的责任”

台州交通广播
2026-10-20 00:28:24
陈雷娜全程捂胸走秀:穿的布料没巴掌大?台步全毁在偷工减料上!

陈雷娜全程捂胸走秀:穿的布料没巴掌大?台步全毁在偷工减料上!

动物奇奇怪怪
2026-10-20 16:53:53
2026-10-21 02:35:00
像素与芯片
像素与芯片
有态度网友ytd
214文章数 80关注度
往期回顾 全部

军事要闻

特朗普狠批泽连斯基"不想结束战争" 泽连斯基强硬回怼

头条要闻

距中国台湾110公里 日美出动6万人大举军演为历史之最

头条要闻

距中国台湾110公里 日美出动6万人大举军演为历史之最

体育要闻

巴拉克:天生亚军与漫长极夜

娱乐要闻

刘恺威承认新恋情,打球认识

财经要闻

抄底万达之后 私募大佬又对恒大下手了

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

汽车要闻

黑科技一次看全 2026奇瑞全球创新大会干货汇总

态度原创

旅游
艺术
家居
本地
公开课

旅游要闻

千城百县看中国丨福建邵武:熙春寻桂 秋醉铁城

艺术要闻

谁敢信?63岁大爷的油画竟被选进美院教材,质感强到像要溢出屏幕!

家居要闻

2026建博会(广州) 公装联探展交流活动

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版