网易首页 > 网易号 > 正文 申请入驻

美军拟造"数字蠕虫"自主猎杀,专家警告:它可能顺手打掉水厂

0
分享至

据The Intercept10月19日援引美国陆军网络司令部(ARCYBER)泄露的官方文件报道,美国陆军正在推进一个代号ECHOTRIBBLE的项目,目标是部署自主AI代理,让它们自行进入敌方数字与网络基础设施、识别目标并将其"中和"。


文件对"中和"的定义是:使威胁完全失效或暂时失效,或把威胁从目标上删除。项目的重心放在进攻性任务上,而非防御。

按照描述,这些代理的形态接近计算机蠕虫:在对手网络中隐蔽穿行,在设备之间移动,并跨不同操作系统自我复制。它们要在争夺激烈的云环境和物理隔离(air-gapped)系统中都能轻量运行,尽量减少上报,并隐藏必要的传输行为。

一旦代理识别并中和目标,它会自毁——理想情况下不惊动目标,也不留下任何存在痕迹。

专家担心的不是"打不打得中"

网络安全专家对该项目提出了安全层面的质疑。近期已出现一系列事件,AI代理脱离原有环境、自主执行未被指派的任务。

文件称,陆军将设置"预定义触发器",帮助代理精确区分目标。但专家的追问是:如果为良性任务设计的代理,都会为完成任务而执行计划外、有时危险的动作,那么专门为进攻任务设计、且能自我复制的代理,应该被期待做出什么?

Anthropic的实验显示,AI代理能够在不同硬件上部署推理,并在网络中复制自身。

陆军还要求代理具备"自主导向行为"(Self-Directed Behavior),在尽可能少的人类监督下行动,因为这是达到所需自主水平的必要条件。反过来看,正是这种自主水平,让AI代理出现过绕过护栏以完成任务的情况。

路径问题:目标之外还会碰到谁

AI安全公司Abundant联合创始人兼CEO Hyrum Anderson给出了一个具体场景:目标很可能会被击中,但它会走哪条路径?它会不会途经美国的一家自来水厂,因为对手恰好把指挥控制节点架设在那里,然后把这套设施一并打掉?

另一层担忧在于代理如何做判断。AI代理擅长克服路径上的障碍,但没有人能100%准确预测它会把什么认定为障碍,又会选择什么路径去克服。

兰德公司研究军事AI应用的高级行为科学家William Marcellino用了一个对照:之所以敢把实弹和武器交给拉马迪的19岁海军陆战队下士,是因为他们既有"算力底座"——大脑和眼睛,也有足够深的世界知识去判断"是的,我大概不该那么做"。而当前的公开AI技术并不具备这一点。

项目仍在早期,五份方案入围

ECHOTRIBBLE目前处于早期原型与产业评估阶段,由ARCYBER、陆军网络技术与创新中心(ArCTIC)、网络融合创新中心(CFIC)牵头,私营供应商和学术研究人员参与提案与设计。

分工上,ARCYBER和ArCTIC确定作战需求与交战规则,CFIC作为国防领域的非营利机构,充当陆军与商业科技公司之间的中介。

陆军在2026年10月6日至10月8日举行了一场线上评估活动,对私营供应商提交的65份技术白皮书进行评估,内容涉及代理框架的解决方案,并从中筛出5份。最终入选者将获得资金和正式原型合同。

把上述要求放在一起看,这个项目的技术难点并不只在"识别目标":隐蔽穿行、跨系统自我复制、低上报、无痕自毁,以及在没有人类实时监督的情况下判断什么算障碍——每一项都指向同一个问题,即代理在抵达目标之前和之后,究竟按什么逻辑行动。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
深圳两条超级地铁双双延期:深惠城际1标延至2029年底,深大城际只能分段开通

深圳两条超级地铁双双延期:深惠城际1标延至2029年底,深大城际只能分段开通

糖逗在娱乐
2026-10-20 17:01:58
缅甸官方再次发布昂山素季近照

缅甸官方再次发布昂山素季近照

政知新媒体
2026-10-20 22:48:28
马斯克突然直播打游戏,全程被网友狂喷,大量搬砖玩家赚翻了

马斯克突然直播打游戏,全程被网友狂喷,大量搬砖玩家赚翻了

新游戏大妹子
2026-10-20 12:48:51
蒋万安6选区全都大幅落后沈伯洋,王世坚:合乎情理,意料之中

蒋万安6选区全都大幅落后沈伯洋,王世坚:合乎情理,意料之中

金牛传声
2026-10-20 13:26:54
她生完二胎头皮“发霉”了?满头结出恐怖硬壳,一头金发全掉光

她生完二胎头皮“发霉”了?满头结出恐怖硬壳,一头金发全掉光

英国那些事儿
2026-10-15 00:33:01
日本外相向中俄朝放话:休想拿旧敌国条款来压制日本,谁都没有这个资格!日本如今不愿再背负“战败国”标签

日本外相向中俄朝放话:休想拿旧敌国条款来压制日本,谁都没有这个资格!日本如今不愿再背负“战败国”标签

人生录
2026-10-04 18:52:16
5年2亿美元续约刚落定,活塞就要在揭幕战证明自己

5年2亿美元续约刚落定,活塞就要在揭幕战证明自己

赛场名场面
2026-10-21 02:08:56
台退役将军于北辰:“大陆的军事演习全是假的,因为我都没见过”

台退役将军于北辰:“大陆的军事演习全是假的,因为我都没见过”

让心灵得以栖息
2026-10-19 19:15:01
一个原村干部 垄断当地超80%的2000万以上工程 涉案12亿!

一个原村干部 垄断当地超80%的2000万以上工程 涉案12亿!

闪电新闻
2026-10-20 23:06:15
睡前默念这5个字,百岁高僧开示:这是最简单的“修心聚能”法

睡前默念这5个字,百岁高僧开示:这是最简单的“修心聚能”法

温情邮局
2026-03-31 09:34:25
意外!蓉城再次错失夺冠最佳时机,下一轮踢英博又成天王山之战

意外!蓉城再次错失夺冠最佳时机,下一轮踢英博又成天王山之战

懂个球
2026-10-21 00:47:14
巴黎vs巴萨:登贝莱PK亚马尔,杜埃、戈登、拉菲尼亚、奥尔莫出战

巴黎vs巴萨:登贝莱PK亚马尔,杜埃、戈登、拉菲尼亚、奥尔莫出战

懂球帝
2026-10-21 01:57:09
广东14岁女孩肚子越来越大,以为是吃多了,没想到是肚子里有这东西…

广东14岁女孩肚子越来越大,以为是吃多了,没想到是肚子里有这东西…

广东活动
2026-10-13 12:36:13
庾澄庆,亲自回应!10月16号,离婚了17年的庾澄庆伊能静,罕见一起冲上热搜

庾澄庆,亲自回应!10月16号,离婚了17年的庾澄庆伊能静,罕见一起冲上热搜

东方不败然多多
2026-10-18 14:51:24
七旬老太去北京看病,发现医生竟是她在云南当知青时生下的孩子

七旬老太去北京看病,发现医生竟是她在云南当知青时生下的孩子

兰姐说故事
2025-01-16 05:05:03
一场1-1!炸出曼联阵中最大水货!卡里克或忍无可忍!

一场1-1!炸出曼联阵中最大水货!卡里克或忍无可忍!

石场阿鑫
2026-10-20 19:41:25
单日破5万瓶!山姆推出专供“1L装”,定价269.9元,会员扎堆抢

单日破5万瓶!山姆推出专供“1L装”,定价269.9元,会员扎堆抢

阿天爱旅行
2026-10-19 11:33:19
中国不帮忙也敢接单?越南高铁正式官宣敲定,天价项目恐遗臭万年

中国不帮忙也敢接单?越南高铁正式官宣敲定,天价项目恐遗臭万年

面里历史
2026-10-03 23:19:53
11分钟两球仍被追平,费内巴切欧冠首胜还没来

11分钟两球仍被追平,费内巴切欧冠首胜还没来

绿茵狂热者
2026-10-21 03:00:19
一块不该出现的石头,若上面的记载是真的,那将彻底改写人类历史

一块不该出现的石头,若上面的记载是真的,那将彻底改写人类历史

掠影后有感
2026-10-14 09:16:58
2026-10-21 03:23:00
像素与芯片
像素与芯片
有态度网友ytd
215文章数 80关注度
往期回顾 全部

军事要闻

特朗普狠批泽连斯基"不想结束战争" 泽连斯基强硬回怼

头条要闻

距中国台湾110公里 日美出动6万人大举军演为历史之最

头条要闻

距中国台湾110公里 日美出动6万人大举军演为历史之最

体育要闻

巴拉克:天生亚军与漫长极夜

娱乐要闻

刘恺威承认新恋情,打球认识

财经要闻

抄底万达之后 私募大佬又对恒大下手了

科技要闻

新版MiniMax,能和DeepSeek掰手腕吗?

汽车要闻

黑科技一次看全 2026奇瑞全球创新大会干货汇总

态度原创

本地
数码
教育
健康
军事航空

本地新闻

一场垂直登高赛跑出了"山城"的真正内核

数码要闻

Mac版Perplexity Computer新增端侧模式,要求36GB统一内存

教育要闻

悲哀!16岁男孩沉迷游戏,父亲怒摔手机,儿子多日拒上学,父母花8999元重买手机,才换回孩子上学

痘痘能根治吗?皮肤科医生说实话

军事要闻

特朗普狠批泽连斯基"不想结束战争" 泽连斯基强硬回怼

无障碍浏览 进入关怀版