网易首页 > 网易号 > 正文 申请入驻

让AI反复干活不难,难的是定义终点并守住人的判断

0
分享至

人工智能编码工具越来越擅长连续执行任务,循环工程也因此走红:代理采取行动、检查结果、根据反馈调整,再继续下一轮。表面看,这是把工作交给机器持续推进;真正的难点却在循环开始前——目标是否可验证、边界是否清楚、失败时是否能停。

单次指令适合边界小的任务,复杂改进往往需要多轮。页面性能、测试覆盖、问题清单和迁移进度都可以设置量化终点,让代理每轮执行后重新测量。

OpenAI官方现行使用案例也把这类工作描述为打分驱动的改进循环,强调用脚本与可审查产物持续评估。时间触发的循环则更像定期检查:轮询日志、汇总新问题、查看持续集成结果或整理待审请求。



目标循环关注“做到什么程度”,定时循环关注“什么时候再检查”。两者可以组合,但组合越多,越需要清楚的权限和停止条件。

“把界面做得更好”不是好终点,因为好坏依赖品味,也没有统一测量方式。“移动端核心页面性能达到明确阈值,全部回归测试通过,公共接口不变”更可执行。

指标、工具、最大轮次和无进展时的退出规则都应在开始前写清。但可测量不等于不可作弊。

代理可能通过绕开被测路径提高分数,也可能让测试变得宽松。评估体系应同时包含确定性检查和人工审阅,并覆盖真实使用情境。



桌面端变快,不能掩盖移动端退化;测试通过,也不能掩盖复杂度暴涨。

文档补充、测试扫描和格式修复通常风险较低,可以更充分地自动执行。涉及身份认证、安全、资金、数据删除或核心架构时,人应更紧密监督。

权限范围要遵循最小化原则,代理只接触完成任务所需的文件和系统。执行者也不应独自宣布自己合格。



可以让独立检查环节复核实现,或让人直接查看关键差异和产物。代理擅长按规则收敛,却未必理解产品品味、用户负担和长期维护成本。决策者必须保留否决权。

同一命令连续失败、指标不再改善、代理反复改回旧方案,都是循环空转信号。此时应停止并重新检查假设,而不是无限消耗算力。

为循环设置最大尝试次数、预算上限、连续无改善阈值和人工接管点,属于基本工程措施。最适合循环的,是结果可观察、反馈足够快、错误可以恢复的任务。

开放式创意、重大产品取舍和高风险系统变更,仍需要人的持续参与。循环工程并不是“无人值守”的同义词,它更像一套纪律:让机器勤奋重复,让评价保持独立,让最终判断始终有人负责。



建立循环前还应保存基线结果和关键日志,确保每次改善都能回溯。若代理修改评估脚本、删除失败样本或扩大权限,系统必须立即提示并要求复核。

可持续的自动化从来不是无限放权,而是把目标、证据、权限和责任一起写进运行规则。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
有人欢喜有人愁,阿门续约最大牺牲品,从老二变老三,还可能被扫地出门

有人欢喜有人愁,阿门续约最大牺牲品,从老二变老三,还可能被扫地出门

球毛鬼胎
2026-09-04 11:08:04
画西方英雄目光如炬,画红军像三天没睡:这位教授,你管这叫“去脸谱化”?

画西方英雄目光如炬,画红军像三天没睡:这位教授,你管这叫“去脸谱化”?

浯江孤舟
2026-08-16 20:44:56
乌克兰最恨的5个国家,朝鲜第二,伊朗第四,谁又是第一?

乌克兰最恨的5个国家,朝鲜第二,伊朗第四,谁又是第一?

七号说三国
2026-08-30 18:05:27
14nm国产“小光刻机”研制成功!

14nm国产“小光刻机”研制成功!

新浪财经
2026-09-03 11:37:12
涉嫌严重违纪违法!东莞茶山城管分局局长余锐强被查

涉嫌严重违纪违法!东莞茶山城管分局局长余锐强被查

南方都市报
2026-09-04 11:36:06
俄罗斯在海参崴宣布,10万印度劳工,将在一年之后涌入远东?

俄罗斯在海参崴宣布,10万印度劳工,将在一年之后涌入远东?

芳芳历史烩
2026-09-04 05:29:04
印度久旱逢甘霖:坑已挖好,中企不来,日企组团往里冲

印度久旱逢甘霖:坑已挖好,中企不来,日企组团往里冲

王新喜
2026-09-03 13:02:59
《醒来》大结局:最大惊喜不是杜黄桥、陈开来,也不是苏门,居然是冯少

《醒来》大结局:最大惊喜不是杜黄桥、陈开来,也不是苏门,居然是冯少

情感大头说说
2026-09-04 12:52:40
平安回家了吗?曾赴西藏网友接到摸排电话:好想哭,希望每通电话都有人接

平安回家了吗?曾赴西藏网友接到摸排电话:好想哭,希望每通电话都有人接

观察者网
2026-09-03 23:52:08
苏州惊现“超级中学”:新初一96个班、5000多人!教育局回应:没钱建新校

苏州惊现“超级中学”:新初一96个班、5000多人!教育局回应:没钱建新校

听心堂
2026-09-04 07:36:24
国土面积第一,不等于国土质量第一

国土面积第一,不等于国土质量第一

海外说事
2026-09-03 12:04:30
北大教授韩毓海坦言:毛主席在世的时候,我完全没有能力真正理解他!

北大教授韩毓海坦言:毛主席在世的时候,我完全没有能力真正理解他!

开箱历史
2026-09-04 08:10:12
西媒:劳尔-阿森西奥因醉驾被判刑,罚款+吊销驾照8个月

西媒:劳尔-阿森西奥因醉驾被判刑,罚款+吊销驾照8个月

懂球帝
2026-09-02 17:14:25
今日重点赛事!9月4日 CCTV5、CCTV5+ 体育赛事节目单,郑钦文 女篮

今日重点赛事!9月4日 CCTV5、CCTV5+ 体育赛事节目单,郑钦文 女篮

野渡舟山人
2026-09-04 08:14:00
阿根廷:尽一切手段实现马岛主权!特朗普称或重新考虑立场撤回对英国支持

阿根廷:尽一切手段实现马岛主权!特朗普称或重新考虑立场撤回对英国支持

每日经济新闻
2026-09-04 09:34:12
华为最强芯片!麒麟9050 Pro首批支持LPDDR6内存

华为最强芯片!麒麟9050 Pro首批支持LPDDR6内存

快科技
2026-09-03 16:14:09
美军现役中将坦言,中国实力并非接近美国,而是中美早已平起平坐

美军现役中将坦言,中国实力并非接近美国,而是中美早已平起平坐

一个小豹子
2026-09-04 00:07:17
一个人的人生能烂到什么程度?评论区各有各的苦要吃

一个人的人生能烂到什么程度?评论区各有各的苦要吃

康富贵碎碎念
2026-09-03 11:35:54
有望接班徐杰!广东冒出强力后卫,被NBA球探关注未来能走多远

有望接班徐杰!广东冒出强力后卫,被NBA球探关注未来能走多远

有态度网友19ILam
2026-09-04 11:42:23
刘强东惊天豪赌,拿下百亿白酒巨头

刘强东惊天豪赌,拿下百亿白酒巨头

跨境派Pro
2026-09-03 15:03:05
2026-09-04 14:04:50
混沌录
混沌录
闲云野鹤,一介书生罢了
14086文章数 39616关注度
往期回顾 全部

科技要闻

OpenAI深夜王炸!GPT-6 Astra来了

头条要闻

媒体:美国G20相关会议声明单独"点名"中国 十分罕见

头条要闻

媒体:美国G20相关会议声明单独"点名"中国 十分罕见

体育要闻

小卡来去10首轮,快船7年彩礼一场空

娱乐要闻

王宝强冯清八年未领证!真相令人泪目

财经要闻

GPT-6 Astra上线,AGI时代真到来了吗?

汽车要闻

限时权益价28.99万起 FREELANDER神行者8正式上市

态度原创

数码
艺术
房产
旅游
公开课

数码要闻

酷冷至尊Elite360神界机箱上架,599元

艺术要闻

中国最美的殡仪馆

房产要闻

交付倒计时!超级地中海·憘悦,给海南顶豪打了个样!

旅游要闻

盛之夏:古迹、商场、玩乐,一站式搞定!

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版