网易首页 > 网易号 > 正文 申请入驻

谷歌推出 ScientistTwo 自动科研系统,超人类 SOTA

0
分享至


来源: AGl Hunt

GOOGLE CLOUD AI RESEARCH · 2026.09 给它一篇论文,它接着做研究。 ScientistTwo 原论文 + 代码 新方法 + 新论文 系统自己跑实验、写论文,并交付可执行代码。 86 / 107 80.4% 报告取得改进的任务 成功率 每格是一道题,点亮的是 86 个成功案例。结果只 覆盖论文选取的这些问题。 题目来源 9 月 17 日提交 · 71 页 · 沿用 AutoSOTA 筛选标准 入选条件:顶会接收,有代码,可以复现。 NeurIPS 2025 33 / 38 ICLR 2026 4 / 5 ICML 2026 Spotlight 49 / 64 分子:成功任务;分母:该来源的全部题目 一套方法,要面对整套 benchmark。 数据集 A 数据集 B 数据集 C 多数据集 × 多指标;格子为评估维度示意。 LLM / 机器人 / 语音 / 时间序列 强化学习 / 博弈论 / 隐私 / 优化 科研流程 想法先拿去做实验,哪里不过关,就回去改哪里。 找局限、生成想法 子集筛选与全集实验 根据结果继续改想法 消融,查清增益来源 写稿、审稿与补实验 终审,不够好就重做 想法迭代 找局限 检查新颖性 Extractor + Verifier 最多 16 轮 Google Search 检索 2 篇参考论文 检索能帮助判断想法是否新颖,但也可能漏掉已有 研究。 先跑子集 Critic 先看子集的实验结果,再决定要不要跑全 集。 增益从哪来 TeCh 案例 5 / 6 项指标超过基线 Ablation Planner 拆开组件,检查增益来源。 写稿与审稿 PaperOrchestra 生成初稿 ScholarPeer 模拟审稿 < 8 / 10 补实验,再修改 最多 2 轮 两个 AI 审稿器 ScholarPeer 参与改稿 也参与评分 Stanford 开发时未使用 单独用于评估 两位审稿人都是 AI。它们给出的接受率,不等于 真实顶会的录用率。 两个审稿器的成绩单

ScholarPeer 系统 / 篇数 均分 接受率 AI-Researcher 7 篇 1.0 0.0% CycleResearcher 6 篇 1.0 0.0% AI Scientist-v2 3 篇 2.0 0.0% AutoResearchClaw 4 篇 2.5 0.0% Zochi 2 篇 3.0 0.0% DeepScientist 3 篇 3.0 0.0% ScientistOne 21 篇 3.8 14.3% ScientistTwo 86 篇 7.5 91.9% 分数满分 10;样本量不同,不能只看百分比。 Stanford Agentic Reviewer 系统 / 篇数 均分 接受率 AI-Researcher 7 篇 2.4 0.0% CycleResearcher 6 篇 2.8 0.0% AI Scientist-v2 3 篇 2.5 0.0% AutoResearchClaw 4 篇 3.7 0.0% Zochi 2 篇 2.9 0.0% DeepScientist 3 篇 4.1 0.0% ScientistOne 21 篇 4.1 0.0% ScientistTwo 86 篇 5.7 72.1% 分数满分 10;样本量不同,不能只看百分比。


与人类论文相比 ScholarPeer 均分 / 满分 10 ScientistTwo 7.5 ICLR 人类原论文 6.8 NeurIPS 人类原论文 6.2 Stanford 审稿器:Spotlight 组接受率 人类 Spotlight 论文 96.9% 评估 64 篇 · AI 审稿接受率 对应的 ScientistTwo 产出 69.4% 评估 49 篇 · AI 审稿接受率 在 Stanford 审稿器上,均分也高于 ICLR、 NeurIPS 原论文,但仍落后于 Spotlight。这些 都是模拟评审的结果。 平均与中位数 25.2% 平均相对提升 7.7% 中位相对提升 两项都只统计成功案例。少数提升很大的结果拉高 了平均值,不同任务用的指标也不一样。 Gemini 3.6 Flash 提取结果表 10 次,再取平均 AutoSOTA 对照 ICLR 小样本 · 中位增益 5.0% 2.2% AutoSOTA ScientistTwo 调既有代码 优化目标分数 提出方法 查清提升来源 生成完整论文 两套系统的目标、硬件和成功标准都不同,这组数 字不能直接用来判定谁更强。 再改进一轮 在增量 BPE 分词这个例子里,每次把新方法交给 下一轮继续改。提升都相对上一轮,不能简单相加。

第 1 轮 输入基线 Jiang and Gong(2026) VD-STrans +10.9% 相对上一轮的提升 论文评分 6.5 / 10 第 2 轮 输入基线 VD-STrans BXT-Transducer +9.6% 相对上一轮的提升 论文评分 5.6 / 10 第 3 轮 输入基线 BXT-Transducer SBR-Transducer +8.2% 相对上一轮的提升 论文评分 7.1 / 10


模型分工 Gemini 3.6 Flash 规划 / 生成想法 / 批评与审稿 Claude Code + Opus 4.8 实验实现 消融实验 补充实验 稿件增强 换成 Antigravity + Gemini 3.8 Flash 后 同一小样本 · 5 道题 Claude Code 4 / 5 成功案例均增益 3.8% Antigravity 3 / 5 成功案例均增益 16.7% 成功率从 80% 降至 60%,AI 审稿表现也下降 成功案例的平均提升反而更高。不过只测了 5 道 题,还不足以给编码 Agent 排名。 一题的时间与费用 33 个 NeurIPS 来源任务 Token 费用 + 虚拟机费用 时间与账单,花在了哪里?

时间分配 2.5 天 平均每题 初始想法 0.6% 初始实现 19% 想法修订 44.9% 消融分析 16.4% 初稿写作 3.6% 审稿与终审 15.5% 初始想法占比由其余标注值补足至 100%。 费用分配 $3765 平均每题 初始想法 0.2% 初始实现 20.1% 想法修订 45.4% 消融分析 15.4% 初稿写作 3.1% 审稿与终审 15.8% 初始想法占比由其余标注值补足至 100%。


9 人评审,33 篇论文 独立打分 相对人类论文 3.7 / 5 3.0 整体科学成熟度 整体打平 相对偏好:3.0 打平;越高越偏向 ScientistTwo 动机与相关工作 3.1 独立打分 4.2 / 5 方法严谨性 2.9 独立打分 4.1 / 5 基线与实验广度 3.5 独立打分 4.0 / 5 消融实验 3.3 独立打分 4.3 / 5 洞察与局限分析 3.3 独立打分 4.0 / 5 整体科学成熟度 3.0 独立打分 3.7 / 5 图示横轴 2.0–4.0;问卷完整量表为 1–5。 评审认为,人类论文的方法略严谨, ScientistTwo 的实验更全面。这里评的是 33 篇 NeurIPS 来源的生成论文。 论文与代码 CoE Integrity Audit 样本:49 篇 ICML 来源的成功产出 49 / 49 结果可复现 重新执行代码,对照报告分数 0 / 49 规格违规 检查是否违反任务规则或刷分 0 / 1814 幻觉引用 通过搜索核查参考文献 49 / 49 方法与代码一致 核对论文描述和实际实现 去掉检查之后 去掉相关修订 Agent 的消融结果 规格违规 1 / 50 0 / 49 幻觉引用 19 / 1817 0 / 1814 方法代码一致 38 / 49 49 / 49 左:缺少对应检查;右:完整系统 多完成的那道任务,因为违规被剔除了。引用要搜 索核实,方法要与代码对得上;实验阶段就得提供 可复现脚本。 这几组数字说明了什么 86 / 107 任务改进 选定问题上,有没有取得改进? 72.1% AI 审稿接受率 生成论文,在自动评估中表现如何? 49 / 49 结果可复现 审计样本的报告分数,能否复跑? 这些检查有用,但不能保证研究没有问题,也不能 代替真实的顶会审稿。 SCIENTISTTWO / 论文解读 还做不到什么 成本还是很高,典型提升没有平均值那么大,与 Spotlight 论文也还有差距。三轮自改进只来自一 个 BPE 案例,能不能一直改下去,还不知道。 项目公开了 86 篇论文。感兴趣的话,可以把论文 和代码放在一起看看。 依据:arXiv:2609.19644v1 · 图表按论文重绘 动画解释过程,不表示真实运行速度。

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
风向再变!仅7个多月,德媒对樊振东的称呼改口了,2字之差,信号果然不简单

风向再变!仅7个多月,德媒对樊振东的称呼改口了,2字之差,信号果然不简单

篮球热嗖
2026-10-27 10:17:10
俄罗斯妻子把家里的钱全寄回国,我这才知道她在那一边还有一个家

俄罗斯妻子把家里的钱全寄回国,我这才知道她在那一边还有一个家

真实人物采访
2026-10-04 10:30:13
华为智驾大赛AI海报“翻车”,评论区彻底沦陷

华为智驾大赛AI海报“翻车”,评论区彻底沦陷

大厂财经社
2026-10-25 17:03:13
《伟大的长征》没明说的真相:啃不动周浑元,反而猛攻鲁班场,只因茅台镇渡口比歼敌更致命

《伟大的长征》没明说的真相:啃不动周浑元,反而猛攻鲁班场,只因茅台镇渡口比歼敌更致命

小邵说剧
2026-10-26 12:27:10
顾全遭队员拒绝换人,深圳3战狂输125分:该下课还是先救贺希宁?

顾全遭队员拒绝换人,深圳3战狂输125分:该下课还是先救贺希宁?

自己撑起一片天
2026-10-27 03:24:42
富豪榜大变天!雷军、马云、黄峥跌出前十,梁文锋排第七

富豪榜大变天!雷军、马云、黄峥跌出前十,梁文锋排第七

大厂财经社
2026-10-28 01:56:20
实不相瞒,当今世界拥有能力打一场高科技战争的国家,只有俩国家

实不相瞒,当今世界拥有能力打一场高科技战争的国家,只有俩国家

咸鱼金脑袋
2026-10-27 02:44:03
1998年,冯小刚拍《不见不散》,他执意要求葛优亲吻徐帆,葛优当场就急了“我实在下不去嘴”!

1998年,冯小刚拍《不见不散》,他执意要求葛优亲吻徐帆,葛优当场就急了“我实在下不去嘴”!

财叔
2026-10-25 21:19:18
这次动真格了!大陆接连释放两大信号,统一进程推进信号已明确

这次动真格了!大陆接连释放两大信号,统一进程推进信号已明确

战域笔墨
2026-10-26 15:18:33
陪练大批逃离:阶级固化,上升无望,中国乒乓球的死局

陪练大批逃离:阶级固化,上升无望,中国乒乓球的死局

中场阴谋家
2026-09-30 14:21:23
亏了4.9亿,刘德华不甘心,耗资2亿,联手超15位明星,又带来一部大片

亏了4.9亿,刘德华不甘心,耗资2亿,联手超15位明星,又带来一部大片

阿废冷眼观察所
2026-10-18 17:16:28
杰拉德:有6名球员配不上现在的曼联,不懂他们为何签安德雷

杰拉德:有6名球员配不上现在的曼联,不懂他们为何签安德雷

懂球帝
2026-10-27 19:04:02
场均10.3分还敢“阴阳”前队友,谁给你的底气?该认清自己了

场均10.3分还敢“阴阳”前队友,谁给你的底气?该认清自己了

麦子的篮球故事
2026-10-27 18:15:11
瘦死骆驼比马大!董卿近况曝光,出门坐高级保姆车,豪门梦没破碎

瘦死骆驼比马大!董卿近况曝光,出门坐高级保姆车,豪门梦没破碎

草莓信箱
2026-10-27 01:48:24
愤怒,媒体声明:皇马球员姆巴佩发言涉及对中国和中国人民的伤害,我们不能进行翻译

愤怒,媒体声明:皇马球员姆巴佩发言涉及对中国和中国人民的伤害,我们不能进行翻译

尘语者
2026-10-27 09:42:42
“鱼姐不养鱼”被指喝酒作假:用白开水或东方树叶代替酒,把酒倒进垃圾桶……相关账号可能面临断播、封禁处罚

“鱼姐不养鱼”被指喝酒作假:用白开水或东方树叶代替酒,把酒倒进垃圾桶……相关账号可能面临断播、封禁处罚

南方都市报
2026-10-27 00:09:23
不忍了,50岁李小冉再发文!11年没娃不是身体原因,5亿另有隐情

不忍了,50岁李小冉再发文!11年没娃不是身体原因,5亿另有隐情

手工制作阿歼
2026-10-22 05:53:00
71岁林青霞素颜出镜,满头白发,不靠医美修饰,这才是真绝色

71岁林青霞素颜出镜,满头白发,不靠医美修饰,这才是真绝色

阿废冷眼观察所
2026-10-27 16:05:39
越南北越人与南越人,互相看不惯,长相有差异,难道不是同一个人种?

越南北越人与南越人,互相看不惯,长相有差异,难道不是同一个人种?

言过于诚
2026-10-16 16:48:21
小米前高管王腾半年前预言成真!曝国产手机、平板产品线停更潮来了

小米前高管王腾半年前预言成真!曝国产手机、平板产品线停更潮来了

柴狗夫斯基
2026-10-27 09:16:38
2026-10-28 04:23:00
人工智能学家 incentive-icons
人工智能学家
人工智能领域权威媒体
5126文章数 37529关注度
往期回顾 全部

科技要闻

M6芯片版14英寸MacBook Pro:15999元起

头条要闻

光明日报批姆巴佩:不容侮辱中国已故伟大领袖

头条要闻

光明日报批姆巴佩:不容侮辱中国已故伟大领袖

体育要闻

世界上最无趣的前锋,拿下了金球奖

娱乐要闻

芒果遇到厉娜和许飞笑发财了!

财经要闻

订单越厚,账单越重:算力租赁的杠杆游戏

汽车要闻

纯电续航1003km 大五座SUV腾势N8正式开启预订

态度原创

健康
旅游
时尚
本地
数码

查不出猝死风险?可能是项目没做对

旅游要闻

舞彩浅山红叶季 精选5条赏秋线路

尹佳恩:世界尚未给出答案

本地新闻

十月奔赴迪庆,解锁梅里日照金山

数码要闻

Twelve South推出带屏幕的AirFly View 方便无线耳机连接飞机音响

无障碍浏览 进入关怀版