网易首页 > 网易号 > 正文 申请入驻

他是一位数学家,却成为AI训练最绕不开的人

0
分享至

设置星标★关注,从此你的世界多点科学~

何为“优化”?通俗来讲,优化就是让事物变得更好,而在数学领域,优化(optimization)作为一门有明确研究对象和理论体系的学科,其研究的是如何在给定约束下,从众多可能方案里找出使某个目标达到最小(或最大)的那个方案。

例如,“规划出成本最低的配送路线”就是一项优化目标,成本由行驶距离、能源消耗和所用时长等因素共同决定,约束条件则是道路通行规则,如单行道、夜间封路等。

当决策变量或约束条件的数量很多时,最小值求取通常只能依靠计算机:反复计算某组决策变量对应的成本,检验邻近的决策组合能否得到更低成本,并重复此过程,直到确定所有邻近决策对应的成本都更高为止。众多数学家都致力于加快优化计算,比如来自比利时的俄裔学者尤里·涅斯捷罗夫(Yurii Nesterov)。

涅斯捷罗夫在凸优化理论方面取得了开创性成果,其设计的加速梯度算法大幅加快优化计算,为数据科学、自动化和控制领域开辟全新可能,也催生出基于所谓“涅斯捷罗夫动量”的一系列新算法。因此获得了2023年世界顶尖科学家奖“智能科学或数学奖”。2026年7月,他获得了应用数学领域的最高荣誉——高斯奖。


阿尔卡迪・涅米罗夫斯基(Arkadi Nemirovski,左)和尤里·涅斯捷罗夫(右)共同获得2023年世界顶尖科学家奖“智能科学或数学奖”;2026年10月30日至11月1日,尤里·涅斯捷罗夫将出席世界顶尖科学家论坛

尤里·涅斯捷罗夫曾接受瑞士学术机构的专访,介绍了优化研究领域,也分享了自己对数学和AI时代数学研究的见解。

优化研究的成果切实可感

我从事优化研究已有近50年了,这是一段漫长旅程。我有过一些开窍、破局的时刻,但那些时刻无法令我感叹“这或许是我最厉害的成果”。

数值方法优化这门学科有它美妙之处,其中之一便是研究者能实实在在看到自己的工作进展和价值。开展研究之前,已有算法勉强够解决问题,但求解须花费一小时;经过改进,求解时间缩短至一分钟了!

进展源源不断,前路依旧漫漫

优化领域正处于一个非常特殊的转折阶段。

几年前,我们开始研究高阶方法,发现这些方法已无法通过标准优化理论来解释。大家意识到,标准优化理论仅仅完成了第一步,即发展出一阶方法,要让理论更上一层楼,要得到速度更快、效率更高的更高阶计算方法,从某种意义上说,我们必须建立一套全新、通用的理论,覆盖所有可能的场景和方法。

更高阶的计算不止于一阶导数。

导数可堪大用,能指出优化景观里下坡的方向和陡峭程度,但计算导数的开销巨大。所以,关键就在于如何保留导数优势,同时减少计算成本。针对这一目标,学界已取得不少振奋人心的成果,但前方仍有大量工作与未知等待我们。

这听起来挺出人意料的。通常来说,当一个研究方向经过长达50年的密集发展,它理应接近终点的。漫漫前路对下一代研究者而言当然是好事,只不过我们这代人多少对此感到遗憾!

优化领域的知识只迎新、不辞旧

过去几十年间,优化领域诞生了各式各样的计算方法,而且有大量“陈旧”的算法仍“宝刀不老”——极具价值,因此这门学科不适合“辞旧迎新”。你若想融会贯通、纵览全局,就要把新旧知识悉数掌握。

那问题就来了,从教学层面看,如此繁多且还在越积越多、远超现有教学体系负荷的内容,该怎样教给学生呢?我对此毫无头绪。

呼吁将优化作为一门独立学科予以更多重视

优化作为学科,需要专门的培养项目,让学生有多于大学标准的时间来学习知识。

在五六十年前,也就是数值数学发展之初,优化似乎被低估了。如今来看,它在整个科学体系中极具“补充”属性,常与其他学科并列出现,如“优化与统计”“优化与运筹学”“优化与最优控制”等;但我们清楚,优化本身的体量、能量绝非“补充者”所能形容的,而且它还在高速扩张,看不到停下来的迹象。

未来几十年会涌现越来越多有趣的问题,学界则需要越来越高效的算法。我期待看到专攻优化的学术机构,期待学生们在其中研究各式各样的优化应用场景——从人类理性行为模型、直觉优化,到机械结构的最优设计……

非凸性只是起点,凸优化方法会被用来解决更多问题

我刚从事优化研究时,到处都是非凸问题,人们几乎不考虑凸性,我当时所做的工作就是证明凸性非常重要。(非凸性可以理解成存在大量局部极小,但这些无法等同于全局极小值;凸性可以理解成局部最小值即可视为全局极小值。)

凸性是一个很自然的概念,保证了问题可解,也保证计算方法的效率。如今,在许多重要模型中,我们都能发现隐藏的凸性;虽不是一眼就看得出来,但只要引入合适的变量与坐标系,它就会转化为凸问题。

如果问题不具备凸性,我们最多只能求出一个局部极小值,无从得知还有多少其他的局部极小值,也不知它们是否更优。

从某种意义上说,这违背研究的内在目标。研究之前,我们不知最优解;做完研究,面对一个非凸问题依旧不确定最佳答案。那我们工作的意义何在?得到非凸问题很容易,但对我来说,只有非凸意味着思考不足,因为非凸性只是起点,而凸性才是解题终章。

以神经网络为例。此领域如今热度极高、论文不断,但模型本身是非凸的。人们把各类算法用在非凸问题上,却仍未搞懂算法在非凸问题上如何运作、为何有效。神经网络领域尚无凸模型。只有找到对应的凸模型,研究才算圆满。

优化是“数值数学的一种哲学”

各种事物都可用优化来解释,包括社会乃至自然界的诸多过程;这些过程运转得极为高效,只是身处其中的我们难以察觉其精妙。

数学对我的一大吸引力在于:数值建模能应用于现实世界,甚至预测未来;人类可将计算结果与真实事件对照,并据此调整模型。

计算机推动优化蓬勃发展,却也抑制人类思考

只要运用得当,计算机就是很棒的工具。但作为老师,我们必须告诉学生:不要盲目相信计算机给出的结果。如果计算机的数值计算过程不稳定,存在噪声等干扰,它完全可能输出错误答案。

举个例子,复杂性理论中或许会有结论这样说:在一定时间内,算法可以逼近函数的极小值。但这条结论凭什么可信呢?若没有对函数的附加条件、对参数的合理近似等,就根本无法保证可信性。

眼下,人类正过度信任机器的答案,也在不知不觉中放弃独立思考,而这正是AI时代的危险所在。我们必须保持批判性思维,要用多种不同方法交叉核验结果。

我也很担忧数字时代对学生思维模式的负面影响。

我发现,许多学生常常不肯自己动脑,遇到问题的第一反应是上网搜索;这种习惯是好是坏有待时间检验,但他们独立解题能力下降是显而易见的。(当然,即便人的能力变弱,在计算机强力辅助下,最终成果或许会更好。)

不同往昔的科研时代需要不同往昔的科研评价

如今的科研人正身处节奏飞快、压力巨大的科研环境。环顾四周,你会看到不计其数的同行扎堆同一方向;你在会议上报告一项工作,第二天就有成百上千的后来者试图改进此成果;你的论文发表不达标准,收入就可能大受影响……

40年前,我刚入行那会儿,大环境不是这样的,竞争远没今天这般激烈。你有充足时间思考、写论文、测试方案,也不必为没发够论文而犯愁……

说实话,我内心难以认同当前的大环境,同时也觉得,从业者数量过多会拉低科研整体效率——但这一切都是大势所趋。

或许,我们需要一套全新的评价方式,用以衡量科研成果的真实价值、分辨研究者的水平。

我个人认为,一篇论文的影响力应当除以其作者总人数。在我身处的优化领域,过去论文一般有两到三位作者,现在动辄五六十人共同署名,这已毫无意义。现有评价体系常常驱使从业者追求论文数量,而非质量,我很惊讶至今还没有新的评价方式出现。

资料来源:


《世界科学》杂志版在售中 欢迎订阅

月刊定价

15元/期

全年订阅价

180元

点击左侧图片或以下方订阅方式选购

方式一:

扫描二维码,“杂志铺”(第三方平台)订阅有折扣~

方式二:

全国各地邮局订阅 邮发代号:4-263

方式三:

机构订阅,请拨打

021-53300839;

021-53300838

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
王虹一身奢侈品被骂飘了!手上的卡地亚戒指高达2万人民币,被网友批评不够朴素,应该像韦东奕那样清贫才对!

王虹一身奢侈品被骂飘了!手上的卡地亚戒指高达2万人民币,被网友批评不够朴素,应该像韦东奕那样清贫才对!

LULU生活家
2026-07-30 15:13:14
已经宣布独立建国,但是中国不肯承认的5个国家

已经宣布独立建国,但是中国不肯承认的5个国家

七号说三国
2026-09-29 19:11:46
99%的人不懂的人性真相:你弱的时候,坏人最多;你强的时候,世界最讲道理

99%的人不懂的人性真相:你弱的时候,坏人最多;你强的时候,世界最讲道理

清风拂心
2026-11-02 11:30:24
海外产子真相大白后,39岁江疏影近况曝出,原来王传君没说错

海外产子真相大白后,39岁江疏影近况曝出,原来王传君没说错

莹莹的历史说
2026-10-08 10:11:46
四川一个人口过百万县撤销后,恢复900年前旧名重新设区!

四川一个人口过百万县撤销后,恢复900年前旧名重新设区!

品点历史
2026-11-01 19:00:17
今日赛事!11月3日CCTV5,CCTV5+节目表直播:多场体育赛事

今日赛事!11月3日CCTV5,CCTV5+节目表直播:多场体育赛事

林子说事
2026-11-03 03:35:24
RAV4销量跌29.2%,库存却只够卖四天

RAV4销量跌29.2%,库存却只够卖四天

码上闲叙
2026-11-02 06:50:45
108分钟科幻神作免费上线,哈利波特男星主演

108分钟科幻神作免费上线,哈利波特男星主演

自愈小日子
2026-11-02 02:01:32
林彪手下小参谋,建国后成大军区司令兼省委书记,寿终102岁

林彪手下小参谋,建国后成大军区司令兼省委书记,寿终102岁

雍亲王府
2026-11-02 02:45:08
利好来了!北京重磅发布

利好来了!北京重磅发布

家住东西城
2026-11-02 21:48:39
男子花3500找了一个小姐,又觉得不过瘾,让小姐再喊个闺蜜过来“一起玩”

男子花3500找了一个小姐,又觉得不过瘾,让小姐再喊个闺蜜过来“一起玩”

张晓磊
2026-10-18 11:58:47
此处不留爷,自有留爷处!伊藤美诚离开日本国家队开启新篇章

此处不留爷,自有留爷处!伊藤美诚离开日本国家队开启新篇章

湘村大余
2026-11-02 13:00:16
68岁原国家森林防火指挥部专职副总指挥马广仁逝世,长期致力于湿地保护

68岁原国家森林防火指挥部专职副总指挥马广仁逝世,长期致力于湿地保护

澎湃新闻
2026-11-02 21:38:28
中国或将成为全世界,乃至人类历史上,第一个“电力王国”!

中国或将成为全世界,乃至人类历史上,第一个“电力王国”!

麓谷隐士
2026-11-02 15:02:14
永不改变!日本防卫大臣在东盟论坛发声:完全以国防为导向政策

永不改变!日本防卫大臣在东盟论坛发声:完全以国防为导向政策

麓谷隐士
2026-11-01 00:05:04
我55岁与42岁女人搭伙,同住第一晚她立下规矩,同房必须先签协议

我55岁与42岁女人搭伙,同住第一晚她立下规矩,同房必须先签协议

千秋文化
2026-06-28 19:52:53
被判死缓的女囚程秋菊,勾搭狱警发展情夫,入狱仅38天就出狱,重获自由之后她最后的结局究竟如何?

被判死缓的女囚程秋菊,勾搭狱警发展情夫,入狱仅38天就出狱,重获自由之后她最后的结局究竟如何?

唠叨说历史
2026-10-29 18:12:13
涨价30%,还限购,网红零食怎么了?

涨价30%,还限购,网红零食怎么了?

中国新闻周刊
2026-11-02 23:04:07
斯诺克11席16强诞生!2大TOP16翻车,147先生掉队,中国6进4出

斯诺克11席16强诞生!2大TOP16翻车,147先生掉队,中国6进4出

刘姚尧的文字城堡
2026-11-02 19:52:25
得知被判死刑,他微笑面对,刑场上转头寻妻子,令记者落泪!

得知被判死刑,他微笑面对,刑场上转头寻妻子,令记者落泪!

蒋南强读历史
2026-11-01 17:20:35
2026-11-03 05:08:49
世界科学 incentive-icons
世界科学
《世界科学》编辑部运营账号
1982文章数 26971关注度
往期回顾 全部

科技要闻

连AI都有领导了!DeepSeek让它们自己抢活干

头条要闻

外籍男子凌晨突然被中国警察叫醒 原因引起关注

头条要闻

外籍男子凌晨突然被中国警察叫醒 原因引起关注

体育要闻

24岁老秀:说最狂的话,打最勇的球

娱乐要闻

宋慧乔首次公开离婚真相,原因心酸

财经要闻

央行:股票回购增持再贷款利率降至1%

汽车要闻

百万超跑同款悬架? 第二代海豹07野心不小

态度原创

教育
时尚
房产
手机
军事航空

教育要闻

最适合国内985&211&英本申请的保底学校!

“漏斗领外套”今年秋冬又火了,怎么搭都时髦好看!

房产要闻

新一轮来了!海口官方,下场收房!

手机要闻

iPhone Duo开售一周黄牛亏懵了 商户:黄牛做折叠屏全部都亏

军事要闻

以总理敦促特朗普中期选举后恢复对伊战争 特朗普回应

无障碍浏览 进入关怀版