最了解AI的人，他们在担心什么？

01

AI凶猛，聪明的科学家在想什么?

2023，AI凶猛来袭。

娱乐艺术，AI正在变身主播；

商务办公，AI正在卷走岗位；

艺术家，已经被AI绘画迷得神魂颠倒；

作家，已经悄悄用AI帮自己写作业；

更多职业，也已经开始悄悄感叹AI“真香”。

那么面对AI，科学家是什么态度呢？

作为人类最聪明的一个群体，他们是如何看待AI的？作为人类最理性最深邃的一个群体，他们的态度到底如何？

热情如火者

他们认为AI将与科学家携手让文明升级。如发明家Ray Kurzweil就预测了人类与AI融合的未来，提出了“技术奇点”概念。

技术中立者

他们认识到AI只是工具，产生的影响取决于如何使用。他们支持合理使用，担忧伦理问题。马斯克对AI持谨慎态度，警告AI可能会成为人类的风险。

反对者

他们担心AI可能在未来超越人类智能，最终威胁到人类。霍金曾表示，AI可能会成为人类的威胁，不加以控制会导致潜在的危险。

科学家既是AI的创造者，也是AI的使用者。

科学家和AI的关系，更值得探讨。

02

问题来了，AI会取代科学家吗？

人和AI的关系复杂，细节繁多。

有一个问题非常微妙且紧迫，AI会取代人类科学家吗？

1.过去和现在：

AI是助理，人类科学家则扮演着大脑的角色，提出研究问题、设计实验、分析结果和得出科学结论，这些都体现了创造力。

2.未来：

人类是助理，AI自己提出科研问题、提出假设、设计科学实验，成为principal investigator。

被创造者取代造物者，这个曾经的宗教命题现在成了一个科学问题。

一个科学团队以GPT-4作为主脑科学家进行生命科学的探索，研究影响DNA凝胶电泳的因素，在这个实验里人类扮演了两个角色：科学的第一推动者和代理执行者。

从实验结果来看，AI有可能取代科学家成为实验主体。

这个实验团队得出一个猜测性结论：

第一阶段：人类（碳基）主导研究；

第二阶段：AI（硅基）辅助研究；

第三阶段：AI（硅基）主脑研究，人类辅助；

第四阶段：AI可以完成全闭环研究；

第五阶段：AI最终进行全栈研究。

如果真的是这样，到了第五阶段，人类科学家好像没什么事干了。

那么，人类科学家真的会担心自己出局吗？

03

AI+科学家，新的技术大爆炸？

直至今日，大部分科学家对AI“热情如火”。

科学界更多还是在利用“AI”，至于后果，他们没想那么多。

英国《新科学家》报道：

从破译蛋白质的秘密，到研制抗癌新药，再到应对气候变化以及实现可核聚变发电等，很多科研团队已经在利用AI解决人类难题。

1.美国“深度思维”研发AI方法来预测蛋白质的折叠结构。2021年绘制出人体中98.5%的蛋白质结构图，短短18个月内就破解了生物学领域的重大难题，让人类目瞪口呆。

2.加拿大多伦多大学与Insilico医学公司利用AI药物发现平台发现新的肝细胞癌靶点，开发出“新型打击分子”，在30天内研制出肝细胞癌潜在治疗药物。

3.法国巴黎理工学院使用AI确保涡轮机频繁地指向风中，从而将产能提高了0.3%，增加的电力足以让170万户法国家庭使用。

4.元宇宙公司（Meta）利用AI开发出了一种新的混凝土制造工艺，可将碳排放降低40%。新工艺于人们应对气候变化有重要意义。

科学家和AI的携手，是一种天作之合。

人脑负责想像和创造，AI负责计算和推理。

天才科学家和无限算力无限勤劳的AI结合，很多困扰人类的大难题将迎刃而解。

人脑与AI的结合，人类好像看到了新的技术大爆炸。

人类文明，会因为AI的帮忙而升级吗？

04

Al for science？

这些年中国科学家做了什么？

AI成为全世界争夺的焦点，那AI在中国发展情况如何？这些深度介入AI的中国企业，具体应用有哪些落地？中国的AI科学家们，对AI的态度又是怎样的？

2023年9月腾讯召开全球数字生态大会，更清楚看清楚中国AI生态。

作为中国AI企业的代表腾讯，多年来在AI应用上进行布局和探索。不仅落地多个方向的AI产品，同时还聚集了很多的顶尖AI科学家。

AI for science？这次生态大会让我们看到一个中国AI企业，在AI产业中做了什么样的布局。

管中窥豹，也可以了解中国的AI产业在世界竞争中处于何种角色。

1.混元通用AI大模型登场

大模型是AI竞争的核心，也是AI世界的基石。

没有自己的大模型，就像一个厨子没有餐具，一个赛车手没有汽车。

AI大模型不仅是企业的定海神针，成功的大模型也是国之重器。

在生态大会上，腾讯混元大模型的正式出场，具备强大的中文创作能力，复杂语境下的逻辑推理能力，以及可靠的任务执行能力。

拥有超千亿参数规模，预训练语料超2万亿tokens。针对大模型容易“胡言乱语”的问题，混元大模型幻觉降低了30%至50%；

通过强化学习的方法，让模型学会“识别陷阱”；通过位置编码优化，提高超长文处理能力；提出思维链的新策略，在中文的理科、高考题和数学等子项超过了GPT3.5。

混元大模型的数据飞轮已经开始转动，还在以天为单位加速迭代，这个全链路自研技术下的通用大模型，在以腾讯大数据支撑下能从世界AI绞肉机博杀中“杀出一条血路”。

2.AI技术落地，不只是“空中楼阁”

AI不仅只是数据飞轮空转，更要切实解决技术痛点。

腾讯的AI技术都渗透多个方向，既有对弱势群体的社会关怀，也有对国家产业的贡献。下至民生问题的解决，上至宇宙空间的探索；

A.多模态四足机器人，应对中国老龄化困境；

B.无人矿车在AI音频和控制技术上实现无人操作，降低高风险；

C.能源数据AI智慧管理平台搭建，减少耗能准确调配资源，这是制造业升级的根基工程；

D.腾讯云算力与计算机视觉AI分析的结合，助力中国天眼FAST处理数据，帮助寻找到数十个脉冲星推进天文探索事业发展。

AI不是表面上的花哨，而是实实在在的落地AI产品。

3.AI科技创新，进一步仰望星空

既要脚踏实地，同时也要仰望星空。

腾讯的AI科学研究，近年接连爆发出各项成果；

1.天衍实验室在《自然》合作发表关于老鼠神经元重建的研究，推动脑机接口技术；

2.量子实验室提出高效的超导量子比特初始化方案和一个超导量子比特读取加速的方案；

3.玄武实验室发现扫码漏洞BadBarcode，随即联合微信支付对全国扫码读取进行检测修复；

4.多媒体实验室自研AI通用作曲框架XMusic，荣获2023年世界人工智能大会“镇馆之宝”。

以上是腾讯在AI方面的布局：

从AI大模型到AI产业落地再到AI技术创新。

这也是大部分AI企业正在做的事情，更是AI科学突破的方向。

那么AI科学家到底在想什么呢？未来到底和AI如何相处？

这一次大会，特别是在techo的AI科学家对谈专场，看清他们的立场。

05

1V1碰撞

科学家入局AI的产业思考

每一次的对谈专场，就是一次AI思想的盛宴。

每一场1V1思想碰撞，也是腾讯实验室科学家与国内AI科学家的行业思考。

谈什么？碰撞什么？分享什么？

1

量子实验室—AI科技什么时候大爆发？

AI+量子计算会发生什么？

腾讯科学家张胜誉认为，使用AI注入科研，将会比解决日常问题、办公更难；中科大教授、科学探索奖获得者朱晓波认为，AI发展想要跨入新台阶，需要代表性事件的发生。

如阿尔法狗代表着日常娱乐，chatGPT代表着通用性办公，而AI科研也需要代表性事件或成果，他们尝试在做的AI寻找量子计算方法优化，如果真的做到了，那将又是一次科技大爆发。

2

AI实验室—AI如何拯救人类

北京大学教授高毅清认为，AI作为工具是普世的，生物医药、生命调控如细胞核染色质的表观遗传对疾病的影响等等，都可以使用AI分析。

腾讯AI医疗首席科学家姚建华认为，AI算法可挖掘基因蛋白数据、靶点发现、分子筛选、数据观看，使医学研究成本大幅降低；临床实验涉及人体，时间成本更高，且受法律伦理约束，AI则可帮助筛选实验体，大幅减少不必要的临床实验。

3

天衍实验室—传染病防控

腾讯科学家郑冶枫利用AI实现医学影像打造AI医生；北京邮电大学教授、科学探索奖获得者王光宇已经将AI投入传染病常态化监测。如病毒传染机制有个重要的逃逸能力，AI预训练大模型分析其蛋白质作用框架后可预测病毒突变位点，进而预估其逃逸能力。

AI大模型在小样本多任务能力、多模态跨尺度信息等方面拥有优势，这能有效预测蛋白结构、设计药物、诊疗决策优化，等等。对比过去数年人类的手忙脚乱，AI在传染病防治上前景光明，发展有序。

4

多媒体实验室—解码AI+多媒体新趋势

解码AI+多媒体新趋势，“脑启动”通信智能化。

科学研究的根本目的，是对于事物本质的研究和探索。依托这一科学理念，清华大学电子工程系教授、2021年“科学探索奖”信息电子领域获奖人陶晓明，与腾讯杰出科学家、腾讯多媒体实验室负责人刘杉，针对基于脑电图响应特征的多媒体体验质量（QoE）、压缩传输应用场景的拓展等方向进行了探讨。

刘杉表示，陶晓明教授和她的团队的工作，尤其是基于脑电信号的智能信息通信，通过对大脑在感知和信息处理机制方面的研究和理解，探索出更加智能化的高效的数据处理和传输方法，是一个非常有意义、有价值，挑战和机遇并存的研究方向。陶晓明则认为，压缩传输在现代通信当中扮演着非常重要的角色，特别是在一些资源受限的场景下，而腾讯多媒体实验室在视频编码方面拥有丰富的研究经验，并推动制定了大量的压缩、传输标准，可以有效帮助团队拓展特定场景下的应用前景；另外，在未来面向机器视觉的语义通信方面，依托腾讯多媒体实验室的领先探索，也可以结合视频编码和语义通信，实现在特定场景下对关键语义信息的更好保护，从而提高通信的智能化和效率。

腾讯多媒体实验室专注于多媒体和相关领域的前沿技术探索、产品研发和应用落地，其行业领先的多媒体压缩和处理引擎、互动沉浸式媒体和智能媒体能力矩阵，通过公司一系列业务平台服务全球海量用户并助力传媒、文化、旅游等行业的发展。同时代表腾讯积极参与多个国际及国家标准制定，数十人次担任联合主席、主编等核心职务，并取得了多项突破性成果，共有超800项技术提案被国际国家标准采纳，并拥有超1000项已授权专利，荣获工程艾美奖、技术卢米埃奖、ISO/IEC 杰出贡献奖等，享有国际盛誉。

5

玄武实验室—假如AI大模型被攻击了

腾讯科学家于旸在研究大模型本身的安全问题，如数据发送给大模型的隐私保护。清华大学教授、科学探索奖获得者朱军，进一步认为：在AI大模型广泛使用后，训练集盗窃风险、甚至大模型本身会不会被远程控制的问题已经迫在眉睫，大模型需要内置安全阀门。

AI大模型自卫能力和防卫能力已被提上日程，网络安全升级到AI级别。

5场对谈，有宏观的思考，有微观的方法。

有理论的升华，也有实践的总结。

科学家，是与AI走得最近的人。

06

科技向善：不得不考虑的问题

科学家在对谈中，总会透露一些担忧：

AI与人类的关系？

AI+科学，很有可能产生技术大爆炸。

但技术大爆炸的背后，到底会产生什么样的后果，却一直让人担忧。

就算是曾经支持AI发展的人，也非常谨慎。这不是哪一个科学家个人的担心，而是一种广泛的担忧。

深度学习神经网络AI教父Hinton，这位倍受尊重的科学家表示，GPT毛虫吸取营养后，就会化茧为蝶。

Hinton谈到科技公司改进人工智能系统的后果将会越来越可怕；他直接警示世人：

注意，前方有危险！

这位深度学习大佬忐忑不安地表示：未来，就交给你们年青人了。

也许AI带来的危险不一定会表现成像科幻电影里描述的“天网危机”那样，但现实的危险已经出现，生成式AI导致部分虚假信息、照片和视频等在互联网上大量传播。

AI的危险，从某种程度来说超越原子弹。AI发展越是技术大爆炸，越是让人担忧。AI也越来越像人，那么遵循科技向善将变得尤为关键。

Q

当你在和AI对话时，你问它如何制造原子弹，那它是回答还是不回答呢？

AI最终会如何回答类似的问题，取决于科技背后的价值观。

Q

当有人让AI帮忙画一张暴露的绘本时，那AI到底该怎样进行判断？

AI最终怎么来决定，同样也涉及到科技向善。

AI时特别要强调“科技向善”，因为AI越来越像人，它做的很多事情是代替人去做，而人正是“善”与“恶”这种价值观的承载者。

人和AI的关系，走向何方？

有人担心，这一次AI技术突变，中国会被甩开？

不过看一看中国的百模大战，其实不用太担心。

AI归根结底还是工程技术方面的突破，这点我们并不差。

看看今天的混元大模型，产业又多出一个强大的AI支撑点。

再看看此次的生态大会，市场化企业仍然战力强大。

还有此次公布的五大实验室的AI成绩，AI生态欣欣向荣。

最让人担心的，仍然是人和AI的关系。特别是科学家也在担心的问题：

AI会取代它的创世主科学家吗？

最聪明的人类大脑如何与AI相处？

AI在发展过程中会向善前行吗？

人和AI，到底走向何方？