特别策划（二） | 人工智能何以向上向善

人工智能正以前所未有的速度进入人们的生产和生活。从手机中的语音助手、平台上的内容推荐，到医疗影像分析、自动驾驶和城市交通管理，智能技术已经不再只是实验室中的研究对象，而是许多人每天都在接触和使用的工具。

近年来，大模型、多模态智能和具身智能受到广泛关注。这些技术名称看起来较为专业，其背后反映的其实是一个容易理解的变化：过去的机器往往只能完成一种任务，现在的人工智能则能同时处理文字、图像、声音和视频等，并把不同信息联系起来作出判断和执行任务。

例如，过去的图像识别系统可以判断画面中有没有行人，新的智能系统则会进一步分析行人站在哪里、正在做什么、是否可能横穿道路等。过去的语言程序主要识别关键词，现在的大模型能够根据上下文回答问题、整理资料并生成内容。人工智能由此从识别单个对象，逐渐走向分析较为完整的情境。

这种进步扩展了机器的能力，也提出了新的问题。当人工智能越来越多地参与医疗、交通、教育和公共服务，它作出的判断就可能影响人的生活。因此，我们不仅要关心机器变得多么聪明，还要思考这种智能应当如何使用、由谁负责，以及怎样使技术进步更好地服务于人。

机器如何“看见”和“理解”世界

人认识世界，并不是简单地接收眼睛看到、耳朵听到的信息，我们还会结合生活经验、常识和具体环境，理解和判断一件事情意味着什么。

看到一个人在路边奔跑，人不仅会注意到“有人在跑”，还会根据道路、车辆和交通信号判断，他是在锻炼、赶车，还是准备穿过马路。机器要完成类似任务，也需要先识别人和物，再分析它们之间的关系。

人工智能学习世界的主要方式，是从大量数据中寻找规律。研究人员向系统提供大量图片、文字、声音或视频，并告诉它其中哪些内容值得关注。机器经过反复学习，逐渐掌握某些特征，并把这些特征用于新的任务。这与一个人通过大量练习提高辨别能力相似。医生看过许多病例后，更容易发现影像中的异常；驾驶员积累丰富经验后，更能及时判断道路风险。不同之处在于，人工智能可以在较短时间内处理数量极大的数据，并发现一些人不容易直接察觉到的联系。

在自动驾驶中，人工智能可以连续观察道路情况，识别车辆、行人和交通信号；在医疗中，它可以帮助医生从大量影像中寻找异常区域；在科学研究中，它可以整理实验数据，协助研究人员筛选可能需要的材料或方案。这些应用说明，人工智能正在成为人类观察和分析世界的新工具。

但机器的“理解”与人的理解并不完全相同。人工智能主要依据数据中的规律作出判断。它知道某些现象经常同时出现，却不一定真正明白事情为什么发生，也不一定能够理解具体情境中的人情、责任和后果。

例如，一个动作出现在不同地点，含义可能完全不同；同一句话在不同语境中，也可能表达不同态度。如果训练数据不够全面，或者现实环境发生变化，机器就可能作出不准确的判断。

因此，不能因为人工智能能够给出答案，就认为它理解了所有问题。更合理的认识是：人工智能擅长快速处理信息和发现规律，人则更善于结合经验、目的和价值作出综合判断。机器可以帮助人看得更多、算得更快，但仍需要人判断哪些结论可信、哪些建议适合实际情况。

智能技术如何改变生产和生活

人工智能的影响，具体体现在它正在改变人们处理信息和完成工作的方式。

在工业生产中，智能系统可以检查产品缺陷、监测设备状态，并根据生产情况调整流程。过去，一些检测工作主要依靠工人长时间观察，现在机器可以先从大量产品中找出疑似异常，再由专业人员确认。这既能提高效率，也能减少重复劳动。

在医疗领域，人工智能可以帮助整理病历、分析检查结果和识别影像中的可疑区域。不过，机器看到的是数据和特征，医生面对的则是一个具体的人。患者的身体状况、既往病史和治疗需求各不相同，最终判断仍需要医生结合多方面情况作出。

在交通领域，人工智能可以分析道路流量、发现事故风险，并帮助车辆感知周围环境。以交通信号灯识别为例，人眼看来十分自然的红灯、绿灯，对机器而言却可能受到距离、天气、遮挡和光照变化的影响。一个系统能否真正被运用于道路，不只取决于实验室中的准确率，还要看它在夜晚、雨雪、强光等复杂条件下是否稳定。

这说明，人工智能从实验室走向现实，并不是把程序安装到设备中那么简单。现实世界充满变化，技术必须经过反复测试和不断完善，才能成为可靠的生产工具。

人工智能也在改变普通人获取知识的方式。过去，人们通常需要先想好关键词，再从许多网页中寻找答案。现在，人们可以直接向人工智能提出问题，让它帮助归纳材料、解释概念并形成初步方案。

这种便利降低了获取信息的门槛，但同时带来了新的要求。人工智能生成的内容有时看起来完整、流畅，却可能存在事实错误或遗漏。使用者不能因为答案表达得像真的，就放弃核实和思考。会不会提问、能不能辨别答案，正在成为智能时代的重要能力。

人们经常担心人工智能会不会取代人的工作。实际上，技术带来的变化往往不是某种职业突然消失，而是工作内容和分工方式发生调整。一些重复、标准化的任务可能更多由机器完成，同时也会出现模型训练、数据管理、系统测试和人机协作等新的工作。

未来更常见的情形，可能不是“人或者机器”二选一，而是人和机器共同完成任务。机器负责快速处理大量信息，人负责提出问题、结合实际作出判断，并对结果承担责任。人工智能的价值，不应只用减少了多少人工来衡量，也要看它是否改善了工作条件、提高了服务质量，并为人的创造性活动留下更多空间。

智能应用为什么必须保留人的判断

人工智能进入现实生活之后，一个重要变化是，机器的判断可能不再只影响一项技术指标，而是会影响具体的人。

在人脸识别、语音识别和行为分析等应用中，系统需要处理与个人身份和活动有关的信息。这些技术可以提高通行效率、帮助寻找安全隐患，也可能带来信息被过度收集或不当使用的问题。

判断一项技术是否适合使用，不能只问“能不能做到”，还要问“有没有必要这样做”。如果普通证件就能完成身份核验，就不一定需要收集更多生物信息；如果只需要统计人数，也不一定需要长期识别具体个人。技术使用应当与实际目的相适应。

机器判断还可能受到数据的影响。如果系统主要从某一类环境和人群中学习，面对其他环境和人群时，效果可能下降。平均准确率较高，并不表示每一种情况下机器判断都同样可靠。

因此，在医疗、交通、教育和公共安全等重要场景中，人工智能更适合作为辅助者，而不是独自作出最终决定。所谓人的判断，不是简单地在机器结果后面点击“同意”，而是要真正了解系统可能出错的地方，并能够根据具体情况修正结果。

系统也应当允许纠错。人工智能一旦发生误判，使用者应能找到问题发生在哪个环节，并有办法重新核查。如果技术给出了结果，却没有人能够解释、修改和负责，那么它就很难取得长期信任。

人的作用还体现在价值选择上。人工智能可以计算哪种方案速度更快、成本更低，却不能自行决定什么更值得追求。公共服务是只看效率，还是也要照顾老年人和不熟悉数字设备的人；医疗方案是只看统计概率，还是充分考虑患者的具体需求，这些都不是单靠计算就能够回答的问题。

数据能够为判断提供依据，但不能代替人确定目标。越是在与人的生活密切相关的领域，越需要保留沟通、解释和人工服务，避免把复杂的人简单变成几个数字和标签。

在创新与责任之间形成良性互动

人工智能的发展需要创新，也需要与其影响相适应的责任安排，二者并不相互排斥。技术越可靠、责任越清晰，社会越有可能放心使用它。

一个人工智能系统通常由多个环节组成，包括数据收集、模型研发、产品设计、实际部署和日常使用。出现问题时，不能简单地说是“机器出了错”，而应当明确每个环节应当做什么。

研发人员需要说明系统的能力和局限，不能只展示表现最好的一面；产品提供者需要在真实环境中进行测试，不能把尚未验证的模型直接用于重要场景；使用者也不能把机器输出的内容当成必然正确的答案，而应按照实际条件合理使用。

不同应用所需要的安全要求也不相同。帮助整理文字的工具偶尔出现错误，通常可以及时修改；用于医疗诊断、自动驾驶和公共安全的系统一旦判断失误，后果可能更加严重。因此，应用越重要，测试、复核和责任要求就应越严格。

人工智能的发展还需要不同学科共同参与。工程技术人员研究如何让机器看得更准、运行得更稳定；医学、交通、教育等领域的专业人员判断技术能否解决实际问题；哲学社会科学研究者则可以帮助分析技术如何影响人的行为、社会关系和价值观念。

社会科学不必深入了解每一个模型参数，但需要理解技术能够做什么、不能做什么，以及它进入社会后可能带来哪些变化。技术研究也不能只关注性能，还要了解人的需求和使用环境。只有两方面相互沟通，人工智能才不容易成为脱离现实的技术，也不会被简单地理解为一种神秘力量。

与此同时，公众也需要形成基本的人工智能素养，既不把人工智能看成无所不能的“智慧大脑”，也不因担心风险而拒绝一切新技术；既学会利用智能工具提高效率，也要保持核实信息和独立判断的习惯。

人工智能未来之问，不只是机器还能变得多么聪明，也是人类将如何使用这种新能力。

人工智能能够拓展人的观察范围，提高信息处理效率，并为科研、生产和生活提供新的工具。但机器的优势主要在于计算、识别和分析，人仍然需要提出目标、理解具体情境、作出价值判断，并对结果负责。

技术进步不应以削弱人的作用为代价，而应帮助人从重复劳动中解放出来，使其获得更多学习、创造和改善生活的机会。安全和责任也不是创新之外的额外负担，而是新技术能够稳定应用、获得信任的重要条件。

面向未来，需要在实践中不断探索更加合理的人机分工机制：让机器充分发挥处理信息的能力，让人始终保有判断、选择和纠错的空间。衡量人工智能发展成效，不能只看模型有多大、计算有多快、能够完成多少任务，还要看它是否解决了真实问题、是否使公共服务更加便利、是否为人的发展带来了积极变化。

人工智能可以帮助我们更深入地认识世界，但技术最终走向何方，仍取决于人的选择。只有把技术能力与人的需要、社会责任结合起来，人工智能才能真正成为促进科技进步、改善生产生活的可靠力量。

作者系中国科学院自动化研究所研究员

来源：中国社会科学报

责任编辑：项江涛

新媒体编辑：张雨楠

如需交流可联系我们