AI越像人，我们越要重新回答：人为什么是人？

关注吴大爷二三事，一起共同成长

知识分享 丨生活感悟

学习思考，寻找自我。

大家好，我是满肚子鸡汤的吴大爷，一个天天在键盘上敲打心灵，喜欢给人讲知识讲故事的男人。

最近读到一本很有意思的书，叫《人，机器与社会》。

它讨论的并不是今天的大语言模型，也不是ChatGPT、智能体或者生成式人工智能。

作者面对的，是当时还相当新鲜的计算机，

但奇怪的是，书里很多话放在今天看，几乎没有过时。

当年的人担心计算机，

今天的人担心人工智能。

当年的人把计算机看成一种迷人的新奇玩意儿，

今天的人每天追逐新的模型、功能、插件和智能体。

当年的人讨论机器会不会改变社会，

今天的人讨论AI会不会抢走工作、取代创作者，甚至拥有意识。

技术变了，人的反应却没有太大变化。

我们依然会兴奋，会恐惧，会过度想象，

也会试图用旧时代的经验，理解一个尚未完全展开的新世界。

这可能正是为什么，我们今天仍然需要读一些历史，

因为技术总是新的，人性却常常重复。

一、每一种新机器出现时，人类都会先慌一阵

作者在书中说，计算机是一种相对较新的机器，所以他想以历史学家的身份，谈谈过去人类和新机器相处的方式。

这个视角非常重要，

当我们身处一轮技术浪潮时，很容易觉得这一次完全不一样。

人工智能史无前例，这一次会彻底颠覆一切。

人类从来没有面对过如此巨大的挑战。

但如果把时间尺度拉长，就会发现，每一种真正改变社会的新技术出现时，人类都会产生类似的反应。

蒸汽机出现时，人们担心机器破坏旧有劳动秩序。

汽车出现时，人们担心速度、事故和城市混乱。

飞机出现时，人们很难想象它会成为普通交通工具。

互联网出现时，人们一边认为它只是年轻人的玩具，一边又担心真实世界会因此消失。

移动支付刚出现时，也有人怀疑手机怎么可能取代钱包。

今天回头看，这些技术已经变成生活的一部分。

我们不会每天惊叹电灯，不会把汽车当作神秘怪物，

不会因为飞机能够飞上天空，就反复讨论它是不是一种危险的魔法。

一项技术刚出现时，它总是显得激进、突兀和不稳定。

等它逐渐融入社会，新的规则、习惯、行业和文化建立起来，它又会变得普通。

所以，人工智能现在所处的阶段，也许正是这种“尚未被充分理解的新奇期”。

人类还在探索它究竟能做什么，

也还在试错，它应该被放在什么位置。

二、混乱并不一定意味着技术错了

每一次新技术进入社会，都可能带来暂时的混乱、迷茫和不公平。

这并不难理解，旧技能会贬值，旧岗位会消失。

新利益集团会出现，原来的规则不再适用。

有人先掌握了技术，有人还没反应过来。

有人获得更高效率，有人却承担了转型成本。

于是，技术进步经常伴随着不稳定。

但历史给我们的一个重要启示是，

人类的适应能力很强。

人们会围绕新技术，慢慢创造出新的职业、新的制度、新的伦理边界和新的生活方式。

机器进入工厂后，人类建立了新的劳动制度。

汽车进入城市后，人类修建道路、设置交通规则、建立驾照制度和保险体系。

互联网普及后，我们也逐渐建立了网络支付、电子商务、数据安全和平台治理机制。

人工智能今天带来的很多问题，可能也无法依靠旧制度直接解决。

它需要新的版权规则，新的教育方式，新的工作分工。

新的责任认定，也需要新的社会共识。

所以，与其幻想一开始就把所有问题想清楚，

不如承认我们正处在一个需要不断试错的阶段。

新技术的能力，要在人类反复使用、犯错、修正之后，才会逐渐被理解。

三、工具有创造力，也一定有破坏力

任何有创造力的事物，也有其破坏力，这一点在AI时代尤其明显。

人工智能可以帮助普通人写作、绘画、编程、学习和分析数据。

它可以降低专业技能的门槛，

让更多人获得过去只有少数人才有的能力。

但与此同时，它也可以制造垃圾信息、虚假图片、诈骗内容和情绪操控。

它可以提高生产效率，

也可以让某些岗位迅速失去价值。

它可以让知识传播得更快，

也可能让错误以更高的效率扩散。

所以，技术本身从来不是单纯的好或者坏，它更像一种放大器。

一个拥有强大工具的人，可以创造更大的价值，也可以制造更大的伤害。

问题的关键并不是机器到底善不善良？

而是谁在使用机器？

为了什么目的使用？

由什么文化和规则约束？

作者认为，人类会为控制工具的使用目的而创造文化，而这种文化对生活的影响，可能比工具本身更大。

同样一种技术，放在不同的文化和组织中，可能会产生完全不同的结果。

一家公司用AI来减少重复劳动，让员工有更多时间创造，

另一家公司可能用AI进行更严密的监控，让员工每一分钟都被计算。

一所学校用AI帮助学生因材施教，

另一所学校可能只想用AI制造更多标准答案。

技术提供的是能力，

文化决定能力被用向哪里。

四、沉迷AI，也是一种危险

今天很多人会担心AI，

但另一种危险，可能不是拒绝AI，而是沉迷AI。

作者提到，人们可能会把计算机当作一种迷人的小玩意儿，而沉迷任何机器、想法或程序，总归是危险的。

这和今天的情况非常相似。

新的模型一发布，大家立刻测试。

新的功能一出现，马上讨论它能不能颠覆行业。

今天研究提示词，明天研究智能体，

后天又开始研究一个新的工作流。

工具更新得越来越快，人却可能越来越焦虑。

好像只要少追了一次更新，就会被时代抛弃。

但工具并不等于目标，

如果你不知道自己想解决什么问题，工具越多，反而越混乱。

有些人不是在使用AI，而是在消费AI带来的新鲜感。

不断试用，不断收藏，不断惊叹，

却没有真正把它放进自己的工作和生活中。

这和过去人们痴迷于某种新机器没有本质区别。

新奇感会过去，

真正留下来的，是它究竟解决了什么问题。

五、机器不会因为问题荒唐而拒绝回答

书中有一个特别有预见性的判断。

过去很多机器会给人类的愚蠢设定明确界限。

你操作不对，机器可能直接停下来。

你输入错误，系统可能无法运行。

但计算机不一定如此，

即使人类提出一个荒唐的问题，或者输入错误的信息，它仍然可能正常运转，并给出一个看起来完整的答案。

人类接着按照这个答案行动。

这不就是今天的大模型吗？

AI最大的危险之一，不一定是它不会回答，

恰恰是它太愿意回答。

你提出的问题有错误前提，它可能顺着前提继续推导。

你给了错误数据，它可以做出非常漂亮的分析。

你提出一个荒唐目标，它也可能帮你制定一套逻辑完整的执行方案。

它不会像一个真正了解你的朋友那样，

突然拉住你说：你确定这是你真正的问题吗？

所以，人工智能时代最需要警惕的，不是机器没有答案，

而是机器对错误问题也能给出流畅、严密、像模像样的答案。

答案越漂亮，人越容易放松警惕。

六、错误问题的正确答案，没有太大价值

提出正确的问题，要比找到正确的答案难得多。

错误问题的正确答案，不会有多大价值。

这可能是AI时代最重要的一句话。

过去，知识稀缺，人们的优势是知道答案。

今天，答案正在变得廉价，

只要输入一段文字，AI就能迅速生成报告、方案、文案和分析。

于是，真正的竞争力逐渐从“知道答案”，转向“能否提出正确的问题”。

比如一家互联网公司发现用户增长下降，

它可以问怎样提高广告投放量？

AI可以给出几十种方法，

但真正的问题也许并不是广告不够，而是产品已经不能满足用户。

如果问题定义错了，AI越努力，企业可能走得越偏。

再比如一个人问：怎样才能提高工作效率？

AI会告诉他如何管理时间、使用工具和拆分任务。

但也许他真正的问题是这份工作本身是否值得投入？

他不是效率不够高，而是正在高效率地做一件没有意义的事。

提问决定方向，答案只负责加速，

方向错了，速度越快，离目标越远。

七、数据让世界更清晰，也可能让错误更牢固

人类一直有一种冲动，把复杂的生活变得可以计算。

因为只要一个东西可以被数字化，它看起来就更容易理解。

用户数量、销售额、转化率、阅读量、完播率，

工作时长，绩效得分。

所有东西都被放进逻辑框架中，决策似乎就会变得简单。

做互联网软件更是如此，后台每天产生大量数据。

但真正困难的从来不是有没有数据，而是从哪个角度分析数据。

你看到用户停留时间增加，可能认为产品变好了，

但也可能是用户找不到退出入口。

你看到员工加班时长增加，可能认为团队更努力，

也可能说明流程越来越低效。

你看到内容点击率提高，可能认为选题成功，

但如果用户看完后失去信任，这个点击率还有多少价值？

数据本身不会自动解释现实，它必须依赖假设，

而假设可能是错的。

如果提出问题的角度错了，数据越丰富，错误结论反而越有说服力。

八、可量化的，不等于最重要的

人工智能和计算机天然擅长处理可量化的信息。

什么更快，什么更多，什么概率更高，什么方案成本更低。

但生活里最重要的很多东西，偏偏很难测量。

信任值多少钱？

尊严怎样打分？

一个人是否感觉被理解，应该用什么指标衡量？

一段关系是否值得维持，能否用投入产出比直接计算？

一项工作给人的意义感，应该放在哪一张数据表里？

生活中真正困难的问题，往往是可测量和不可测量的数据混合在一起。

比如选择一份工作，

薪水可以量化，

通勤时间可以量化，

岗位级别可以量化，

但是否认同团队、是否喜欢这类生活、是否感觉有尊严，就很难量化。

如果只看数字，选择会变得简单，但也可能变得贫乏。

纯粹的可计算性，会给人一种虚假的安全感。

我们以为自己已经掌握了全部事实，

其实只是把不能测量的部分排除在外。

九、AI不会不理智，它只是忠实地放大人的不理智

我们常说机器没有情绪，所以机器更理性，

但机器给出的结果，仍然依赖人的输入。

人选择什么数据，

提出什么目标，

设定什么规则，

接受什么答案，

这些都会带有人的偏见。

所以，机器的不理智，常常来自人类不理智的输入。

如果一个企业只追求短期利润，AI会帮助它更高效地压缩成本。

如果一个平台只追求停留时间，AI会找到最能刺激情绪的内容。

如果一个人只想证明自己是对的，AI也可能被用来搜索支持他的材料。

技术并不会自动纠正人的欲望，

它更可能帮助人把原本模糊的欲望，变成更系统的行动。

AI像一面放大镜，善意被放大，能力被放大，

偏见、贪婪和愚蠢同样会被放大。

所以，AI伦理不能只研究机器，

还必须研究使用机器的人。

十、AI真正带来的，也许是重新认识人类

人工智能不仅是一种生产工具，

它还是一面镜子。

当机器可以写作，我们会重新思考，

写作究竟只是排列文字，还是表达经验？

当机器可以绘画，我们会重新思考，

艺术的价值是画面本身，还是创作者与世界之间的关系？

当机器可以回答问题，我们会重新思考，

人的价值是记住知识，还是提出问题、体验生活和承担选择？

当机器越来越像人，我们反而需要更认真地追问，

人究竟是什么？

人不只是计算能力，也不只是神经网络里的信息处理，

人会感受痛苦，会在意尊严，会爱具体的人，

会为一个毫无效率的承诺坚持很多年，

会因为一段记忆而改变一生的选择，

会明知无法计算，却依然相信某件事值得。

这些无法完全量化的东西，也许正是人之所以为人的一部分。

十一、在“比真还真”的时代，真实意味着什么？

生成式人工智能带来了一个非常特殊的时代。

生成图片可以比照片更完美。

AI声音可以比真人更稳定。

AI文字可以比很多人写得更流畅。

虚构的人可以拥有完整外貌、经历和性格。

很多东西看起来比真实还真实。

于是，“真实”不再只是视觉上像不像。

未来我们判断真实，可能更需要追问：

它来自谁？

为什么被创造？

谁为它负责？

它与真实经验有什么关系？

它是否试图操控我的判断？

当形式越来越容易被复制，真实的价值可能会从“看起来像真的”，转向“它是否来自真实的关系、责任和体验”。

一段话是否由AI生成，也许没有那么重要。

重要的是，有没有人愿意为这段话承担责任。

一张图是否由机器绘制，也未必决定它有没有价值。

更重要的是，它究竟表达了什么，服务了谁，又是否尊重了他人。

十二、我们应该怎样与AI相处？

第一，把AI当作能力延伸，而不是人生代理人。

它可以帮助整理、分析、生成和执行，但不能替你决定自己想过什么生活。

第二，先定义问题，再寻找答案。

每次使用AI前，先问清楚目标、前提、限制和判断标准。

第三，保持验证习惯。

机器给出的答案看起来再完整，也要回到事实和现实中检查。

第四，不要迷信数据。

数据可以帮助理解世界，但不能代替对人的感受、伦理和具体处境的判断。

第五，避免陷入工具崇拜。

学工具很重要，但工具最终要进入真实的工作和生活，才有意义。

第六，保留不可量化的空间。

关系、信任、审美、意义和尊严，不应该因为难以计算就被忽略。

第七，通过AI重新认识自己。

观察你向AI提出的问题。

你反复追问什么？

你希望机器替你解决什么？

你真正害怕的又是什么？

这些问题也许比机器给出的答案，更能说明你是谁。

结语：

《人，机器与社会》讨论的是计算机刚刚进入社会时，人类如何理解新机器，

但今天读来，它更像是在讨论人工智能。

每一种新技术出现时，人类都会经历一段混乱。

我们会神化它，恐惧它，沉迷它，误用它，

最后才逐渐理解它。

人工智能或许也会经历同样的过程。

今天的AI还处在新奇、怀疑和恐惧交织的阶段。

它真正的社会位置，还远没有确定。

但有一点可以确定，

决定未来的，不只是AI有多强，

更是人类用什么文化、价值观和问题意识去使用它。

机器可以帮助我们计算，可以帮助我们学习，

甚至可以帮助我们理解自己的大脑和认知。

但它无法替我们回答一个最根本的问题，

我们究竟想要怎样的生活？

也许，人工智能最大的意义，不是让机器越来越像人，

而是迫使人类重新理解自己。

在一个文字、图像、声音都能被仿造得比真还真的时代，我们终于不得不重新寻找：

什么是经验。

什么是责任。

什么是情感。

什么是意义。

以及，人为什么为人。

欢迎点赞、转发、评论。

我是吴大爷，夜风同学

愿一路陪你共同成长！