网易首页 > 网易号 > 正文 申请入驻

石锡铭:群智一致、低科技权等受智于机时代的行为准则

0
分享至

石锡铭先生,自1998年提出并推广 “智能化概念”,近三十年。他在和智能化相关企业家、技术人员、教授、研究员,包括王大珩、杨嘉墀、张景中等院士,林贤光、吴成东等教授编委交流时,就智能化技术发展、应用、落地,智能时代个人的行为准则等客观存在的现象,时有心得感悟、所思所想,记录并整理成文收录在他的诗文集《风起神家川》,今天推荐一下他的《智能时代的行为准则》一文。

石锡铭:群智一致、低科技权等受智于机时代的行为准则

石锡铭

我的思想有三:“受智于机”,“行智合一”,“三知一致”。其中“行智合一”,“三知一致”是强调个体思想、行为如何不被机器左右。但个体清醒不等于社会清醒。当智能工具成为群体共享的认知基础设施,风险就从“一个人被机器带偏”升级为“一群人被同一台机器同时带偏”。以下五条,是我认为提出“群智一致、低科技权、感知守护/感知养护、人机分界”,是受智于机时代必须补上的五个行为准则。定位为“准则层”。这五个行为准则,回答“具体怎么做”。不是独立思想,是我的思想的操作化延伸。

五条行为准则

一、群智一致:防止集体元认知塌陷

“三知一致”管个体不被割裂认知闭环。但最危险的场景,不是一个人失去元认知,而是一群人同时失去,还互相确认“我们想得对”。算法推荐制造信息茧房,社交媒体放大情绪共振,生成式人工智能侵蚀公共事实基础——三者叠加,催生的是集体性的元认知塌陷:群体不再具备“我们可能一起想错了”的监控能力。

群智一致,不是意见一致,而是群体对自身认知过程的共同监控机制。它要求一个群体在共用同一套智能工具、接收同一套算法喂养的“最优路径”时,仍保留三个能力:能识别“我们的信息源是否单一”;能容许“机器和我们都说对、但可能都错了”的异见;能在重大判断上保留人工复核,而非全盘接受工具输出的共识。

这是一个新词,我提出它,是为了把“三知一致”从个体层面推到群体层面。个体三知一致管“我不被机器带偏”,群智一致管“我们不被同一台机器同时带偏”。没有这一层,个体再清醒,放进一个集体性认知闭环里也会被稀释。

群智一致要防的就是这个:当所有人都用同一台机器得出同一个结论,谁来监控“我们可能一起错了”。

二、低科技权:给不想被吃掉的人一条退路

我讲过“有意识地保留一些低科技的能力”。但这话不能只停在个人修养层面,它得成为一条权利:人有权在某些领域、某些时刻选择不用智能工具,且不因此被系统性地淘汰。

低科技权,或曰离线权,不是反技术,而是给“受智于机”装一个可选择的退出阀。不用导航走一次路,不靠推荐读一本书,不借AI写一封信——这些选择不该被默认成“落后”“低效”而遭到排斥。没有退出权,受智于机就从“契机”变成了“没有退路的处境”。一个社会如果只在口头上尊重“独立思考”,却在制度上让不用智能工具的人寸步难行,那它实际上已经取消了独立思考的物质基础。低科技权的实质,是保证“人可以选择不当终端”。

这个词是我从个人修养层面上升为权利主张的新表述。一个人离线就活不了,受智于机就不是契机,是绑架。

三、感知守护:守住认知闭环的起点

“三知一致”以感知为输入端。但感知正在被智能工具系统性替代。感知守护,是保护感知不被过度替代的准则,偏防御:凡是涉及判断的领域,感知不能全权外包给工具。

我做金石二十多年,一块残碑上的字磨得只剩轮廓,机器认不出,我也不一定认得出。但我可以坐在那儿看,想这块石头从哪儿来、谁刻的、为什么刻。这套东西算法给不了。感知一旦全交出去,良知就没有原材料可判断,元认知也没有真实经验可监控。感知守护的底线是:涉及价值判断的领域,人必须保留身体在场。

四、感知养护:像锻炼身体一样锻炼感官

守护是被动的,养护是主动的。感知是用进废退的东西,不练就会萎缩。感知养护主张:感知是一种需要刻意训练、定期使用、否则会退化的能力,应像锻炼身体一样被纳入日常。

这里要作一个切割。现有“感知养护”一词在专利文献里指用传感器养护路面或植物,与我用的意思完全不同。我用它,指的是人对自身感官能力的主动训练,成文时需加说明,避免歧义。

智能工具带来的是感知的“用进废退”。长期依赖语音转文字的人,书写的手感会钝化;长期依赖推荐算法的人,主动检索的嗅觉会退化;长期依赖导航的人,方向感会消失。感知养护要求有意识地安排“低科技练习”:手写、步行、无目的翻阅、面对面交谈、在陌生环境中靠感官辨向。这些练习看起来低效,但恰恰是它们为良知和元认知提供可加工的粗糙材料。

五、人机分界:给“谁是目的”一个可操作的判据

1998年智能化概念,和智能化企业家、技术研究人员交流,我反复问“谁是目的,谁是手段”。这个追问得落到具体时刻:当智能工具的判断和你的判断不一致,你能不能说出“我为什么不同意”,而且理由不能只是“我感觉不对”。

“人机分界”不是新词,学界通用“人机边界”,指人与机器之间责任、主体性、情感界限的划定。我的贡献在于把它操作化为一条判据:人机分歧时刻,是人保留主体性的最后一道检验。能给出可陈述的理由——基于你看到的具体东西,基于你判断的价值,基于你对自己可能想错了的警觉——人就是目的。给不出,只会说“机器说的”或“我感觉”,人就已经实质性地退出了决策主体位置。

这条准则可以倒逼三知一致的日常训练:你的感知、良知、元认知,能不能在机器说“不”的时候,给出一个站得住的“不”。

结语

五条各司其职:群智一致管群体不被同时吃掉,低科技权管不想被吃掉的人有没有退路,感知守护管感知不被全权替代,感知养护管感知不因不用而萎缩,人机分界管关键时刻拿什么证明自己还是目的。

其中,“群智一致”和“低科技权”是我提出的新词;“感知守护”与“感知养护”,防御和建设,分工使用;“人机分界”承接学界“人机边界”,我把它落成一条可检验的判据。词有新有旧,指向是同一个:工具越智能,人越有资格说——我知道我在用什么,我也知道什么时候不该用它。准则的意义不在禁止使用智能工具,而在确保受智于机之后,人还是目的。

总之一句话:“受智于机、三知一致、行智合一”是思想,“群智一致、低科技权、感知守护、感知养护、人机分界”是由此派生的行为准则;思想管“怎么想”,准则管“怎么做”,二者是源与流的关系,不是并列关系。

此外,石锡铭还有《智能化时代的五行 四智 三知 三不朽》、《智礼:受智于机时代的礼仪》、《传道·授局·偕行:未来师者的三维身份》、《设启赋智:智能化时代教育机构的职能转型》、《智能化技术语境下的“省勘”行为》、《智术感知:感知、数据、信息的三元界定》等专论文章。同时,石锡铭先生撰写《智能化时代的“受智于人”》、《受智于机:智能化技术对人类最直接的影响》、《行智合一:智能化对人类行为影响及应对》等,和“三知一致”一起,确定石锡铭的思想层,由此他才写道:“受智于机,定时代处境;三知一致,定认知结构;行智合一,定实践原则。(群智一致、低科技权、感知守护)三者是新名词,承载者我的新思想,回答‘时代是什么、人怎么想、人怎么干’。”就目前国内来看,智能时代“受智于机”对人类的影响深刻思考最多的一个思想家,就是石锡铭。




声明:个人原创,仅供参考

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

深圳市智能化学会 incentive-icons
深圳市智能化学会
深圳市智能化学会
225文章数 23关注度
往期回顾 全部

专题推荐

“中国凉都”—— 贵州·六盘水

无障碍浏览 进入关怀版