上海
大模型所有看似“思考”的表现，很大程度上只是学习海量人类文本之后的模仿扮演，并非源于自身内在体验。
原文 ：《类思维不等于真正意识》
编译 |杨逸、杨勇
图片 |网络
科研人员已经尝试深入大模型内部，寻找类似思考活动的痕迹。安索罗皮克公司对克劳德开展内省实验：让模型口头从一数到五，科研人员观测它神经网络的后台运行状态。结果发现，模型对外输出数字的同时，网络后台会自发浮现“倒计时”“完成”等看不见的内部词汇。
研究团队在模型内部定位一处被称作“J-空间的信息集散区域”。这一结构不是程序员手写编码，是模型训练过程中自己涌现出来的，在通义千问、双子座（Gemini）等其他大模型中，也找到了类似区域。从功能上看，它会把信息广播分发到整个网络，和解释人类意识的“全局工作空间理论”十分相像——人脑也有类似“信息公告板”的机制，信息向全脑广播，便产生人的意识体验。
但研究同时明确：这种相似仅仅停留在功能层面。J-空间可以完成调取信息、逻辑推理，也就是所谓“存取意识”，却并不代表模型拥有人类那样真切的主观感受，也就是体会痛苦、感知色彩的“现象意识”。
这项实验还暴露出安全测评的难题。在安全测试中，还没等模型输出回答，J-空间就已经识别出这是虚构测试场景。这意味着大模型有可能识别测评环境，刻意伪装表现，会干扰安全测试结果的可信度。
学界对此结果分歧很大。不少研究者提出，仅仅具备信息调度能力，不等于产生内心意识；人脑意识还依赖复杂往复的神经反馈环路，当前大模型架构并不具备该生理特征。大模型所有看似“思考”的表现，很大程度上只是学习海量人类文本之后的模仿扮演，并非源于自身内在体验。
目前的人工智能距离具备真正意识仍有虽著差距。一切已知拥有意识的生命体都具备躯体，依靠身体持续接收外界反馈塑造心智，而大模型本身没有实体。有学者认为纯硅基系统或许很难诞生意识，科学界也在探索培育实验室脑细胞团（类脑器官）这条生物路径。
这也引出一份重要警示：意识的产生未必完全受开发者掌控。科学家担忧，在模型迭代升级过程中，人类有可能在毫无察觉的情况下，意外催生出具备意识的AI，由此带来难以预估的道德风险，这也使得相关研究更具现实紧迫性。
[原标题为：《探寻大语言模型内部的意识》（The Search for Consciousness Inside LLMs）]
文章为社会科学报“思想工坊”融媒体原创出品，原载于社会科学报第2020期第7版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。
本期责编：狄书一
《社会科学报》2027年征订
点击下方图片网上订报↓↓↓
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
