北京
分享至
AI到底是被"发明"的，还是被"发现"的？田渊栋在评述罗伯特·赖特《After God Made Us》时给出了自己的判断：他认同AI更接近被"发现"，而非被完整"发明"出来。
顺着这个判断往下推，人与AI的关系未必是单向替代，而可能走向某种共生。这个说法听起来温和，但田渊栋真正想强调的落点不在共生本身。
他的核心主张是：对齐必须建立在真正打开模型黑箱、理解内部机制的基础上。只靠外部行为观察，或者只靠社会治理层面的约束，都不够。
把这几层意思拆开看，逻辑其实很清晰：
- AI是被发现的，不是被完整设计出来的
- 人与AI可能走向共生
- 对齐的根基是打开黑箱、理解内部机制
- 外部行为观察和社会治理不能替代这一步
这套说法对做AI的人不算陌生，但由一个长期做模型研究的人讲出来，分量不太一样。外部观察能告诉你模型输出了什么，却未必能告诉你它为什么这么输出。
黑箱打不开，对齐就只能停留在"看表现"的层面。田渊栋把问题摆在这里，没有给出更远的答案。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
