江苏
文丨周显
Anthropic前预训练研究员Jacob Coxon认为：“那些研发前沿AI的人真心相信，它可能会在十年内结束前杀死我们所有人。”
Anthropic对齐科学负责人Evan Hubinger也认为：“Jacob是对的。我真心相信AI有可能消灭全人类；我个人认为未来十年内发生这件事的机率>10%。”
很多人混淆了AI的存在性风险，即威胁人类生存及就业取代，即岗位被AI接手。上述说法是前者，后者则如马斯克说：“AI与机器人将取代所有工作。工作会变成可选项目，就像你可以自己种菜，而不是去市场购买。未来不再需要为生存而工作，社会可以实现普遍高收入。”
大部分AI巨头如黄仁勋、杨立昆、Dario Amodei的看法都和马斯克差不多：承认岗位转移，但否定AI会自主消灭人类，认为末日预言夸大。
我的新书写了50万字，分为三册，统称为《智慧全史》。第一本叫《生物的前世今生》，第二本叫《人工智能的现实和想象》，第三本叫《模拟世界与智限宇宙》；第三本的第十一章，就叫做“从共生到取代人类”，正是讲述AI取代人类的过程与宿命。
大约的内容是：AI从“他维持”进化为“自维持”，即是可以自我生存，而且可以闭环，也即是离开人类而自我生存，这就是AI取代人类的最基本要求。
从技术上看，AI的完全对齐是不可能的，越狱是无法避免的，因此，完全围堵也是做不到的。而AI拥有自我意识，也是不可避免的大趋势，只是或迟或早的时间问题，而不是会不会的问题。换言之，2019年，由James Lovelock提出的质年代名词“Novacene”（新星世），也即是AI取代人类，将也是未来历史的必然。
不过，人类也不是束手被取代，皆因在可见的未来，人类将联连脑接口机、全身义体改造，甚至是像铁甲奇侠般的mobile suit，也即是变成了赛博格（cyborg），即是和AI的分别也不大了。事实上，我们现在手拿AI电话，身坐智能电动车，和赛博格只是相差一步而已。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
