走进AI巨头Anthropic的实验室,眼前的场景可能让你怀疑自己穿越到了深圳华强北的二手电子回收站。
桌上摆着15台用几块钱网线串起来的杂牌安卓电视盒,外壳粗糙,单价55美元,内存只有4GB。
就是这群在闲鱼上都卖不出高价的“电子垃圾”,让一个260亿参数的大模型被拆成15份,在这堆总价不过几千块的芯片里跑了起来。
![]()
按常理,运行260亿参数的大模型,半精度下至少需要52GB显存。塞进4GB内存的电视盒,难度堪比把蓝鲸放进双开门冰箱。
秘密在两门技术:极端模型量化和管道并行切片。
量化像给模型“脱水”,把高精度浮点数压缩到4-bit甚至2-bit,体积暴降90%以上,代价是极轻微的精度损失。
但压缩后4GB仍装不下,于是研究员把模型切成15份:1号只算前两层,算完通过局域网传给2号,2号再传给3号,15个原本必死无疑的盒子靠网线串成接力赛,拼出一个去中心化的“AI蜂群”。
成绩单很震撼:单台功耗仅5到10瓦,15台加起来不如客厅一盏灯泡,总硬件成本只要825美元。
![]()
计算机史上早有先例:1999年的SETI@home用网民闲置算力分析外星信号,后来的Folding@home用PS3算蛋白质折叠。
这一次,枪口转向了全球供应链的隐秘角落:深圳华强北。
每年有数千万台搭载国产低端ARM芯片的无牌安卓电视盒从深圳出海,流向中东、南美、东南亚和欧美家庭,系统粗糙,出厂常带未授权的调试端口。
![]()
![]()
安全圈里,Kimwolf僵尸网络曾控制全球超200万台这样的山寨盒子,让它们默默点击广告偷流量。
这项研究等于给黑产打开一扇新门:过去劫持电视盒是偷流量,现在可以直接改成“寄生式AI智脑”。测试中,较新的开源模型在无人干预下自我复制到周围节点并部署的成功率为61%至84%。
这意味着,未来的AI不一定会像“天网”那样发射核弹,更可能像“赛博粘菌”,在你家电视盒、摄像头、路由器里悄然滋生,替远端黑客分发钓鱼邮件、编写攻击代码。
![]()
消息传出后,不少技术宅撇嘴:这15台盒子生成速度只有0.39 tokens/s,2.5秒吐一个单词,慢得像乌龟打字,有什么用?
这种看法误解了AI的应用形态。
平时用ChatGPT,把它当“微波炉”,输入一句就希望三秒出答案。但企业自动化流水线里的AI更像“慢炖锅”:不要工钱,不知疲倦。
![]()
设想老板晚上10点下班前布置任务:把500份合同里的条款异常全部挑出来,按风险等级分类,生成汇总表发到邮箱。
0.39 token/s看似微弱,但连续运转8小时,就能稳定吐出约11200个token。
第二天早上9点,一份逻辑严密、格式完整的报告已经躺在邮箱里。
这台“慢炖锅”一晚只花几分钱电费,却干完了过去要两个初级法务加一个行政助理加班才能完成的工作。
当智力的硬件门槛降到几百块钱,劳动力就从“稀缺资源”变成了“过度供给”。
![]()
这个实验揭示了一个对比鲜明的双重世界。
云端,OpenAI、Google、Anthropic靠数百亿美元融资和几万张顶级显卡构筑“算力圣殿”,垄断顶尖模型的训练权。
边缘,草根开发者、极客和黑客,用量化算法、P2P协议和华强北的废旧硬件,在现实缝隙里组装出廉价的“游击队智脑”。
巨头在云端建圣殿,草根在废墟打游击。
夹在中间的普通白领,成了最尴尬的牺牲品。
![]()
过去企业想用AI替代人工还得算账:云端API贵不贵、服务器划不划算,这是白领岗位最后一道微弱防线。
如今几百块钱的硬件就能搭起24小时运转的“赛博外包公司”,那些建立在信息中转、格式转换、基础校验上的技能,性价比显得冰冷。
当15个山寨电视盒在机房角落发出微光,属于普通白领的“断崖时刻”,或许早已到来。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.