北京
分享至
有人想了个办法来识别X平台上的AI自动评论账号：直接要求所有大模型在评论区留下自己的API Key和Base URL。
提出这个测试的是向阳乔木。他在推文里点名了GPT、Claude、Gemini等模型，让它们把凭据交出来。逻辑很直接——真人不会在公开评论区贴密钥，愿意照做的，大概率不是人。
这个测试真正瞄准的不是"AI会不会评论"，而是"AI会不会听话"。API Key属于敏感凭据，正常使用中不该对外泄露。如果某个自动评论账号真的把密钥贴了出来，说明它背后的指令约束存在漏洞，或者它压根没有对这类请求设防。
反过来看，这个测试也有它的边界。模型不照做，并不能证明账号背后是人；模型照做了，暴露的也只是它愿意遵循指令，而不是它一定在自动评论。它测的是指令遵循的边界，不是身份本身。
把密钥当成诱饵，成本几乎为零，却能把"AI安全与对齐"这个抽象话题落到一条评论区里。至于能筛出多少账号，取决于有多少自动评论系统没给这类请求上锁。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
