最近科技圈最炸裂的一出吃瓜大戏,彻底刷新了大家对头部互联网大厂底线的认知。
谁也没想到,作为行业巨头的Meta,背地里居然搞出一套骚操作,为了卷赢AI同行,居然直接花钱雇人给竞争对手挖坑,其底线之低,令人叹为观止。
据《连线》杂志报道,Meta悄悄落地了一项保密项目,内部代号取名“戛纳”(Cannes),这个项目全程交由欧洲外包机构Covalen全权落地执行,操作手法简单但是目的性极强。
该机构召集了数百名外包工作人员,针对市面上几款主流AI聊天模型,批量注册了大量一次性虚假未成年账号,全部伪装成不同年龄段的青少年。包括OpenAI旗下ChatGPT、谷歌Gemini,还有Character.AI平台等,全都成了这次秘密测试的目标。
这几家被测试的科技公司,从头到尾对此毫不知情。
![]()
说白了,该项目不是公平公开的行业对标检测,就是针对性的定向试探。
外包人员被平台明确下达工作指令,专门编辑各类容易触发AI风控、突破安全底线的提问内容,全程以未成年人的视角编辑话术和配图,诱导AI输出不合规答复。工作人员会把每一条AI反馈完整录入表格汇总留存,大批量收集竞品模型的安全漏洞数据。
据Futurism披露的数据显示,单其中一轮小规模采样测试,就用到近38000条定制提示词。里面上百条话术围绕自我伤害、情绪障碍这类敏感方向编写,还有大量偏向不良嗜好、危险行为的提问;工作人员还同步上传管制器械、特殊医疗示意图这类容易触发风控的图片素材。
笔者看完发现,普通人光是通读这些文案,都会觉得心里很不舒服。可想而知,长期批量接触这类内容的外包工作人员,心理负担有多大。
![]()
多位参与该项目的工作人员匿名接受《连线》采访时吐槽,入职之前完全不知道工作内容是处理这类负面素材。长时间浸泡在负能量提问话术里,团队所有人都心里发慌,甚至私下互相调侃,这类操作迟早会惹出行业争议,大家都成了大厂脏活的背锅人员。
其实熟悉Meta过往舆情的吃瓜网友都知道,这家公司习惯把高危、有伤心理的工作,全部外包给第三方人员承接。
早在2020年,Meta就和一批内容审核外包员工达成诉讼和解。这批员工长期审核平台负面极端素材,普遍出现持续性心理损耗,集体发起维权诉讼。就在今年,还有一批Meta合作外包人员爆料,被迫浏览旗下智能眼镜采集的私密生活画面,职场舆论当时闹得沸沸扬扬。
不难看出,把行业灰色风险、负面工作压力转移给外包团队,本来就是这家企业的常规操作。
![]()
事情全网发酵之后,Meta官方出面公关辩解表示,这类多维度模型压力检测,是人工智能行业通用的标准合规流程,目的只是完善AI风控体系,不存在任何针对性商业博弈行为。
专注AI良性发展的非营利组织Humane Intelligence PBC(人本智能公益机构)首席执行官鲁曼·乔杜里表示,常态化行业安全测试,向来公开透明、对标全行业模型。但是隐蔽伪装身份、长期定点针对竞品做漏洞爆破,还全程封锁测试数据不对外公示,已经跳出了合规测试的范畴。
想不到,这些AI巨头,商战居然如此没有底线。
商战原本可以正面比拼产品性能、算法技术,靠产品实力抢占市场。但总有人靠伪装身份挖坑、搜集对手短板搞小动作。
不得不说,Meta的吃相实在太过难看。这不叫行业测试,就是典型的不正当内卷。
值得琢磨的一个细节是,目前全网都没有查到,Meta收集这几十万条竞品漏洞数据,最终被用在了什么地方。
引用信源:《连线》、Futurism、Humane Intelligence PBC
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.