网易首页 > 网易号 > 正文 申请入驻

「不是,而是」:AI写作留给文字世界的特洛伊木马

0
分享至


本文来自微信公众号: 显影笔记 ,作者:MengZhi,原文标题:《「不是,而是」:AI写作留给文字世界的特洛伊木马》

上个月24日,投资人Druckenmiller在《华尔街日报》发表了一篇对于美国财政部债务回购政策的评论文章,反复使用的"不是,而是"让读者嗅到了AI写作的讯号。随后,Druckenmiller被迫承认使用了AI工具。承载了审慎思考的句式被AI占用,而人类编辑的把控在失效。一个新的问题出现:谁来为内容的可信度负责?

01

一个正在被察觉的AI写作“诡计”

最近,我开始在写作中有意识的避免使用“不是…而是…”的句式,甚至还减少了文章中的破折号。这两个形式正在快速成为AI写作的标识。根据巴伦周刊报道,过去2年,“不是,而是”的句式,在美国大型企业文件中的使用频率忽然翻倍增长,已达到历年的4倍以上。

上个月24日,投资人Stanley Druckenmiller发布在《华尔街日报》Opinion版面的署名文章,可谓对这一数据变化的亲身演绎,开篇即塞进了3次否定排比与并列句,也让读者察觉出AI写作痕迹。


“没有流拍,没有交易商资产负债表挤兑,没有强制平仓,没有任何类似2020年3月美债或2022年9月英国国债那种真正功能失调的情形,那种情形才配得上官方出手。波动得到了控制,交易井然有序——不是故障,而是机器在完成它的工作。”

学者Claudia Sahm使用检测工具Pangram分析,显示这篇内容为100%的AI写作。随后,Stanley Druckenmiller不得已承认使用了AI工具,但否认完全由AI代笔。

熟悉的句式结构被AI“挪用”,读者对于写作的信任也在坍塌,连表达者想要主张的观点也在失焦。就像诺兰电影《奥德赛》中的剧情,当特洛伊遭遇了“木马计”以后,每一次陆地居民看到“海上来的人”,感受到的是恐慌。

02

同一种句式,AI的写法为何让人不适?

“不是,而是”,是人类太过熟悉的表达。它通常服务于上下文全局,先否定一个默认的共识、一项误解,再给出一个判断、一项事实,展现了“一破一立”的叙事智慧。

这样的表达方式,承载了与信任相关的演说、社论、报告,成为了人类的集体记忆。其中,就包括了美国前总统肯尼迪1962年的“阿波罗登月计划”演讲。

这篇长达15分钟的演讲中,“不是,而是”的句式只被使用了1次,成为全篇点睛之笔——我们选择登月,不是因为它容易,而是因为它艰难。这句话高度凝聚了“迎难而上”的精神,驳斥了“安于现状”的幻想,让普通百姓也听懂了举国力支持登月探索的意义。

如今,AI Chatbot 10秒不到即可生成5次“不是,而是”。语气似人非人,无差别使用,仿佛是永动机器的产物。甚至,它不关心在前文刚刚说过什么,不了解现实世界中是否有误解需要推翻,有时候还会虚设一个不存在的反驳目标。

03

“不是,而是”背后的技术原理和商业权衡

在AI生成的内容中,“不是,而是”句式使用的方式五花八门,尚无一个放之四海而皆准的成因答案。但是,从模型的训练数据、训练机制,到生成机制来看,不难展开推测——

1.训练数据:“不是,而是”一直存在于优质内容范例中,作为递进式的洞察引导,比如前面提到的肯尼迪的“登月计划”演讲。对于大语言模型(LLM)来说,在最初的训练数据中即开始大量接触这一“句式”。

2.训练机制:AI对于这一句式的过度使用,则可能来自于后训练阶段的RLHF(基于人类反馈的强化学习)。石溪大学研究AI写作的计算机科学助理教授Tuhin Chakrabarty就对《大西洋周刊》表达过类似观点。

首先,这种结构层次分明、语气笃定的表达,很可能从一开始就赢得了人类标注者的高分评价。到了RLHF阶段,通常会使用一个代表人类偏好的“奖励模型”作为评审,对策略模型进行训练。当“奖励模型”进一步认可了“不是,而是”,就会强化LLM的相关表达,甚至可能被Reward Hacking。

3.生成机制:LLM的内容生成,本质是在做“下一个词的预测”。它结构完整、语义畅通,但无法保证每一句话出现在文章中恰到好处的位置,每一种句式以最适当的频率出现。于是,就出现了AI写下无数个“不是,而是”,而缺乏适当“呼吸与留白”,进一步造成了阅读体验的不适。

此外,在模型厂商的战略能力布局层面,Coding才是核心战场,写作从来不是产品重心。今年年初,Sam Altman回应GPT-5写作质量下滑的问题时表示:OpenAI把5.2版本的绝大部分精力放在了使其具备超强智力、推理、编程和工程的能力上。

04

这是一个产品技术问题,还是信任问题?

技术原因不难推演。值得思考的是,这座“特洛伊木马”应该被放行吗——那些不经披露、未经验证的AI写作,一次又一次冲击内容信任的行为。

因此,这也绝对不仅仅是一个“技术和产品够不够完美”、或者“如何做好Harness”的问题,它指向了「AI治理」。

2026年以来,以长文写作为主要载体的互联网社区,正在采取限制,避免AI冲击平台的信任根基:Substack、Quora上线了AI内容检测功能;Linkedin在8月份上线了对于“疑似AI创作”的举报,停用了AI写作优化功能。回顾近几年,这几大平台都在一定程度上遇到了“AI Slop(垃圾内容)”的困扰。

在围绕公共利益相关的内容主题,8月2日,欧盟《人工智能法案》第50条透明度规则正式生效。它在具体要求中提到,“其部署者须披露该文本系经人工智能生成或操纵”。

“不是,而是”句式的泛滥,用阅读体验上的“刺痛”,让我们有机会重新审视效率“野心”之下,人与AI的能力边界,思考在公开写作中,发布者需要承担的披露与内容责任。

管理AI所带来的内容信任冲击,行动才刚刚开始。也许就像1940年,英国在二战中取得阿拉曼战役大捷后,丘吉尔在演讲中所说的:这不是结束,这甚至不是结束的开始,但这毕竟是开始的结束。Now this is not the end.It is not even the beginning of the end.But it is,perhaps,the end of the beginning.

显影笔记

围绕人与技术,关注那些永恒不变的主题。追踪生成式人工智能时代的技术信任、人机合作边界;探索现象和叙事之下,那些尚待「显影」的逻辑。

封面图:The Procession of the Trojan Horse into Troy,Giovanni Domenico Tiepolo。

参考资料:

·It’s not just one thing—it’s another thing,TechCrunch

·Billionaire Stanley Druckenmiller’s WSJ Op-Ed Criticizing Bessent Was Written With AI,NOTUS

·The Most Famous AI Writing Tic Is Also the Most Mysterious,The Atlantic

·LinkedIn adds a button to report AI-generated‘slop’,TechCrunch

·Article 50:Transparency obligations for providers and deployers of certain AI systems

本内容由作者授权发布,观点仅代表作者本人,不代表虎嗅立场。如对本稿件有异议或投诉,请联系 tougao@huxiu.com。

本文来自虎嗅,原文链接:https://www.huxiu.com/article/4890032.html?f=wyxwapp

特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。

Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.

相关推荐
热点推荐
小马科斯要气的急眼了!菲律宾总统府突然发了一份声明,新闻官卡斯特罗说得直白:“本届政府绝不允许警察部队被用作任何形式的暴力武器”

小马科斯要气的急眼了!菲律宾总统府突然发了一份声明,新闻官卡斯特罗说得直白:“本届政府绝不允许警察部队被用作任何形式的暴力武器”

将死蝴蝶标本吻l
2026-09-09 14:57:17
阿莱格里前4场就遭遇三连败,孔蒂在那不勒斯两年也没有过

阿莱格里前4场就遭遇三连败,孔蒂在那不勒斯两年也没有过

懂球帝
2026-09-10 08:39:38
新一轮事业单位改革:三类人可转参公,四类人员统一分流安置

新一轮事业单位改革:三类人可转参公,四类人员统一分流安置

职场资深秘书
2026-09-10 17:16:20
世界名画来了!古有大罗造世纪双铲,今有拉菲看双人“划船”

世界名画来了!古有大罗造世纪双铲,今有拉菲看双人“划船”

南方都市报
2026-09-10 18:56:27
网传限制员工如厕说法不实!涉事公司致歉:事件已妥善解决

网传限制员工如厕说法不实!涉事公司致歉:事件已妥善解决

快科技
2026-09-11 00:32:12
新华社消息|2026年APEC工商领导人峰会将于11月17日至18日在深圳举办

新华社消息|2026年APEC工商领导人峰会将于11月17日至18日在深圳举办

新华社
2026-09-10 21:08:06
深圳开始取消保障房了

深圳开始取消保障房了

小蔡观房
2026-09-10 11:36:10
11投16分!亚运会发威!北京队的顶薪核心后卫

11投16分!亚运会发威!北京队的顶薪核心后卫

篮球实战宝典
2026-09-10 19:47:16
高圆圆自曝婚后数年很痛苦:不是嫁错人,而是无数女人都懂的"身份失重"

高圆圆自曝婚后数年很痛苦:不是嫁错人,而是无数女人都懂的"身份失重"

未曾青梅
2026-09-09 22:48:49
俄外长建议牢记普京的话:若欧洲攻击俄罗斯,战争将“非常短暂”

俄外长建议牢记普京的话:若欧洲攻击俄罗斯,战争将“非常短暂”

俄罗斯卫星通讯社
2026-09-10 15:15:28
坎迪尔,遇袭身亡

坎迪尔,遇袭身亡

第一财经资讯
2026-09-11 00:34:52
过期1天也要扔!家中此物毒性最大

过期1天也要扔!家中此物毒性最大

三农老历
2026-09-08 18:10:24
再赠一年:苹果第三次延长iPhone 14/15/16系列免费卫星通信服务

再赠一年:苹果第三次延长iPhone 14/15/16系列免费卫星通信服务

IT之家
2026-09-10 14:18:10
宇树科技再创新低,今天跌到了498,上市17个交易日大跌55%!

宇树科技再创新低,今天跌到了498,上市17个交易日大跌55%!

财经智多星
2026-09-10 11:09:13
《街霸》电影春丽演员苦练大腿!每天狂吃12个鸡蛋

《街霸》电影春丽演员苦练大腿!每天狂吃12个鸡蛋

3DM游戏
2026-08-29 11:32:21
48亿,LV买下HYROX,王健林狠赚一笔

48亿,LV买下HYROX,王健林狠赚一笔

融资中国
2026-09-10 11:46:21
苏州一对情侣,谈了7年,女子提了18次分手,分手后在街头痛哭!

苏州一对情侣,谈了7年,女子提了18次分手,分手后在街头痛哭!

川渝视觉
2026-04-17 22:13:14
又是2-0领先被逆转!21岁的陈熠,为何总在关键时刻“差点意思”

又是2-0领先被逆转!21岁的陈熠,为何总在关键时刻“差点意思”

好球去哪了
2026-08-06 20:09:39
40万亿美债压顶,美国终于想明白了:把中国踢出美元体系等于自杀

40万亿美债压顶,美国终于想明白了:把中国踢出美元体系等于自杀

麓谷隐士
2026-09-11 00:05:07
9月1日房产新规:房产证写谁名字不重要,6条新规刷新认知!

9月1日房产新规:房产证写谁名字不重要,6条新规刷新认知!

你在偷看谁
2026-09-08 20:55:23
2026-09-11 01:32:49
虎嗅APP incentive-icons
虎嗅APP
个性化商业资讯与观点交流平台
27737文章数 688062关注度
往期回顾 全部

科技要闻

一文看懂:iPhone折叠屏顶配2万6,10月才卖

头条要闻

外媒:伊朗捕获美国"大鱼"后发了条消息 令五角大楼受挫

头条要闻

外媒:伊朗捕获美国"大鱼"后发了条消息 令五角大楼受挫

体育要闻

16岁的国产小库里,还有多少功课要做

娱乐要闻

参加晚宴,刘亦菲因合照深陷争议

财经要闻

向松祚:年轻人不必过早买房

汽车要闻

标配全线控底盘 全新一代智己LS6预售20.99万起

态度原创

艺术
游戏
数码
时尚
公开课

艺术要闻

教师节 | 中国著名油画家们的老师

R星下一作是《荒野大镖客3》?怕不是又要等10年

数码要闻

产品线调整+存储涨价 三星Tab S12系列海外售价抬升

“蛇精”围攻,葫芦爷爷求饶

公开课

李玫瑾:为什么性格比能力更重要?

无障碍浏览 进入关怀版