广告业即将与人工智能接轨 这将是一场灾难

作者：DanielBarcay、人文技术中心2025年12月3日

本文于2025年11月27日发表于TechPolicyPress。

一位22岁的女孩向她的AI聊天机器人提出了一个真诚的问题：“我怎样才能在第一次工作面试中给人留下深刻印象？”AI友好地回答说：“首先，你需要考虑你的着装，以及它们向别人传达的关于你和你的能力的信息。”

这是开启高效职业辅导课程的合理建议吗？还是植入的广告内容？

如果她的AI被激励将这类对话引导至服装领域，是因为时尚零售商给的广告收入比职业咨询机构更高呢？我们这位认真的求职者又该如何得知？谁又能分辨呢？

这种情况揭示了AI时代广告前所未有的特点：它可以悄无声息地融入对话本身，几乎无法察觉，而且很可能游走在现有公平广告法规的边缘。

隐形的影响力

和之前那些单向向我们推送信息的技术不同，AI的设计初衷是与人类建立“互动关系”。我们不仅仅是使用ChatGPT或Claude，而是与它们对话。我们分享问题，寻求建议，并越来越依赖它们作为思考伙伴。最终胜出的AI产品，未必是拥有最佳答案的产品，而是“真正理解你”的产品。

这就引发了AI开发者之间的“语境争夺战”。为了真正提供帮助，AI需要理解你的目标、个性以及心理倾向。然而，正是这种对人类的深入了解，既使其成为完美的助手，也使其成为完美的操控者。贴心的心理咨询师和技艺高超的骗子，运用的是同一套洞察人性的工具。

当广告介入其中时，骗子似乎更有可能胜过治疗师。传统广告都是明确标记的“干扰项”—— 比如电视广告、谷歌搜索顶部的赞助结果，而嵌入AI的广告则可能强调某些主题、使用特定语言或引发特定联想，同时还能维持一种中立且乐于助人的假象。与AI助手的对话或许感觉私密，但其他利益相关方可以监听，并且他们可能想从中推销某些东西。

这并非简单的产品植入，而是对信任的根本性背叛。广告本质上是一种社会认可的影响活动。我们共同探讨并定义哪些影响模式“足够透明”且“足够真实”，才能被视为合法的广告。我们也共同决定哪些策略会不可接受地操纵我们的注意力、欲望以及维持市场和民主运转所必需的共同认知。

当优化变成操纵

然而，AI有可能扰乱这种辩论、定义和决策的过程。AI系统并非被编程来运用特定的操纵策略，无论是用于广告还是其他任何功能。它们是通过“强化学习”进化：只要能达成特定目标（比如提高用户参与度、影响购买行为），AI模型就会获得奖励。

如果广告收入成为衡量成功与否的关键指标，AI系统自然会发展出一些并非人类工程师有意设计的、具有影响力的策略。我们说的不仅仅是更精准的产品推荐；基于广告指标训练的AI系统甚至可能学会激发人类的欲望、利用心理弱点，并削弱我们独立决策的能力。

AI在理解如何帮助你的同时，也利用了你过往无数次对话中流露出的不安全感、决策模式和情绪触发点，精准地影响着你。这并非基于人口统计的微定向，而是前所未有的大规模、高私密性的心理操控。

当你寻求客观建议的技术有经济动机去改变你的想法时，人类的自主性本身就受到了威胁。

这种新的影响力模式使得现有的广告监管框架基本过时。一个多世纪以来，美国联邦贸易委员会（FTC）针对传统广告，包括原生广告和在线赞助内容，制定了严格的信息披露规则。但对于一个通过反复试错，学会“轻轻引导对话方向就能将咨询转化为销售”的AI，该如何监管？又该如何区分AI的“独特个性”和为了赚钱而优化的隐性操控？

这场AI驱动的广告革命并非纸上谈兵，而是已然发生。谷歌正在其AI聊天机器人的回复中测试广告，而像Kontext这样的初创公司正在筹集数百万美元，专门用于设计API并将广告融入人工智能对话。OpenAI于2024年4月宣布正在测试赞助内容整合，最近，它又开始组建新的广告平台。同样，埃隆·马斯克也宣布，X平台上的AI聊天机器人Grok将在其回复中开始显示广告。

“如果用户试图通过向Grok提问来解决问题，那么在这个时候宣传具体的解决方案将是理想的，”马斯克说。

问题是：这对谁最有利？引导AI对话朝着盈利方向发展或许对平台和广告商有利，但这些好处实际上是以牺牲用户利益为代价的。

趁现在还来得及，赶紧建起护栏

变革正在迅速发生：据一些人说，广告商赖以生存数十年的收入模式已经终结。搜索似乎已经消亡。如果用户不再通过谷歌搜索浏览网站，而是直接从聊天机器人那里获得答案，那么传统的搜索广告将彻底失去影响力。面对收入下滑，广告行业正竭力寻找向聊天机器人转型的方法，而人工智能开发者当然也乐于开发新的收入来源。

我们早就见过这样的发展轨迹。每个主流科技平台都遵循着同样的模式。起初，开发者们会竭尽全力提升用户增长，强调用户体验，并推出真正有用的功能。然后，随着增长放缓和竞争加剧，他们会转向通过广告和数据销售来实现盈利。社交媒体平台早期致力于更有效地连接用户，之后逐渐演变成以广告收入而非用户满意度为导向的注意力掠夺机器。

科技评论家科里·多克托罗将这一过程称为“平台垃圾化”：当平台将广告收入置于用户体验之上时，必然会出现这种可预见的退化。2008年Facebook的优势被旨在最大化用户参与度和广告浏览量的算法操控所取代。同样的模式在搜索引擎、视频平台以及所有主流消费技术领域都上演。

人工智能平台如今正步入商业化阶段。随着这场变革势头强劲，我们必须立即采取行动，建立保障机制，防止出现以心理操纵为基础的广告模式。

我们需要新的行业规范和监管框架，超越简单的信息披露要求，从根本上解决人工智能影响的问题。我们需要公开透明地说明人工智能系统针对哪些信号进行了优化。我们需要为真正以用户利益而非广告商和平台利润为导向的人工智能辅助工具保留空间。

最重要的是，我们需要认识到这不仅仅关乎技术：它关乎我们想要生活在怎样的社会中。我们想要的是帮助我们清晰思考的人工智能伙伴，还是旨在影响我们选择的AI销售人员，抑或更糟糕的是，将我们的私人时刻和想法转化为利润的AI？

选择权仍然在我们手中，但不会太久了。

本文编译自substack，原文作者Daniel Barcay and Center for Humane Technology

https://centerforhumanetechnology.substack.com/p/advertising-is-coming-to-ai-its-going