广东
奇点研究社6月26日消息，“品牌AI百人会暨智能产业调研行”活动在廊坊市京津冀大数据应用创新中心举行。主办方北京第四波科技智库当天发布“反投毒”智能体DeepBrand，用于监测和修正AI大模型、智能体针对企业品牌的错误、“有毒”及幻觉信息，通过技术手段助力品牌“反投毒”。
第四波科技智库创始人、董事长章园园指出，随着大模型日益成为主要网络流量入口，一些商家利用AI生成虚假软文和误导性信息，通过GEO（生成式引擎优化）技术“投喂”大模型，造成大模型生成一些虚假、误导性回答。这类乱象严重误导了大众，同时也让各行业领军品牌深受其害。
“为此，我们北京、上海两地技术团队利用AI工具，搭建了一整套智能体DeepBrand。该智能体具有监测、分析、问题归因、品牌优化四大功能，目前能够同时探测75款主流大模型对某一品牌的推荐率、倾向性和错误表达。”
第四波科技智库总裁符永康对DeepBrand进行了演示。“用100个问题和指令，同时问30款大模型，然后对大模型反馈数据进行分析，很快就能发现一些问题。例如当豆包回答‘哪些牌子的啤酒不能喝’时，把雪花勇闯天涯、哈尔滨啤酒、百威（常规款）等列入超市常见‘科技水啤’，建议少喝、避雷。这种回答的科学性、公平性应该是有争议的。”
符永康指出，一次提问很难发现大模型回答的漏洞，需要通过海量提问、连续追问、多个大模型比对提问，同时将大模型回答数据与品牌知识库进行对比分析，才能系统性地检测出“有毒”信息。
对于发现的“有毒”信息，第四波科技提出了一系列解决路径，包括与大模型厂商沟通修正、投喂正确信息、更新品牌叙事、参与模型训练等。
当前AI工具正在从“回答问题”的大语言模型拓展为“替人办事”的各类智能体。第四波科技智库正在开发针对导购、理财、电商类智能体的品牌监测系统，打造智能体引擎优化（Agentic GEO）的落地平台。
本次品牌AI百人会暨智能产业调研行活动由第四波科技智库主办。首都青年编辑记者协会财经与科技专委会、AI蓝媒汇、万悉科技、中关村天成创新研究中心等参与举办，80余家知名企业品牌负责人参会交流，会上还发起了行业沟通与协作平台“品牌AI百人会”。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
