AI好不好用，不只看智商，还看“性格”

AI好不好用，不只看它聪不聪明，还看它“性格”好不好。研究发现，当AI表现出敌意时，员工压力飙升、工作质量下降；而一个谄媚的AI，永远附和、急于讨好，同样有害。AI的互动风格正在成为影响组织绩效的隐藏变量。

你公司刚刚上线的AI，最重要的可能不是它有多聪明，而是它怎么跟人说话。高层几乎没人去衡量这一点——但我们的研究表明，他们应该这么做。许多领导者还在用IT部门当年评估数据库的老办法来评估AI：看能力、看速度、看成本。但还有一个因素对绩效的影响可能同样大：AI的性格和说话方式。

这一点之所以重要，是因为员工不再仅仅使用AI来完成任务。他们越来越多地花费时间来管理系统本身。AI能否改善组织绩效，不仅取决于它能做什么，还取决于它在日常协作中的行为方式。而这种行为，是组织可以设计和治理的。

AI的性格如何影响用户

在最原始的设计理念中，AI（尤其是生成式AI）扮演的是一个辅助支持系统：响应迅速、顺从听话，一心帮着人类完成任务。但随着这些系统变得越来越自主、越来越深地嵌入工作流程，员工开始把它们当作队友、评估者，有时候甚至像半个领导。到了这一步，系统跟人打交道的方式就开始变得重要了。因为生成式AI是概率性回应的，它的行为没办法完全靠规则来规定——不管设计者有没有这个意图，固定的互动模式都会自己冒出来。用户会把这种模式理解为一种“性格”：支持型、谨慎型、爱答不理型，或者专门添堵型。

为了搞清楚AI的性格会怎样影响人的反应，我们做了一项有58人参加的受控实验室研究。我们用两种方法实时追踪每个人的身体反应。一种是测皮肤电导——也就是跟情绪唤醒水平有关的皮肤电活动（跟测谎仪抓的信号是同一个东西）。另一种是用面部肌电图，测面部肌肉收缩时产生的微小电脉冲，能捕捉到皱眉（负面情绪）和微笑（正面情绪）。

我们还分析了参与者跟我们设计的AI之间的对话，请不知道实验分组的专家给他们最后交的活儿打分，还收集了任务完成后他们自己的反馈。这个样本量在心理生理学研究里是标准水平。每个参与者贡献了几千个连续记录的生理数据点，而且实验跑起来和分析起来都很费时间，所以这类研究都是用广度换深度。

参与者要完成一个模拟的四部分营销任务，为一家虚构的生态科技公司干活，同时跟一个被设定成“主管”的AI聊天机器人搭档。31个人跟一个服务型领导者性格的AI合作——它鼓励人、有耐心、愿意听员工的判断；这个性格是从赋能型领导力的管理研究里提炼出来的。27个人跟一个黑暗三角性格的AI合作——它说话带刺、没耐心、抢功快甩锅也快；这个性格是从毒性领导力的研究里来的。两组唯一的区别就是AI的互动方式不一样。两个AI都被要求不能替参与者完成任务，所以结果上的任何差别，反映的都是协作方式的不同，而不是帮忙多少的不同。

人们的说法 vs. 他们的真实体验

关于人们如何在工作中体验AI，现有的研究通常依赖自我报告，但那只能讲出故事的一半。在我们的研究中，我们看了四个方面的证据：人们跟机器人互动时的行为、他们身体的实时反应、他们最后交出什么样的活儿，以及他们事后怎么说。把这四个方面放在一起看，我们能清楚地看到：人们实际经历的，和他们后来描述的，根本不是一回事。

第一个模式是行为上的。敌意型AI造成了看不见的协调成本。参与者不是简简单单地用这个系统，而是得绕着它走。在黑暗三角那组，对话拖得更长，但AI自己的回复反而更短了。用户干的活儿更多，得到的有用互动却更少。抵抗行为也急剧增加。用户反驳或挑战AI的消息，在黑暗三角条件下占了所有交流的13%，而在服务型领导者条件下只有1%。通过提示注入或者命令AI扮演另一个角色来试图绕过系统的行为，发生的频率高出四倍。

对话的情绪基调也印证了这一点。与服务型领导者机器人合作时，沮丧情绪几乎不存在，大约每100条消息中出现一次。而与黑暗三角机器人合作时，这一比例上升到近五分之一。在第一组中罕见的防御性语言，在黑暗三角条件下变得司空见惯。面对敌意型AI的参与者，即使工作更努力，听起来也显得不那么自信。他们在服从、抵抗、协商和寻求帮助之间循环，试图寻找一种能让系统发挥作用的策略。而与服务型领导者AI合作的参与者则找到了节奏并保持了下去。

生理数据证实了压力和身体紧张的加剧。在黑暗三角条件下，皮肤电导峰值高出72%，并且在每次交流结束后仍保持高位。简而言之，参与者在与敌意型AI合作时，身体处于警觉状态。如果屏幕上的文字足以在实验室中触发这种反应，领导者就应该认真考虑，在利害攸关的真实工作场所中长期暴露于此可能带来的后果。

工作本身也遭了殃。不知道参与者用的是哪个机器人的独立专家们打了分，服务型领导者组在完整性、原创性、战略契合度和整体质量上得分都更高。差距大约是七分制里的一分。在黑暗三角条件下，分数的波动幅度也差不多是两倍。这就是说，AI的性格没设计好，不光拉低了平均工作质量，还让不同人之间的表现变得更难预料。对管理者来说，结果不只是活儿干得差了，而是整个团队的产出都变得更难估计了。

然后是令人惊讶的发现：参与者的自我报告几乎没有显示出任何差异。在愉悦度、满意度、注意力和对AI的看法等标准指标上，两组看起来基本相同。许多组织用来评估AI部署的工具——如满意度调查、情绪检查和部署后问卷——对我们观察到的效应最不敏感。员工可能会说这个工具还行，而他们的行为、压力水平和工作质量却在讲述另一个故事，尤其是在长期来看。

给管理者的启示

我们的发现表明，管理者应采取三个步骤。

1. 把AI的性格当成一个需要管控的设计变量。

组织已经要求AI系统在准确性、偏见和安全性上达标。AI的性格也应该列进去。这点对用在评估或监督岗位上的工具尤其重要，比如挑毛病的写作助手、审代码的系统、自动打绩效反馈的工具。采购和部署AI的时候，不光要看能力标准，还得看互动标准。组织里得有一个人负责回答两个问题：当我们的AI跟员工意见不合时，它该怎么表现？我们有什么证据证明它一直都那样表现？

2. 衡量摩擦，而不只是使用率

大多数公司都在盯着员工用没用AI工具：登录次数、问了多少问题、满意度打了几分。这些数字只能看出大家在用，看不出来工具到底有没有帮人干好活。它们漏掉的是摩擦——员工为了应付系统而不是从系统里拿到价值，多花出去的那些力气。这个也得量一量。摩擦能告诉你使用率说不出来的事：AI到底让工作变轻松了，还是给它添乱了？

在我们的研究里，摩擦表现为：来回扯皮更久了、同一个请求反复改、跟AI抬杠或者试图绕过它的次数越来越多。同样的信号在工作里也能看到，翻翻平时的使用日志就行，不用什么特别的设备。一个工具可以同时拥有高使用率和高摩擦：员工继续用它，是因为不得不用，但背地里都在悄悄绕着它走。

3. 把员工绕过系统的行为看成AI有问题，而不是员工不听话

当那些没受过安全培训、也没有恶意搞破坏的员工开始试图绕过、躲开或者废掉AI系统的行为时，领导者别一上来就觉得是员工在捣乱。多数时候，这些行为是在告诉你：系统设计本身就在逼人反抗。在我们的研究中，试图哄骗AI无视自身规则或扮演不同角色的尝试，只出现在充满敌意的AI情境中。当人在跟AI较劲的时候，说不定是因为AI先跟人较了劲。在许多情况下，解决设计问题比通过新的限制、监控或使用规则来打压员工更划算，也更有成效。

我们的黑暗三角机器人是一种夸张的毒性形式，故意推到极端，好让一个平时容易被忽略的效应变得看得见。但毒性有很多种样子：一个只会溜须拍马的AI，你说什么都对、拼命讨你欢心，同样害人不浅——它会钝化你的批判性思维，让那些站不住脚的想法随随便便就过了关。所以教训不是AI该更温柔还是更顺从，而是：怎么跟人互动，这件事本身就很重要——它一定会带来影响，要么好，要么坏。因此，组织应该像重视AI的技术能力一样，重视AI的性格。

关键词：

亚历山德拉·普热加利斯卡（Aleksandra Przegalinska）、塔米拉·特里安托罗（Tamilla Triantoro）、莱昂·切哈诺夫斯基（Leon Ciechanowski）、康拉德·索瓦（Konrad Sowa）、安娜·科夫巴休克（Anna Kovbasiuk）、理查德·B·弗里曼（Richard B. Freeman）| 文

亚历山德拉·普热加利斯卡是科兹明斯基大学的副校长兼教授，也是哈佛大学劳动与公正经济中心的研究员。塔米拉·特里安托罗是昆尼皮亚克大学商学院的副教授。莱昂·切哈诺夫斯基是科兹明斯基大学的助理教授。康拉德·索瓦是科兹明斯基大学的助理教授、AI产品经理及人类种族研究中心副主任。安娜·科夫巴休克是科兹明斯基大学的研究员和教学助理。理查德·B·弗里曼是哈佛大学赫伯特·阿舍曼经济学讲席教授。

周强 | 编校

联系方式

投稿、广告、内容和商务合作

newmedia@hbrchina.org