北京
中国社会科学报综合报道 你愿意让人工智能给你提供道德建议吗？大多数人可能会说不。但美国宾夕法尼亚大学沃顿商学院的一项新研究显示，只要亲眼看到人工智能给出的建议具体是什么样子，人们的态度就会发生明显变化。
这项发表于《科学报告》期刊的研究，由该校沃顿商学院运营、信息与决策系教授兼系主任克里斯蒂安·特维施（Christian Terwiesch）、市场营销学副教授吉迪恩·纳夫（Gideon Nave），以及沃顿商学院生成式人工智能实验室首席研究员伦纳特·迈因克（Lennart Meincke）共同完成。
研究团队以《纽约时报》杂志的伦理专栏“伦理学家”为参照。该专栏由美国纽约大学哲学系与法学院教授奎迈·安东尼·阿皮亚（Kwame Anthony Appiah）主笔，回答读者提交的道德困境和人际矛盾问题。研究者收集了20组已发表的专栏问答，然后让ChatGPT-4在模仿阿皮亚写作风格的前提下，针对同样的问题生成人工智能版本的回答。为确保公平，参与者无从知晓建议出自人类还是人工智能。
第一项实验招募了三组参与者：伦理专家小组、沃顿商学院工商管理专业的学生和来自专业调研平台Prolific的普通公众。所有参与者对人工智能回答的总体评分都较高，57%的人更倾向于人工智能生成的建议。即便是伦理专家，在不知来源的情况下，也同样认为人工智能的回答质量非常高。
研究团队随后进行第二项实验，测量人们对人工智能的信任度是否可以被改变。近650名新参与者被分为三组：第一组先阅读道德困境的描述，但未看到任何建议，就要直接表态更愿意接受来自“人类”还是“人工智能”的建议。结果显示，72%的人不愿接受人工智能的建议。第二组在同时看到人类和人工智能的具体回答后，被告知哪条是人工智能生成的，不愿接受的比例降至53%。第三组同样看到两类回答但不告知来源，比例进一步降至46%。
迈因克解释说，偏好人类回答的比例之所以下降，是因为参与者看到了人工智能的实际表现后，原有的“算法厌恶”随之减弱。所谓“算法厌恶”，是指人们对算法或人工智能作出的判断普遍持怀疑态度，认为机器不如人类可靠。特维施则指出，人类内心有一种对“人”的天然偏好。人们希望听其他人类创作的音乐，读人类写的书，寻找一个经历过痛苦、爱情、体验过生活的人。一个从未“活过”的计算机如何能真正理解人类的挣扎？这种天然的迟疑恰恰让研究结果更显惊人。
研究者承认，人工智能的道德建议远非完美。沃顿商学院生成式人工智能实验室联席主任伊桑·莫利克（Ethan Mollick）等人就发现，通过特定提示，人工智能可以被诱导给出有问题的回答。特维施对此并不回避，在他看来，正因如此，人工智能更需要被负责任地开发和使用。但特维施认为，这项研究的真正价值，在于让每个人都能在需要时获得高质量的道德建议，并且能借助人工智能从多元立场来审视同一个问题。在立场日益分化的当下，这种跨越视角的能力，本身就是一种值得重视的公共对话资源。
何霄/编译
来源 ： 中国社会科学报
责任编辑： 赵琪
新媒体编辑：程可心
如需交流可联系我们
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
