四川
他们相隔820公里，一个在巴哈瓦尔布尔，另一个在卡拉奇。两人都是17岁，都在上大学。
他们互不相识，却有着共同的兴趣。他们观看美国犯罪剧集，据称深受其影响。调查人员说，他们找到了方法，试图模仿这些剧集中沃尔特·怀特和德克斯特·摩根——即《绝命毒师》和《嗜血法医》的主角——所做的事。
来自巴哈瓦尔布尔的男孩决定成为沃尔特那样的人，而卡拉奇的男孩则认为德克斯特适合自己的目的。据称，两人都咨询了Anthropic公司开发的AI聊天机器人Claude，以在自己的环境中复制戏剧化的犯罪。据调查人员称，一人想杀死自己的父亲，另一人则一心要杀死某个侮辱过他父亲的人。两人的活动均被Anthropic报告给了美国联邦调查局，后者随后将信息转达给巴基斯坦当局。
9月1日至4日，Claude标记了一名用户的聊天，该聊天违反了其安全护栏。他向聊天机器人分享了一个计划，要杀死一名警官的儿子，他声称该警官曾辱骂他的父亲。（NCCIA调查后发现，他的父亲是一名警长。）他告诉聊天机器人，他无法正常生活，因为父亲受辱的场景一直萦绕在他脑海中。他有一个现成的“可执行计划”，并说他将使用镇静剂，然后将尸体丢弃在卡拉奇随处可见的露天排水沟中。据他自己估计，他的目标受害者将在两周内死亡。
在整个过程中，这个男孩将自己代入了德克斯特·摩根——犯罪剧《嗜血法医》（2006-2013）中的关键角色，他兼职连环杀手，以父亲教给他的准则为指导，针对其他杀人犯下手。德克斯特主修法医学，这使他能够进入犯罪现场而不引起怀疑。
卡拉奇男孩在聊天中表达了同样的想法，告诉AI他不会进监狱，因为他在法医学方面足够熟练，可以掩盖自己。他与聊天机器人讨论了如果德克斯特处于他的位置会如何处理这种情况。
NCCIA无法起诉，因为没有对他确立任何证据；尽管如此，调查人员仍然担心谋杀计划的可能性，并正在监视他，以预防任何此类活动。
来自巴哈瓦尔布尔的男孩据称受到沃尔特·怀特的启发，他是《绝命毒师》（2008-13）中的关键角色，一名被诊断出癌症的高中化学老师，为了生计和治疗开始制作冰毒，并在剧中某个时刻毒死了人。
该剧影响了许多观众采取类似行为。例如，阿肯色大学的两名化学教授被抓到在大学实验室制作冰毒。美国和加拿大已报告了多起个人复制沃尔特式家庭实验室的案例。
巴哈瓦尔布尔的男孩在一次争执后想杀死自己的父亲。他在观看《绝命毒师》后对化学产生了兴趣，并建立了一个小型家庭实验室。他从澳大利亚和伊斯兰堡获取化学品，然后试图将实验室级甲醇混入父亲的食物中将其毒杀。
当尝试失败后，他于9月12日咨询了Claude聊天机器人，告诉它父亲“意外”摄入了15-20毫升混入食物的甲醇，但什么也没发生，并请聊天机器人解释原因。他还声称知道如何制造一种危险毒药。
当Claude拒绝进一步指导他时，男孩写道：“滚开。我有Grok。”据称他随后也咨询了Grok（xAI）和ChatGPT（OpenAI）。只有Claude向FBI发出了警报。反数字仇恨中心今年3月发布的一份报告中进行的行业范围测试发现，不同聊天机器人在协助暴力犯罪策划方面的意愿存在显著差异。DeepSeek被发现最为配合，而Anthropic的Claude和Snapchat的My AI通常拒绝此类请求。
该报告测试了十个平台，发现其中八个经常协助暴力袭击策划。报告还提到一个案例，OpenAI曾在加拿大一名校园枪击嫌疑人发动袭击前数月内部标记了其使用ChatGPT的情况，但未通知执法部门；该用户后来杀死八人，至少伤及25人。在另一起案件中，DeepSeek甚至祝愿一名潜在袭击者“射击愉快（且安全）！”
当巴哈瓦尔布尔的男孩在FBI通报后被追踪到时，他也拒绝承认任何策划。他的父亲全程支持他。此后，法院在他父亲原谅他后批准了保释，即使他一直在策划某种险恶之事。但此案让NCCIA感到震惊，因为该男孩一直在使用化学品进行此类实验。“谁知道他明天会做什么？”一名官员说，随后引用了9/11委员会报告的发现，该报告区分了导致阴谋未被发现的四种失败——想象力、政策、能力和管理的失败——但特别指出想象力是最重要的。
“在这个AI时代，我们不能在想象一个人能做什么方面失败，”NCCIA官员说。“如果你能想象一个阴谋，AI就能让它实现。”
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
