北京
一架无人机决定杀死一个人。
这不是科幻电影的情节，也不是什么思想实验。据《新科学家》杂志报道，乌克兰战场上，10架AI控制的四旋翼无人机在完全没有人类干预的情况下，自主搜寻、锁定并攻击了目标，导致俄罗斯士兵死亡——这是人类历史上首次确认的、由完全自主武器系统执行的致命攻击。
※ 《新科学家》报道页面
乌克兰国防工业资深人士Alexander Kokhanovskyy向《新科学家》披露了细节：这次测试发生在两年前，地点在巴赫穆特和恰西夫亚尔附近的前线。无人机被设定为飞行3到5公里，大约10分钟后进入「终结者模式」——一个AI模型接管一切，搜索并拦截目标。
他的原话比任何分析都更有冲击力：「我们只需要发射它，就知道那里的一切都会死——在那个特定区域里被发现的一切都会死。无人机没有任何连接，你看不到视频，什么都没有……它看到的一切都会被杀死。」
没有视频回传，没有遥测数据，没有任何人类可以介入的窗口。操作者能做的唯一的事，就是等无人机飞完之后，派人去查看结果。他们确认了几名士兵和一辆卡车被摧毁。
当然了，这件事最值得玩味的地方在于，Kokhanovskyy自己并不在现场。他是通过他人转述得知这一切的。一个关于「机器自主杀人」的事件，连亲历者都不是讲述者本人——某种意义上，这恰好是整件事的隐喻：当开火权交给算法，连「谁扣了扳机」都变成了一个无法追溯的问题。
乌克兰政府目前禁止在武器系统的最终攻击阶段使用AI，但Kokhanovskyy透露，政府正在与国防公司讨论是否放宽这一限制。换言之，那10架无人机的「终结者模式」很可能只是一个开始。
这其实不是自主武器第一次出现在公众视野。2021年联合国的一份报告曾指出，土耳其制造的Kargu-2四旋翼无人机可能曾在利比亚自主攻击人类，但当时既没有确认伤亡，也没有任何当事人站出来承认。这一次不同——有人开口了，有人确认了死亡，时间、地点、技术细节都对得上。
牛津大学的Mariarosaria Taddeo说了一句很直白的话：「用AI杀人剥夺了士兵的尊严，消除了攻击者的责任，必须被禁止。问题不只是有问题，而是可怕。我们想成为一个允许政府在没有人类参与的情况下杀人的社会吗？」
※AI战场杀戮（AI生图）
但埃克塞特大学的Anthony King给了一个更冷峻的判断：保留人类参与循环，目前不仅是伦理上正确的做法，在军事上也更有效。俄乌战场上数以百万计的无人机中，几乎没有任何一架是完全自主的。
这或许才是真正让人不安的地方——不是AI已经足够强大到可以取代人类决策，而是有人已经在AI还不够强大的时候，就迫不及待地交出了决策权。Kokhanovskyy说那次测试之后，项目因为乌克兰的法规而停滞了。但他同时说，政府正在讨论是否放宽规则。
当杀戮变得廉价且无需承担心理负担，门槛只会越来越低。
（完）
报道来源：https://www.newscientist.com/article/2529849-fully-autonomous-drones-have-killed-human-soldiers-for-the-first-time/
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
