未来战争，是否由杀手机器人主宰？

源济

未来战争，是否由杀手机器人主宰？

Original Jeremy Kahn 财富FORTUNE  2022-04-04 08:00

乌克兰基辅街头，装有爆炸物的无人机像死鱼一般肚皮朝上躺在地上，发出刺耳的噪音，尾部螺旋桨已经变形。这架无人机携带的致命爆炸物并未引爆，坠毁原因可能是故障或者被击落。

这架无人机的照片很快被上传到社交媒体，有武器专家确认这是由俄罗斯的武器制造商卡拉什尼科夫集团（Kalashnikov）的无人机部门扎拉航空（Zala Aero）生产的KUB-BLA“巡飞弹”。这类巡飞弹俗称“自杀式无人机”，可以自动飞到指定区域巡航最长30分钟。

无人机操作员能够远程监控其拍回的视频，等到地面出现敌军士兵或坦克时发起攻击。在某些情况下，无人机会安装人工智能软件，使其可以根据输入到机载系统的图像猎杀指定目标。无论在哪种情况下，只要无人机发现敌人并且操作人员选择攻击，无人机就会朝目标俯冲而下，然后爆炸。

俄乌战场成为日益先进的巡飞弹的重要试验场。这引起了人权活动家和技术人员的警惕。他们担心，这代表战场上利用“杀手机器人”的时代即将来临。这些由人工智能控制的武器会在没有人类决策的情况下自动猎杀人类。

随着这项技术的快速完善和成本下降，它引起了各国军队的密切关注。小型半自动无人机的卖点在于，它的价格只有体型更大的“捕食者”（Predator）无人机的几分之一，而且不需要由经验丰富的飞行员远程操控。“捕食者”无人机的价格可能高达数千万美元。步兵只要接受一点培训，就能够轻松使用这些新型自动化武器。

海豹突击队（Navy SEAL）的前队员、美国Shield AI公司的联合创始人及首席增长官布兰登·曾说道：“‘捕食者’无人机价格过于昂贵，因此各国开始思考：‘能否用体积更小、价格更低的无人机实现98%的作战效果？’”Shield AI公司致力于生产小型无人侦察机，使用人工智能进行导航和图像分析。

但人权组织和一些计算机科学家却担心，这项技术将给战区的平民甚至整个人类带来新的严重威胁。

国际特赦组织（Amnesty International）的高级顾问维里蒂·科伊尔称：“目前的巡飞弹还有人类操作人员负责决定攻击目标，但取消人类操作并不难。一个巨大的威胁在于，如果没有清晰的法规，也就无法明确使用无人机的红线在哪里。”国际特赦组织参与了停止杀手机器人（Stop Killer Robots）活动。

联合市场研究公司（Allied Market Research）预测，全球人工智能驱动的各类致命武器市场发展迅速，其规模将从今年的近120亿美元，增长到这个十年底的300亿美元。Grand View Research公司表示，仅美国目前每年在巡飞弹方面的支出就高达约5.8亿美元，到这个十年底将增加到10亿美元。

从事巡飞弹生产的以色列国防公司UVision的国际销售与营销总监达干·勒夫·阿里表示，最初巡飞弹需求增长缓慢，直到2020年亚美尼亚与阿塞拜疆爆发冲突。当时阿塞拜疆使用先进无人机和巡飞弹摧毁了亚美尼亚的大量坦克和火炮，帮助其取得了决定性的胜利。

勒夫·阿里指出，那场战争让许多国家对巡飞弹产生了兴趣。美国开始大规模采购，包括UVision的“英雄”（Hero）系列自杀式无人机，以及由美国公司AeroVironment生产的“弹簧刀”（Switchblade）无人机，也推动了该市场的增长。勒夫·阿里补充道，俄乌冲突加快了需求增长速度。他说：“人们突然发现欧洲可能爆发一场战争，国防预算不断增加。”

巡飞弹的价格虽然低于某些武器，但实际上并不便宜。例如，有报告称，一架“弹簧刀”无人机包括发射控制系统和弹药在内的价格高达7万美元。

据称美国将向乌克兰提供了100架“弹簧刀”无人机。这些“弹簧刀”将作为乌克兰现有的土耳其造Bayraktar TB2无人机的补充。Bayraktar TB2无人机可以自动起飞、降落和巡航，但需要由人类操作人员寻找目标和发出发射机载火箭或投弹的命令。

巡飞弹并不是新鲜事物。最早的巡飞弹能够追溯到20世纪60年代，当时的飞航式导弹可以飞到指定区域搜索敌军防空系统的雷达信号。区别在于现在的巡飞弹技术更复杂、更准确。

理论上，人工智能武器系统能够减少战场上的平民伤亡。计算机处理信息的速度比人类更快，并且不会受到战斗带来的生理和情绪压力的影响。在激烈交火中，计算机还可以更准确地判断房子后面突然出现的是敌军士兵还是一名儿童。

但人权活动家和许多人工智能研究者却警告，面对是否要扼杀一个人的生命这个对所有人而言都最重要的决定，今天基于机器学习的算法在实践中并不值得信任。图像识别软件在某些测试中虽然能够媲美人类的能力，但在许多现实场景中，比如雨天或雪天环境，或者在光影对比明显的环境下，这类软件有明显的不足。

它经常会犯一些人类从来不会犯的稀奇古怪的错误。例如在一次试验中，研究人员成功欺骗了一个人工智能系统，通过微调图像的像素图案，使系统把一只乌龟识别成一把步枪。

即使目标识别系统可以做到完全精确无误，自动武器依旧会带来严重的威胁，除非它能够理解整个战场上的细微差别。比如，人工智能系统可以准确识别敌军坦克，却无法理解它停靠的地点在一家幼儿园旁边，为避免平民受伤不应该发动攻击。

支持禁止使用自动武器的人们还强调了“杀戮机器人”的危险，例如大量价格相对低廉的小型无人机群经过改造能够投放具有杀伤性的手榴弹，或者改造成巡飞弹。理论上，这类无人机群可以用于杀死某个区域内的所有人，或者实施种族灭绝，杀死具有某类种族特征的所有人，甚至能够利用面部识别技术来执行暗杀。

麻省理工学院（MIT）的物理学教授、生命未来研究所（Future of Life Institute）的联合创始人马克思·泰格马克表示，成群结队的杀戮机器人将成为“穷人的大规模毁灭性武器。”生命未来研究所致力于解决人类面临的“生存风险”。这类自动化武器可能动摇现有的世界秩序，因此他希望美俄等大国至少可以同意禁用这类杀戮机器人无人机和巡飞弹，尽管这些国家一直在研发从机器人潜艇到无人驾驶战机等各种人工智能武器。

联合国（United Nations）希望出台禁令，限制致命自动化武器的开发和销售，但到目前为止以失败告终。联合国下属的委员会用超过八年时间，讨论如何处理这类武器，始终未能达成任何共识。

虽然现在有66个国家支持出台相关禁令，但该委员会需达成共识才能够运行，而美国、英国、俄罗斯、以色列和印度均持反对立场。中国虽然也在开发人工智能武器，但已经表态支持禁令，只是在各国没有签署条约的情况下，中国不会单方面放弃研发。

对于杀戮机器人带来的反乌托邦未来，生产巡飞弹和其他人工智能武器的公司表示，这些武器只是为了增强人类在战场上的能力，而不是要取代人类。勒夫·阿里称：“我们不希望武器自动攻击。”但他承认其公司正在武器中添加基于人工智能的目标识别系统，以提高其自主性。他说：“这是为了协助人类做出必要决策。”

勒夫·阿里指出，即使武器可以找到目标，比如发现一辆敌军坦克，这并不意味着它是最佳攻击目标。他说：“那辆坦克可能已经无法行驶，而附近可能还有一辆更具有威胁性的坦克。”

英国谢菲尔德大学（University of Sheffield）的计算机科学专业荣誉教授诺埃尔·夏基是“停止杀手机器人”（Stop Killer Robots）活动的发言人。他表示，自动化正在加快战场的节奏，人类没有人工智能协助识别目标可能很难做出有效响应。一种人工智能创新必然会增加需求，演变成军备竞赛。夏基称：“这将导致大规模人道主义灾难。”
 

STM公司生产的Kargu 2无人机在测试中拍摄的视频。图片来源：Courtesy of STM

致命的科技

人工智能武器已经被投入使用，但大多数武器未经人类同意无法选择和攻击目标。这样的例子不胜枚举。

Orca潜水艇

美国海军正在与波音公司（Boeing）合作开发一款长51英尺（约15.54米）的潜水艇Orca。其目标是使这款潜水艇能够自动巡航6500海里，可以使用声呐探测敌军船只和水雷。这款潜水艇的初始版本未配备武器，但美国海军表示最新款能够发射鱼雷。

Kargu 2无人机

联合国曾经得出结论，称由土耳其公司STM生产的一架小型四旋翼飞行器，在2020年自动攻击了一个利比亚军阀的武装，这让其名声大噪。据称这是第一次有自杀式无人机自行选择攻击目标。但STM否认其无人机具备这一功能。

SGR-A1自动机枪

由韩国的韩华航空航天公司（Hanwha Aerospace）与高丽大学（Korea University）联合开发的自动机枪SGR-A1，旨在帮助韩国守卫与朝鲜之间的边界。据媒体报道，这款机枪使用红外热成像技术侦测边境附近的人员。如果目标没有说出预先设定的密码，这款机枪就会发出警报，或发射橡皮子弹或致命性子弹。

KUB-BLA巡飞弹

俄罗斯正在将这款小型巡飞弹应用到乌克兰战场。据其制造商扎拉航空透露，这款无人机的操作人员可以在发射前向系统上传目标图像。之后，这款无人机将自动定位战场上的类似目标。

忠诚僚机（Loyal Wingman）

波音公司生产的“忠诚僚机”无人机长38英尺（约11.58米），会自动伴飞由飞行员驾驶的战机和其他飞行器，提供警报和监控，以及预警导弹袭击和其他威胁。STM公司生产的Kargu 2无人机在测试中拍摄的视频。

本文另一版本发表于《财富》杂志2022年4月/5月刊，标题为《战场上的人工智能》（A.I. goes to war）。

翻译：刘进龙

审校：汪皓