深度|马斯克等专家呼吁禁止开发“杀人机器人”！为什么？

当地时间8月20日，包括特斯拉CEO马斯克（ElonMusck）和谷歌DeepMind联合创始人苏莱曼（MustafaSuleyman）在内的116名AI界专家，发布公开信呼吁全面禁止自动化武器。他们将自动化武器称作杀人机器人，但在其他人的眼里，自动化武器是新一代的高级军备力量。人工智能不断发展的当下，自动化武器真的会展现其可怕的一面吗？

自动化武器的杀伤力到底有多大？

马斯克等众多专家都出面后，自动化武器的问题终于又一次引发了讨论。自动化武器，工业机器人维修，作为军备力量，对于将投入使用的国家来说，可以节省士兵资源，避免人类士兵的伤亡。但马斯克等专家的担忧在于自动化武器可能遭到滥用，将会对人类生命安全产生威胁。联合国人权理事会特别调查员海因斯（ChristofHeyns）早前曾表示，战场上局势复杂，不能确保自动化武器信息传递及时与否；据其调查结果显示美国无人机在打击恐怖分子时曾出现误伤平民的情况。

同时马斯克等专家也担心国家间自动化武器军备力量的恶性竞争，将导致继火药、核武器之后的第三次革命。早在2012年国际组织人权观察站（HumanRightsWatch）便公布了一份具有致命性杀伤力的自动化武器清单，时至今日也有多国已进入自动化武器的开发进程：

1.韩国哨兵机器人

▼

韩国三星集团研发的SGR-A1哨兵机器人被部署在三八线附近，虽然SGR-A1与3岁小孩的个头相当，但其拥有自主射击的能力。该哨兵机器人的设置主要是为了打击非法入侵者，它可以通过内置的摄像头及运动传感器等进行工作，且可以追踪多个目标。据说，该机器人一旦检测到闯入者，则会向人类管理员汇报，由管理员决定是否将闯入者射杀。

2.英国雷神无人机

▼

由英国航太系统公司开发的雷神无人机（BAESystemsTaranis）拥有充分的自主权，能够携带空对空及空对地弹药，具有远程攻击能力。因其独特的设计，该架无人机还具有隐身功能，大大降低了被敌军雷达侦测到的可能。2013年该架无人机进行了首次试飞，预计将在2030年投入使用，并且很有可能替代狂风（Tornado）GR4战斗机。

3.俄罗斯多功能无人战车

▼

美俄等国近期更着重于研发既可远程控制也可以自主操作的地面作战用途机器人。这些项目包括俄罗斯的天王星-9（Uran-9）多功能无人战车，主要用于对步兵班组的火力支援。天王星-9可装30毫米炮与反坦克导弹，导弹射程估计在8千米左右，可以消灭坦克或低空直升机。

4.美国无人驾驶军舰

▼

美国国防部高级研究计划局（DARPA）主导研发的无人驾驶军舰海上猎人（SeaHunter），2016年已进行了海上测试。海上猎人主要担当反潜任务，在执行任务时，这种无人船一旦发现敌方潜艇，便可持续跟踪，并通过卫星向附近的水面舰船发射潜艇的实时坐标，以引导打击行动。

自动化武器如何使用，库卡机器人，政策并不能说清

除了许多国家在研发自动化武器，Rytheon、Dassault、MiG等公司已经掌握或正在开发自动化武器的相关技术。自动化武器的杀伤力如此大，且很有可能被恐怖分子所利用，工业机器人维修，因此专家的担忧并不是没有道理，但颁布相关使用政策的国家却很少。2012年，美国国防部曾发布关于自动化武器的使用政策，但这项政策界限较为模糊，没有明确定义哪种行动是不被允许的，若自动化武器发出致命性行动，这是否会被禁止我们不得而知。

马斯克等专家此次发布的公开信也表示，希望联合国将自动化武器加入到《特定常规武器公约》中。该公约旨在限制在战争中使用某些被认为具有过分伤害力或滥杀滥伤作用的常规武器，包括地雷、致盲性武器等。美国军事评论网则表示，伴随着人工智能的发展，自动化武器的出现不可避免，但可以禁止一旦发射就无法召回、任务不能终止的完全自动化武器。

最终背锅的还是人类管理员

1944年，著名科幻大师阿西莫夫（IsaacAsimov）在科幻小说《环舞》（Runaroud）中，首次提出了机器人三大法则，其中第一条就是机器人不得伤害人类，但近些年机器人是否会背叛人类的话题不绝于耳。

2015年，在同样的商讨禁止发展杀人机器人的会议上，英国公开反对禁止发展杀人机器人，其原因是英国研发的自动化武器均是有人类监控的。《卫报》对此也表示，机器人凌驾于道德之上，只是在进行着系统工作，最终控制系统的还是人类。