在一片哗然之后，(旧金山）市政委员会投票撤销了上周通过的允许警察使用机器人执行致命武力的法案。

战斗还没有结束，但有一个很好的理由应该结束。

11月29日，旧金山监事会投票允许旧金山警察局（SFPD）使用武装机器人进行致命武力，一个月前，公众的强烈抗议导致附近奥克兰的警察撤销了一项类似的请求。

一周后，董事会再次投票——这一次明确拒绝允许使用致命武力，并将最初的法案发回委员会。

关于原始法案的许多问题仍然没有答案，但一个明显的问题是：如果我们允许民间机构武装机器人，我们如何防止——包括警察自身及未经授权的用户滥用？

安全研究人员Cesar Cerrudo和Lucas Apa早在2017年就以IOActive顾问的身份解决了这些问题。

塞鲁多现在是一名独立的网络安全研究员，他说，这些问题在今天仍然普遍存在。

“机器人就像任何技术一样，都可能被黑客利用；这可能很容易，也可能极其困难，而可能性是存在的，”他告诉Dark Reading，“为了减少黑客入侵的可能性，机器人技术必须从一开始就考虑到安全性，然后对所有机器人技术进行适当审计，以识别所有潜在的漏洞并消除它们。“

Cerrudo和Apa发现的漏洞类别包括不安全的通信、身份验证问题、缺少授权、弱加密、隐私问题、不安全的默认配置和容易探测的开源框架。

虽然研究人员没有测试军用或警用机器人，但这类机器也可能同样容易受到攻击。

他们在文章中写道：“这些机器人在被黑客攻击时是最危险的，因为它们经常被用来操纵危险的设备和材料，比如枪支和爆炸物。”

相同危险程度的一个例子是2007年南非的一门自动高射炮应用失败——打死9名士兵在0.8秒内伤了十几个人。

现在想象一下，如果有人成功地将一个武装警察机器人转向警察或公众，会发生什么。

机器人被黑的可能性并不是那么牵强，而已成为主流。去年，通过获取一个超级管理员帐户的信息，黑客进入了由150,000个监控摄像头组成的网络监狱内，甚至整栋建筑都被黑了；黑客通过破解一个密钥卡，成功控制了一辆在高速公路上行驶的吉普切诺基。


收回杀人许可

12月6日，参议员埃里克·马尔（Eric Mar）在投票将原始法案发回委员会之前表示：“我只是不认为给机器人配备武器并给他们杀人许可证会让我们更安全。”

11月29日，董事会以8比3的投票结果通过了允许使用致命武力的法案；12月6日，以8比3的投票结果废除了该法案。

“这是难得的一步，”《旧金山纪事报》报告说， “董事会对当地法律的第二次投票通常是形式上的，不会改变任何东西。”

改变旧金山现状的是公众抗议。在12月6日的会议上，主管迪恩·普雷斯顿（Dean Preston）说：“我们都听到了很多选民……关于我们作为一个城市将让机器人提供致命力量的想法。”

其中三位主管——沙曼·沃尔顿（也是董事会主席）、希拉里·罗宁和普雷斯顿——参加了一次这样的抗议活动：周一在市政厅, 由贵格会组织，一群人举着标语牌，上面写着“不要杀手机器人”。

普雷斯顿说：“我们将在董事会上以立法的方式作斗争，我们将以街头和公众舆论抗议上进行斗争，如果有必要，我们将在选票上进行斗争。”

最后一个威胁可能是最有说服力的；城市选民并不害怕直接通过投票来治理。

该部门称，在2010到2017年间，SFPD已经购买了大约12台机器人。

一份声明说，“这些机器人由经过专门培训的旧金山警察局官员远程控制和操作，”，“我们的机器人主要用于出现在有爆炸物/炸弹及有危险材料等等事件中，此时人员可能需要保持安全距离而保证现场的安全。”

旧金山警局的声明还说：“在极端情况下，机器人可以被用来发射炸药，以破坏含有暴力或武装物体的结构。这一控制将被用来使暴力、武装或危险的对象丧失能力或失去方向感，可能导致他们失去生命”，尽管这样的使用“可能引发伤害或致命”。

虽然12月6日的投票使旧金山警察局受挫，旧金山标准委员会指出这个问题不一定会最终解决。

规则委员会或许能够拖延足够长的时间，让公众的注意力逐渐消失，或者他们可以创导一些有利措辞，让大多数监管者重新给予支持。

但现在，杀人机器人是被明确禁止的，这似乎已成定论。


不是第一个机器人部队

无人驾驶飞行器（UAV）是半个世纪以来军事战术的一部分，有几个警察部门使用遥控无人机的例子。2015年，北达科他州合法武装采用无人机泰瑟枪之类的非致命武器；当然了，泰瑟枪可能是致命的；而无人机是出了名的易受黑客。

警方使用无人机器人的另一个特别案例是纽约警察局在2020-2021年失败的Digipog实验。

危险情况，如和人质僵持的情况，最大限度地减少人员威胁。

由于公众对这种蜘蛛状、快速移动、能爬楼梯的机器人的反应是如此消极，该部门提前结束了合同。‍

无人驾驶移动设备的支持者通常将该技术的使命建立在拯救生命的基础上，无论是人质还是警察。

事实上，旧金山警局声明声称“以这种方式装备的机器人只能用于拯救或防止无辜生命的进一步丧失。”我们已经看到这在现实生活中是如何发生的。


警用机器人已经杀人

美国警方已经使用了一种机器人来实施致命武力。达拉斯警察局在2016年派出了一个装有炸药的机器人去杀死迈卡·约翰逊，结束了一场约翰逊枪杀12名达拉斯警察后、造成5人死亡后的僵局。

大陪审团清除了警察的嫌疑。在那次事件中，警方使用了一个诡计，给枪手发了一部手机，让机器人离得足够近。

旧金山警局现有的十几个机器人。

“有轮的投弹机器人与2016年达拉斯警察使用的武器相似“，据《华盛顿邮报》报道。

之后，2016达拉斯使用武力，加州大学戴维斯分校法学教授伊丽莎白 E Joh在《纽约时报》上写道:“机器人不像枪，枪可能会走火，但不会被黑。“

警察机器人的市场正在兴起，但我们作为一个社会——包括警察——应该警惕任何容易被第三方收购的武装警察机器人。

电子设备安全方面的实验并不能给予人信心：如果第三方可以黑汽车或玩具无人机，他们当然也可以黑警察机器人。”

塞鲁多的评估与其警告一致。

他说：“如果我要部署这些机器人，我会确保它们被创造时考虑到安全性，并确保它们经过了专家的适当安全审计。”

“如果做不到这一点，机器人将面临可能的网络攻击，机器人可能会变成危险的武器。”