机器人研究人员有责任防止自主武器宋岩欣

机器人研究人员有责任防止自主武器

人工智能的发展正在迅速改变机器人技术。而好处是普遍的：我们看到更安全的车辆与在紧急情况下能够自动刹车，机械臂转化一度外包是工厂的生产线和新的机器人，可以从商店中购买家居杂货提供处方药给谁有麻烦的人自己做。

但是，我们对智能自主机器的需求不断增长，这带来了许多道德挑战

飞速发展已导致道德困境

这些想法和更多的人纷飞作为我的同事和我在十一月初在世界上最大的自主机器人技术，重点研究会议之一满足- 在IEEE国际会议智能机器人与系统。在那里，学者，企业研究人员和政府科学家介绍了算法的发展，这些算法使机器人可以做出自己的决定。

与所有技术一样，我们研究的未来用途范围很难想象。考虑到该领域的变化速度，预测要更具挑战性。以计算机识别图像中对象的能力为例：在2010年，最先进的技术仅在一半时间内就取得了成功，并且被困在那里已有多年了。但是，如今，已发表论文中显示的最佳算法现在的准确度为86％。仅凭这一进步，自主机器人就可以了解他们通过相机镜头看到的东西。它还显示了过去十年来由于AI的发展而取得的快速进步。

从技术角度来看，这种改进是真正的里程碑。过去，手动检查大量视频片段需要花费大量时间，而现在，这些数据可以由计算机程序快速准确地解析。

但这也引起了道德困境。在将人员从流程中撤离时，对与隐私和安全性相关的决策进行支撑的假设已从根本上进行了更改。例如，在15或20年前在公共街道上使用摄像头可能引起了人们对隐私的关注，但是添加精确的面部识别技术会极大地改变这些隐私的含义。

易于修改的系统

当开发可以做出自己决定的机器时，出现的道德问题可以说比对象识别中的问题更令人关注。增强了AI的自主性发展如此之快，以至于曾经具有高级工程系统功能的人现在可以使用家用工具箱并拥有一定计算机经验的任何人使用。

没有计算机科学背景的人们可以学习一些最先进的人工智能工具，而机器人更乐于让您在其上运行新近获得的机器学习技术。有很多人渴望帮助任何人学习如何做到这一点的在线论坛。

使用早期的工具，已经很容易对您的经过最少修改的无人机进行编程，以识别并跟随红色袋子。最新的物体检测技术使人们能够追踪类似于9,000多种不同物体类型的物体。结合更新，机动性更高的无人机，不难想象它们可以多么轻松地装备武器。如何阻止某人将炸药或其他武器绑在配备有该技术的无人机上？

使用多种技术，自主无人机已经成为威胁。他们被捕时向美军投下炸药，关闭机场，并被用来暗杀委内瑞拉领导人尼古拉斯·马杜罗。目前正在开发的自治系统可以使进行此类攻击更容易且更具破坏性。

报告表明，伊斯兰国正在使用现成的无人机，其中一些正在用于轰炸。

监管或审查委员会？

大约一年前，一群从事人工智能和自主机器人研究的研究人员提出了一项承诺，即不要开发致命的自主武器。他们将致命的自主武器定义为能够“在没有人工干预的情况下选择和参与目标”的平台。作为一个对自动自主瞄准技术不感兴趣的机器人研究人员，我感到这一承诺错过了危险的症结所在。它掩盖了需要解决的重要伦理问题，尤其是在无人机应用的广泛交集中可能是良性或暴力性的那些问题。

首先，撰写论文并构建软件和设备的研究人员，公司和开发人员通常不会这样做来制造武器。但是，它们可能会无意间使其他人以最少的专业知识制造此类武器。

我们该如何应对这一风险？

管制是一种选择，并且已经被用来禁止在机场附近或国家公园附近的空中无人机。这些是有帮助的，但是它们并不能阻止武器化无人机的产生。传统武器法规也不是足够的模板。他们通常加强对原材料或制造过程的控制。对于自治系统而言，这几乎是不可能的，在自治系统中，原材料是广泛共享的计算机代码，并且制造过程可以使用现成的组件在家中进行。

另一种选择是跟随生物学家的脚步。1975年，他们在加利福尼亚州的Asilomar 举行了关于重组DNA潜在危害的会议。在那里，专家们同意了指导未来工作的自愿准则。对于自治系统，目前看来这种结果似乎不太可能。可以用于武器开发的许多研究项目也取得了和平和非常有用的成果。

第三种选择是在组织级别上建立自治机构，例如目前负责监督公司，大学和政府实验室中有关人体研究的机构审查委员会。这些委员会考虑了参与研究的人们的利益，并制定了减轻潜在危害的方法。但是他们只能规范其机构内进行的研究，这限制了它们的范围。

尽管如此，仍有大量研究人员落入这些委员会的职权范围之内-在自主机器人研究社区中，几乎每个参加技术会议的演讲者都是该机构的成员。研究审查委员会将是朝着自我监管迈出的第一步，并可能标记出可以武器化的项目。

与危险和诺言共处

我和我的许多同事都为开发下一代自治系统感到兴奋。我认为，潜在的好处太有前途而不能忽视。但是我也担心新技术带来的风险，特别是如果新技术被恶意人员利用。但是，通过今天的精心组织和明智的对话，我相信我们可以努力实现这些好处，同时限制潜在的伤害。

泉州孕妇胎盘前置怎么办

北京眼科医院

脊髓损伤束带感能恢复吗

西安哪治疗阳痿好阳痿诊断的原因有什么

杨思娥医生