Half the truth is often a great lie.

“杀手机器人”要来了,人类毫无招架之力

军事 sean 6037℃ 0评论

当人工智能遇上伦理道德
——专家纵论智能机器社会的风险与解决方案

640
美国宇航局的机器宇航员2 号

在近日发表于《自然》杂志上的一篇评论文章中,4位计算机领域的研究领军者分享了他们对该领域的思考。

目前,美国国防部高级研究计划局(DARPA)正在推进两个项目:“快速轻型机器人”(FLA)和“敌对环境下联合作战”(CODE),前者计划设计出一款旋翼机,能够在没有外界操控的情况下以极高的速度在城市环境或建筑物内部敏捷地飞行;而后者的目标是开发无人飞行器,将能够在完全与总部失去联络的情况下完成一整套攻击程序——搜索目标、锁定、跟踪、攻击、评估。它们将有可能促成“杀手机器人”的研发。

在近日发表于《自然》杂志上的一篇评论文章中,4位相关领域的研究领军者分享了他们对智能机器社会风险的担忧和解决方案。

美国加州大学伯克利分校的计算机科学教授Stuart Russell认为,这些武器所具备的敏捷性和致命性将让人类陷入毫无招架之力的境地,“这不是我们所梦想的未来场景”。而来自英国布里斯托尔大学的机器人专家Sabine Hauert则表示,公众无须对人工智能技术的发展感到担忧。

应对人工智能武器表明立场

Stuart Russel(美国加州大学伯克利分校计算机科学教授)

人工智能(AI)和机器人领域的专家面临一个重要的伦理决策:必须要决定他们是支持还是反对致命自主武器系统(LAWS)。此类系统能在几年而非几十年内发展为可行的。该领域的风险很高,致命自主武器系统被描述为战争的第三次革命,前两次是火药和核武器。

在几年之内,军方就可以组装带有武器的四轴飞行器和微型坦克,这些自动的飞行器和坦克不需要人类干预,自己能决定谁能活下来而谁又会死去。例如,四轴飞行器能在一座城市中找到并打击敌方战士,但不包括人类能设定目标的巡航导弹和遥远的无人驾驶飞机。

但是,国际人道法律对于此类技术没有任何具体的规定,现在也还不清楚国际社会是否会支持一个限制或禁止此类武器系统的条约。1949年签订的战争人道主义《日内瓦公约》要求任何袭击需要满足3个条件:军事必需、参与战争者和非参战者差别对待、军事目标价值及其潜在附带伤害的平衡。而当前的自动武器很难或根本无法作出这些主观判断。

作为一个人工智能专家,我曾被要求为特定常规武器公约(CCW)第三次重要会议提供专业证据。德国等许多国家迫切要求签署禁令,但美、英和以色列这3个LAWS技术领先的国家则认为这样一个条约没有必要。

LAWS通过允许机器选择杀死谁,而可能侵犯人类尊严的基本原则。在我看来,最应当关注的是这个技术发展轨迹的可能终点。我认为超过人类控制的系统将建成这一点是不可避免的。当然这些武器系统能涉及的范围和携带大型武器的能力会受到物理定律的限制。然而它们的灵活性和杀伤力将让人们毫无防御之力。这样的未来不会是人们想要的。

因此,人工智能和机器人领域的科学家及其所在的专业组织应当表明立场,正如物理学家当年对于核武器,抑或是生物学家对于在战争中使用病原体表明立场一样。应当召开学术会议进行讨论,并让伦理委员会参与进来。什么都不做就等于是表示支持继续发展和使用。

积极讨论,不要厌恶机器人

Sabine Hauert(英国布里斯托尔大学机器人学讲师)

针对机器人和人工智能的恶意炒作让一些研究人员十分愤怒,这使得他们停止与媒体或公众沟通。

但我们无法脱离社会。公众包括纳税人、政策制定者、投资者和那些利益相关者。他们在听闻一边倒的讨论后,担忧机器人会抢了他们的饭碗,害怕人工智能产生实在的威胁,并在考虑是否应制定法律控制这些仍在假设中的技术。

而我和同事会在晚宴时间向大家解释,我们并非一群恶魔,我们花费多年时间潜心研发,目的是为了开发那些能够帮助老人,改善健康,让我们的工作环境更加安全和有效率,并让我们能够探索太空和海洋的设备。

专家需要成为信息传递者。研究人员应利用社会媒体这一公共平台,诱导相关讨论变得平衡。我们能够探讨最新进展和限制因素,解开人工智能技术的神秘面纱。

人工智能和机器人领域需要思想领袖,以便与霍金等杰出评论家和Elon Musk等风险投资家建立友好的关系,并在世界经济论坛等会议上设置机构等。而且,公众参与也将有助于筹集经费。

当然,也存在不少障碍:首先,许多研究人员没有推特和博客账户;第二,时间十分有限;第三,可能需要数年时间才能建立一个社交媒体互动机制。在我看来,全世界的人工智能和机器人领域的利益相关者,应当联合一部分资金,以帮助该领域增大发言权。

转载请注明:北纬40° » “杀手机器人”要来了,人类毫无招架之力

喜欢 (0)or分享 (0)
发表我的评论
取消评论
表情