根据墨菲定律，凡是可能出错的事必定会出错。武器的智能化程度越高，其内部电脑控制软件的规模就越大、越复杂，出现故障的概率也就越大。在成千上万条命令代码中，即使搞错一个符号，在特定条件下一旦触发这个错误，整个系统就可能要么停止运行，要么出现意外举动。试想一下，智能武器一旦“脑子”出了问题，就像人发了疯一样，拿着武器不分青红皂白地一顿狂扫，那会是一幅多么可怕的场景！

智能武器受到复杂电磁环境干扰而失控。据一名刚从伊拉克归来的美军军士描述，他的“魔爪”机器人如果受到无线电干扰，就会出现“行为异常”。另一名军士讲述，如果他的机器人没有信号，就会“变得古怪”。按理说，如果由于某种原因使得信号受到干扰或被中断，机器人应该停止行动才对。当追问军士“古怪”究竟是什么意思，他回答说：“它会偏离道路，冲你而来，四面旋转等等。”未来战争中，战场电磁环境只会变得越来越复杂，智能武器能不能适应复杂电磁环境，能不能在强烈电子干扰条件下，实时接收人类指令并精准执行作战任务，这都需要经过大量的试验和实战检验后才能得出结论。

智能武器也可能因为判断失误而出现失控。战场上的敌我识别不仅对于人类士兵来说是件难事，对于智能武器来说同样也不好解决。美国军方一位机器人项目负责人说：“机器人战士可以发现一个人并确定他的位置，然后杀死他。但问题是，怎样才能不误伤自己人。对于人类来说，区分敌人和自己都很难，更何况机器人。”

事实上，人工智能控制的武器由于判断失误，已经造成巨大惨案。1988年7月3日的波斯湾，美国海军“文森尼斯”号巡洋舰正在海上游弋执行巡逻任务。该舰因装备了自动化程度极高的新型“宙斯盾”防空系统，绰号为“机器人巡洋舰”。这时，该舰突然发现一架伊朗民航的A300客机将飞过上空。虽然舰上防空系统处于半自动模式，但电脑系统将客机识别为伊朗空军的F-14战斗机，结果舰长授权开火，发射“标准”防空导弹击落了客机，造成机上290人全部遇难，包括60多名12岁以下的儿童。无独有偶，发生在伊朗客机身上的悲剧，在近20年后的2003年伊拉克战争中又再次复现。当时，美军“爱国者”导弹把两架盟军飞机，当成伊拉克的“飞毛腿”导弹击落。

智能武器因无限自我繁殖而失控。自我繁殖可能是未来纳米级智能武器的一种高级功能。纳米机器人借助阳光、尘土、海水等物质和能量，可像细菌一样自我繁殖。杀不绝的纳米机器人军团自然是威力无穷，但一旦失去控制，后果也是不堪设想的。据专家估计，一个失去控制的正在自我复制的纳米机器人，完成130个复制周期只需要3个半小时，考虑到纳米机器人向外移动扩张等因素，最多只需数周时间就可以摧毁地球上的一切生物。

智能武器因具备独立意识反叛人类而失控。从目前来看，普通电脑的运算结果仍然是明确和可以预见的，因而是可控的，但未来随着人工智能水平的持续提高，特别是具备自学习和自进化能力后，电脑的“智商”不断提高，极可能出现类似人类“思想”的高级思维活动，以及只有人类才具备的喜怒哀乐、自我认同、妒忌羡慕、征服欲望等复杂情感。那么，运算结果就可能是不确定和不可预测的，正是这种随机的不确定性思维，潜伏着机器人威胁人类安全的危险因素。这就是未来高级智能武器可能失控的内在技术原理。目前，科学家正在制造可以产生类似人类无意识反应的机器人，机器人在紧张时会出汗，听到恐怖故事时甚至会起鸡皮疙瘩，这或许是机器人迈向具备人类思想意识的第一步。

科幻电影《终结者》中的“天网”，原本是军方的作战网络，后来由于具备自我意识，演变为未来世界机器人的首领，指挥着机器人到处消灭人类。据媒体报道，美国科学家公布了一项“机器人大脑”计划，拟制造巨型中央知识处理器以支持世界各地的无数机器人。研究人员称，“机器人大脑”是一套大型计算系统，可以将互联网资源、计算机模拟以及机器人试验中得到的机器人知识，积累成一套全面互联的知识库。世界各地的机器人可以与之联网，学习如何倒饮料、如何收拾餐具等一些机器人基本技能。设想一下，一旦这台“机器人大脑”通过不断进化，功能越来越强大，具备了独立的自我意识，以及战术设计和战略决策能力，完全有可能将与之相联的其他机器人控制并组织起来，形成强大的机器人军事力量，一起反叛人类。

需要指出的是，智能武器的全面失控，首先应该是由局部失控开始的，有一个渐变过程，这就为人类觉察和控制失控局面提供了机会。如果人类及时采取各种措施，如启用机器人自毁程序，或用其他机器人“镇压”反叛机器人，就可以避免全面失控的出现。科幻作品描述的人类在城市废墟中到处被机器人追杀的世界末日场景，成为现实的可能性不大。

转载请注明：北纬40° » 智能武器是人类的福祉还是灾难？