重视军事智能化发展安全问题

■陈东恒 李新安

当今时代，军事智能化迅猛发展，人工智能越来越广泛地运用于军事领域，这一高新技术在提升军队战斗效率的同时，引发的安全问题也越来越引起人们的深度思考。

军事智能化安全问题不容忽视。人工智能的飞速发展及其在军事领域的广泛运用，并没有使我们这个世界更安全。相反，由于军事智能化战略的对抗性、智能化技术的复杂性、智能化武器装备行动的“自主性”、智能化战争的不可预测性，使军事智能化遇到的安全问题日益凸显。安全控制问题。近年来，由于人为操作失误、机械故障和其他一些不明原因，导致智能化无人机、机械手臂甚至机器战士不听指令控制胡乱行动，甚至向自己人下手的案件不时出现。如果智能化武器装备的创造和拥有者不能有效控制和运用这些武器装备，使之完全按照自己的意志行动，就违背了军事智能化的初衷；如果智能化武器装备“背叛”人类，调转枪口朝自己的创造和拥有者开火，人类就等于为自己创造了对立面和“掘墓人”。安全防护问题。与机械化、信息化作战系统相比，智能化军事系统的指挥控制更集中、技术构成更复杂、电子元器件更敏感、信息传输链路更长，加之军事智能化尚处于初级阶段，更容易遭受攻击干扰进而瘫痪失能。如果安全防护问题解决不好，智能化武器装备及其系统很容易被对手乘隙而入实施干扰破坏甚至控制利用，这是军事智能化过程中必须倍加关注的问题。安全伦理问题。近年来，随着自主武器系统大量出现并用于战场，武装机器人滥杀无辜的现象屡见不鲜。2011年，美军无人机在巴基斯坦一次杀死4名“武装分子”，事后证明这4人中竟有3人是妇女和儿童。有关资料显示，美军这几年实施的海外无人机打击，造成的死亡中有近三分之一是平民，传统制度规则和伦理原则已很难对这些杀戮行为进行约束。

军事智能化安全问题原因复杂。人工智能作为人类科学技术创新发展的前沿形态，本身不存在安全问题，只是在运用于军事领域，与军事实践相结合，才滋生出形形色色的安全问题。这些问题，既有人工智能本身之于军事需求不够成熟和有待完善的问题，也有人类运用军事智能的目的、路径、规则和方式方法方面的问题，是各种因素综合作用的结果。核心是技术问题。人工智能是军事智能化的核心驱动，人工智能的成熟度直接决定军事智能化的发展水平和阶段层次，军事智能化的安全问题，核心是人工智能的成熟度问题。只有当智能算法、标准体系、制作材料、工艺水平、制造技术等成龙配套，与飞速发展的军事需求和剧烈的军事对抗相适应相协调，军事智能化的安全问题才能从根本上得以缓解和解决。关键是人的问题。人是军事智能化中最活跃的因素，人才可以创新技术创造武器，并实现人与技术和武器装备的最佳组合。智能化武器装备本质也是机器，是机器就有可能出故障，而且智能化程度越高，出故障的可能性越大。这就需要人充分发挥主观能动性，不断提高思维认知力、技术创造力、管理控制力，把军事智能完善发展好、管理运用好，使之服从人的意志、遵从人的指令，少出甚至不出问题。根本是规则问题。人与机器的高度融合，使传统战争战场上的枪林弹雨、血肉横飞变成字节与代码的“游戏”；智能化打击的远程化、超视距，使人类对相互杀戮的抵触排斥逐渐变弱，更是降低了战争门槛。这些规则和法律上的空白，是军事智能化道德伦理问题的根源所在。

着力消除军事智能化安全隐患。发展人工智能，建设智能化军队，打赢智能化战争，需要坚持辩证思维、问题导向，努力扬长避短，消除潜在的消极因素和不安全问题。加速军事智能技术发展。科学技术是核心战斗力，军事智能技术是驱动未来战斗力建设的重要先导性颠覆性力量，必须以军事智能技术的创新发展来解决军事智能化发展中遇到的安全问题。加强调查研究，把训练实战中经常出现的焦点难点问题、制约战斗力建设的瓶颈问题、与打赢未来战争不相适应不相符合的突出问题等搞清楚；加强重点突破，集中资源力量，协同攻关，重点要在算法技术、人机交互、加密通信、智能防护等技术上下功夫求实效；加强体系建设，把军事智能关键核心技术创新与关键软硬件建设、基础理论攻关、作战思想和作战概念创新、实战训练等结合起来，构建科学完备、系统配套的军事智能化体系。科学把握人与智能化武器关系。人是战争的决定因素并未随智能化武器装备的广泛运用和智能化战争来临而有所改变，这就要求我们把握人工智能服务人、辅助人的总原则，严格遵循“人在回路”的基本法则，把人的判断、操作、控制设为研发运用智能化武器装备的最高优先级，建立人对“机”的绝对控制权，确保人工智能在任何时候任何情况下都听令而行。提高人对智能化武器装备操控的能力，研发更加稳定高效的人机沟通交互技术，确保人对机器的高效掌控。尽快为智能化武器装备研发运用立法。从根本上解决军事智能化的安全问题，根本是要为军事智能技术的研发运用立规矩，将人工智能的军事研发运用与道德伦理和法律建设等结合起来，各国共同研究制定普遍认同有刚性约束力的国际规范，为军事智能化的发展装上制度的笼头。

文章来源：《电子元器件与信息技术》 网址: http://www.dzyqjyxxjs.cn/zonghexinwen/2020/1013/581.html