学者:AI或触发军备竞赛 防止其在军事上的滥用

国内新闻 浏览(941)

?

标签专题:人工智能

原标题:邱浩和梁奎:防止人工智能在军事上的滥用

随着算法、计算能力和大数据的不断突破,人工智能已广泛应用于经济、社会和军事领域,成为推动经济发展、技术创新和战斗力增强的动力和引擎。然而,人工智能技术也是一把双刃剑,可能成为全球风险和挑战的“潘多拉盒子”。

可能引发许多风险和挑战

首先,人工智能军事竞争可能引发新一轮军备竞赛。人工智能技术的发展孕育着新军事革命的连锁突破,有可能成为改变国家军事实力对比的核心技术。人工智能将成为大国塑造军事优势的新杠杆。通过推进智能武器的部署,可以实现作战能力的迭代升级,保持或创造军事能力优势和新一代差异。对于中小国家来说,人工智能巨大的赋能效应可能会弥补它们在领土、人口、经济等方面的劣势。获得挑战大国的力量和机会。

为此,世界主要国家和一些技术领先的中小国家都在努力制定发展人工智能的战略和计划,推动智能武器系统的研究和发展,推动军事力量向智能转化。据说,美国军方正在推进的“第三抵消”战略中,80%的项目与人工智能技术密切相关。从实际应用来看,智能武器系统已经应用于美国的两次反恐战争和中东最近的几次军事冲突。人工智能的军事应用已成为发展趋势,人工智能的军事竞争可能演变成新一轮的军备竞赛。

其次,人工智能的军事应用可能会大大降低战争的门槛。随着自主武器系统的大规模应用,机器之间可能开始战争对抗。机器人、无人飞行器和无人水下机器人等自主武器已经成为部署的最先进的部队。人们将逐渐退居幕后,承担操作和指挥的角色,战场上的伤亡人数将大大减少。军事情报的发展催生了非致命的战争手段,如认知战、致残战、网络战等。这可能不再旨在摧毁对手,而是通过控制他们的认知和行动来赢得胜利,从而增加战争中“零伤亡”的可能性。智能条件下的杀伤行动主要由自主机器执行,战斗方式主要是自主远程无人攻击,从而降低了战争成本。

所有这些因素都可以使战争看起来更加“人道”和“廉价”,并减轻战争决策者发动战争的道德责任和政治压力。此外,部署在网络、太空、深海等新型作战空间的智能武器更加隐蔽,难以确定谁是发起者,成为军事对抗的“灰色地带”。

同样,智能技术的扩散将加剧非传统风险。人工智能技术与过去核武器、化学武器和生物武器之间最显着的区别是它容易扩散。智能技术成本低、赋权高,容易被恐怖组织和个人等非国家行为者掌握和应用,成为恐怖分子、犯罪组织、黑客等破坏和犯罪的工具。类似委内瑞拉总统马杜罗(Maduro)被无人机袭击的事件表明,智能技术可能会引发非传统安全挑战,并给国际安全治理带来新的挑战。

合作和共同管理可以防止可能的风险。

人工智能技术的应用所带来的这些风险引起了全世界的关注,促使国际社会对人工智能的发展和应用进行了深入思考。面对情报时代的国际安全风险,国际社会只能共同努力,也许从以下几个方面着手:

一是建立共同的目标。国际社会应该认识到人工智能应用中“一荣一损一得”的现实,认识到智能时代的对抗没有赢家,进一步确保人工智能用于和平目的,倡导使用人工智能为世界的繁荣和发展服务,分享智能技术带来的机遇和便利,防止零和思维和冷战思维在智能时代泛滥,防止数字鸿沟和自我封闭。为此,各国应以共同治理为途径,摆脱以往各国“门前雪中送炭”的做法,倡导通过交流和对话处理人工智能领域的矛盾和纠纷,消除发展过程中的歧视和双重标准。

第二是促进分担责任。所有国家,特别是人工智能大国,都应认真承担起应有的国际责任,防止人工智能可能引发的恶性竞争和军备竞赛。特别是停止在军事上滥用智能技术,不会开发和使用侵犯人类尊严、具有大规模破坏性影响的智能设备。此外,所有国家都有义务加强对本国智能技术发展的管理和指导,以确保人工智能用于合法目的。

第三是努力控制和预防疾病。爱因斯坦死前,他后悔自己的发明被用来发展核武器,认为这是他犯的一个巨大错误。为了防止情报时代出现类似的错误,我们必须致力于促进国际社会的集体预防和治理,并开始讨论建立国际人工智能治理体系。各国应该把风险预防放在首位,不能等到危机和风险来临时才被动应对。围绕共同治理,各国应特别关注防止智能技术和核生物技术扩散带来的重叠风险,共同探讨建立打击人工智能恐怖主义和国际犯罪的合作机制,以维护智能时代的网络安全和公共安全。

第四,深化国际交流。为了实现共同目标,迎接共同挑战,防止国际社会在智能发展领域面临两个世界、两个标准和两个体系,促进国际交流与合作是当前最迫切的现实需要。各国应停止为其他国家的发展设置障碍和绊脚石,尊重其他国家发展智能技术的合法权利,停止对其他国家企业和机构的限制,在平等互利的基础上促进智能技术合作和产品贸易。国际社会应致力于促进人工智能技术和人才的交流,促进共同的技术标准和技术获取,防止恶意技术封锁。所有国家都应在公开透明的基础上建立交流与合作机制。通过外交对话、国际会议、国防合作、学者交流等渠道交流意见,防止战略误判和技术对抗,建立人工智能领域的互信机制。

第五,建立国际规则。目前,国际社会尚未建立起共同遵循的人工智能国际规则,但一些学者和有识之士已经认识到建立国际规则的必要性和紧迫性。中国、欧洲、美国和日本的一些学者呼吁并讨论了人工智能国际规则的建立。去年在中国乌镇举行的第五届世界互联网大会上,一些学者呼吁尽早建立国际人工智能标准。今年4月,欧盟委员会发布了人工智能道德准则。今年5月,中国研究机构联合发布了《人工智能北京共识》,提出了15项原则。

在这种背景下,国际社会应适时促进人工智能的国际规则制定,借鉴核、生物、常规武器等领域国际规则制定的历史经验,讨论人工智能发展和应用的国际规则,并就使用的现状、范围和限制、安全和可控标准以及人与机器的关系进行研究和讨论,以确保人工智能成为人类而不是相反的工具。(作者分别是军事科学院战争研究所的研究员和助理研究员)

责任编辑:张艺玲

转载请保留此链接:

网赚的新模式,你有了解过吗?赚钱无压力 - 新风网赚