
联合国将启动一项旨在应对人工智能军事用途的最新行动,旨在解决这一快速发展的技术可能带来的严重威胁。
联合国裁军研究所(简称“裁研所”)计划于本周四推出这一国际合作平台,首次集中全球主要力量共同应对人工智能在军事领域的潜在风险。裁研所总部位于日内瓦,由联合国成立,专门负责推动国际裁军和安全合作。
裁研所负责人罗宾·盖伊斯在本周二的联合国新闻发布会上表示:“在核武器等敏感领域,人类判断的余地正逐渐缩小。”他指出,很难判断人类与机器在自主行动方面的距离有多近,或许并不遥远。这种不确定性正是当前最令人担忧的问题,“我们希望通过此次行动找到解决方案。”
他提到,人工智能已渗透到许多关键领域,包括预警系统、情报收集以及侦察行动等。“我们不知道自己在什么时候会彻底失去对这些技术的控制。”盖伊斯说。
长期以来,国际社会对制定人工智能的安全边界持谨慎态度,但随着技术能力的不断提升和潜在影响的加大,人们逐渐认识到这是一个刻不容缓的问题。盖伊斯表示:“我们正处在一个十字路口,现在是采取行动的最佳时机,特别是在军事人工智能方面。”
他指出,全球在人工智能领域的竞争也带来了巨大挑战。尽管如此,随着各国对人工智能影响的担忧日益加深,不少大国已经开始采取应对措施。上个月,美国和中国就提出了建立人工智能安全预警系统,以应对可能危及国家安全的风险。
在上个月举行的联合国年度高级别会议上,各成员国领导人也都重申了人工智能带来的安全挑战。裁研所今年夏天还成立了“人工智能、和平与安全”中心,这是联合国首个专门关注相关问题的常设平台。盖伊斯表示,该中心已获得美国、俄罗斯、中国、英国和法国等五个核大国的资金支持。
本周四,裁研所将通过该中心启动一个新的国际论坛,将“来自各个相关领域和国家的行动者”聚集在一起,共同探讨军事人工智能的管理和规制问题。虽然盖伊斯未详细披露具体措施,但他强调,该行动将成为本周其他人工智能倡议的重要组成部分。其中一项将关注行业责任,旨在制定“负责任的行业行为框架”。
他指出,企业在设计和研发人工智能武器时的决策,关系到其是否可靠、可预测,以及是否符合国际法。“这关系到人工智能军事能力能否安全运行。”为了保障行业责任,联合国裁研所正制定相关自愿指导原则,确保企业遵守国际法规,尊重人权。
此外,联合国裁研所还计划本周与国防技术企业、软件开发商、分包商、投资方等展开会谈,协助推动多方面的合作,包括政府、民间组织、学术界和专家共同参与。
盖伊斯还特别提到,一项关于防止武装团体滥用人工智能的措施也在筹划中。他警告说,某些武装组织已开始利用人工智能技术进行行动计划、作战指挥和后勤支持。
他强调:“关于军事人工智能的问题已不能再隐藏在阴影中。我们必须集结力量,正面应对,确保这项技术的发展不会威胁到人类的安全。”


