​微信公众号
手机版
​​新浪微博
会员登录
关于我们  |   商务合作  |  友情链接   |  意见反馈  |  人才招聘
北京云翼同创科技有限公司 深圳高博特文化发展有限公司   版权所有,并保留所有权利 © 2018 京ICP备16044150号-1                       

跨界 · 融合 · 服务 · 创新



双击此处添加文字
新闻聚焦
行业技术
首页  >  新闻聚焦   >  行业技术  >   详情
多无人系统协同中的人工智能安全探索
来源:中国工程院院刊 | 作者:战略前沿技术 | 发布时间: 2022-12-05 | 3875 次浏览 | 分享到:
统筹推进多无人系统协同赋能应用与风险防控的重大意义,提出了“四位一体”全面推进多无人系统协同安全发展的战略思路…...


编者按:多无人系统协同可以将在空间上分布的无人系统有机连接起来,实现多系统在时间、空间、模式、任务等多维度上的有效协同,最终形成目标探测、跟踪识别、智能决策、自主控制和效能评估的完整链条。多无人系统协同在给社会创造价值的过程中,也会带来着诸多安全隐患,特别是在军事作战、产业升级、政府监管、社会治理以及伦理等多个方面将给国家安全带来新的挑战。

本文阐述了统筹推进多无人系统协同赋能应用与风险防控的重大意义,提出了“四位一体”全面推进多无人系统协同安全发展的战略思路,探索了多无人系统协同在内生安全和衍生安全层面潜在的挑战与应对思路。就智能无人系统安全,文章建议,构建国家级无人系统验证平台,推动人才队伍建设;逐步深化无人系统产业“放管服”,发展新一代人工智能安全生态;充分发挥多无人系统协同的优势,赋能保障和改善民生,服务构建人类命运共同体。


一、前言

智能无人系统种类多样,覆盖海陆空不同空间,正在全面深入国家安全和社会生活各领域,并推动新一轮产业变革和相关技术高度集成。多无人系统协同作为一项人工智能的颠覆性技术,将在空间上分布的无人系统有机连接起来,实现多系统在时间、空间、模式、任务等多维度上的有效协同,最终形成目标探测、跟踪识别、智能决策、自主控制和效能评估的完整链条。伴随着技术水平的不断提升,多无人系统的使命任务将不断拓展,将极大地改变日常生活方式和军事作战方式。多无人系统协同在给社会创造价值的过程中存在着诸多安全隐患,如无人车的交通事故,无人机的扰航、恐怖袭击,机器人造成工人失业等。多无人系统协同可能将在军事作战、产业升级、政府监管、社会治理以及伦理等多个方面给国家安全带来新的挑战。目前,国内多无人系统协同的研究仍处于起步阶段,其基础理论框架对未来无人系统发展和技术突破起着至关重要的作用。因此,本文针对这一空白领域展开前瞻研究,旨在揭示多无人系统协同中人工智能安全的重要意义,针对相应问题提出对策建议,以期为我国无人系统安全发展提供参考。


二、统筹推进多无人系统协同赋能应用与风险防控意义重大

(一)多无人系统协同研究持续高速发展的重要抓手

2017 年 7 月,国务院印发的《新一代人工智能发展规划》阐释了人工智能新时代战略的丰富内涵,这为我国多无人系统中人工智能安全改革指明了方向,进一步明确了中长期发展的目标。我国人工智能新时代战略实施以来迎来了很大起色,但关于多无人系统中的人工智能安全问题仍未给出明确解决方案。寻找各项问题解决方案,立足安全基础,推进多无人系统的稳步发展,有利于多无人系统人工智能落地。

(二)不断增强我国军事实力的有效途径

军事实力是综合国力最直接的体现,在多无人系统广泛应用于军事领域的背景下,其安全问题的重要性更加突出。一方面,越来越多的国家研发出了智能化武器,实现多无人系统协同作战的能力越来越强,未来的战争将由多无人系统协同作战主导;因此,在智能化战争中如何保证领土主权和国土安全具有重要意义。另一方面,在智能化战争中多无人系统自身的防护同样具有重要意义,如何保证自身系统的安全、保证数据不泄露、控制权在手、遭遇打击仍能完成任务是目前多无人系统研究的一大课题。

(三)提升我国社会安全保障水平的关键前提

人工智能安全是关系到我国经济社会发展的时代性、战略性问题。多无人系统协同将广泛应用于工业、农业、经济和国防领域,对国家安全也会带来深刻变革。由于多无人系统滥用门槛低,容易被极端组织和犯罪团伙利用,管理难度远大于从前。加强人工智能新时代多无人系统立法,形成数据、模型、应用等一系列相关的法律、法规,完善人工智能使用标准的制定,有助于带动国家整体社会安全保障水平的提升。

(四)实现未来高度智能化社会建设的必然要求

传统无人系统目前已应用于社会的智能化建设,如智能快递分拣、无人超市、交通违章识别等,节省了大量的人力。未来,多无人系统协同的广泛应用将会在更大程度上保障和改善民生。但相较于传统无人系统,应用具备通信和交互能力的多无人系统可能会引发更加严重的公共安全、伦理安全等问题。因此,重点加强多无人系统应用中的问题研究和风险防范至关重要,只有处理好上述问题,才能确保多无人系统在未来能够安全可靠地为社会做出贡献,推动我国新一代人工智能健康发展。


三、多无人系统协同安全发展概况

随着多无人系统协同理论体系的成熟,相应的产品与应用呈现出迅猛发展的势头。从应用领域的角度,多无人系统产品主要包括无人车集群,无人机集群和无人船集群。无人车集群不但能够将各类车辆的驾驶人员解放出来,极大地减轻汽车驾驶员的工作量,还能够通过智能优化算法合理安排道路资源,缓解交通压力,并减少道路交通安全事故的发生。无人机集群的应用则涵盖了军事上的攻击、骚扰、侦查任务以及民用的灾害救援、监控巡查、环境监测、农业植保等领域。无人船集群则主要用于执行危险、枯燥以及其他不适于有人舰艇执行的任务,包括水质监测、航道测绘、海上巡逻等。相较于传统的有人系统,多智能体系统具有多方面优势,包括更低的操作门槛,更低的运维成本,更广泛的应用领域,更稳定的运行状况,更高效的资源分配等。在军事上,多无人系统更是能够极大程度地保障操作人员的安全,减少人员的伤亡,在进攻端还能够利用其数量优势形成长距离、大范围、高精度的饱和式打击,甚至有可能改变现代战争的模式。随着多无人系统的飞速发展,很多发达国家目前正积极推进智能多无人系统安全框架研究以及法案的制定。美国在多无人系统中的人工智能安全方面的研究以及政策发布非常频繁,2019 年 6 月,美国更新了《国家人工智能研究和发展战略计划》,将人工智能系统安全列为战略目标之一;2020 年 1 月发布的《人工智能应用监管指南备忘录(草案)》提出了人工智能十项监管原则;2020 年 3 月通过的《2020 年国家人工智能计划法案》支持对无人系统的道德、法律、社会等安全问题展开研究;2020 年 11 月更新的《人工智能和国家安全》中详细写明了智能多无人系统在军事上的发展与伦理安全问题。欧盟方面同样在智能无人系统安全上展开了积极研究以及政策制定,欧盟各成员国都纷纷出台法律法规以规范无人机运行。法国自 2019 年 7 月起规定无人机必须注册电子账号;德国规定所有无人机必须在机身刻上所有者的姓名与地址;英国把机场附近的无人机禁飞区半径从原来的 1 km 增加到 5 km;西班牙、葡萄牙、意大利等国都禁止无人机在夜间飞行。2019 年初,欧盟委员会发布了《关于欧洲人工智能开发与使用的协同计划》,将人工智能安全列为了一大关键发力领域,在全球人工智能伦理道德领域占据了领先地位;2019 年 4 月,欧盟委员会发布了《人工智能伦理准则——可信 AI 伦理指南》,提出了可信 AI 的七大原则;2020 年 6 月,欧盟新发布的无人机通用准则在欧盟全境正式启用,该准则取代了欧盟成员国各自的现行法规,为欧洲发展无人机行业提供了明确、统一的规则。我国的多无人系统相关法案制定也在逐步推进。2017 年 7 月,我国国务院首次颁布的人工智能战略性文件《新一代人工智能发展规划》,提出了 2030 年人工智能核心产业规模应超过 1 万亿元,带动相关产业规模超过 10 万亿元的目标,并对多无人系统协同中的人工智能基础理论框架给出了定义,提出了“加强人工智能相关法律、伦理和社会问题研究,建立保障人工智能健康发展的法律法规和伦理道德框架”。但该框架在自主协同控制与优化决策理论的定义中,更侧重于协同控制的实现与优化,对于多无人系统中可能存在的安全性隐患没有较多阐述。2020 年 12 月,中国信息通信研究院安全研究所发布了《人工智能安全框架(2020 年)》,制定了一个较为全面的人工智能安全框架,但其中对于多无人系统协同中特有的安全问题表述仍不详细。