人工智能也是“双刃剑”

中国林业网 http://www.forestry.gov.cn/2018-12-06来源:中国青年报中青在线
【字体: 打印本页

  近日,根据“2019财年国防授权法案”批准,美国成立了人工智能国家安全委员会。这是今年美国继国防部组建联合人工智能中心后,在国家安全领域成立的又一个更高层次的人工智能专门咨询机构。按照要求,该委员会将采取必要的方法和手段,推动美国人工智能、机器学习和相关技术的发展,全面满足美国国家安全和国防需要。此举意味着,美国将人工智能的军事应用进一步提升到国家安全的战略层面。
  据悉,此次成立的美国人工智能国家安全委员会由美国众议院武装部队新兴威胁与能力小组委员会提议成立,由15名成员组成。该委员会的使命是着眼于美国的竞争力、国家保持竞争力的方式,以及需要关注的“道德问题”,审查人工智能、机器学习开发和相关技术的进展情况。具体职责包括:考察人工智能在军事应用中的风险以及对国际法的影响;考察人工智能在国家安全和国防中的伦理道德问题;建立公开训练数据的标准,推动公开训练数据的共享。
  从国家安全的战略层面出发,美国推动人工智能技术发展的目的在于始终保持技术引领和优势地位的战略态势。9月7日,美国国防部高级研究计划局在成立60周年大会上,宣布将投资20亿美元推动人工智能领域的发展。以国防部高级研究计划局为代表的技术研究机构对人工智能的研究早已不再局限于人们熟知的无人系统,而是诸如“机器如何获得类似人类的沟通和推理能力”等方面更深层次的机理研究。
  同时,美国还特别强调在人工智能领域保持对潜在对手的优势地位。美国国防部常务副部长罗伯特·沃克曾表示,“人工智能是当前美国国防战略的主要组成部分,目的在于重塑美国的军事技术优势。”
  在这两方面因素的推动下,美国政府不断加大在人工智能领域的投资力度。今年年初公布的《国防战略报告》就明确提出,将向自主技术、人工智能和机器学习等军事应用注入更多资金,加快吸收商业领域突破性技术,以获取军事竞争优势。按照计划,美军将在2019财年投入137亿美元,支持包括人工智能、无人系统在内的尖端技术研发创新。
  随着对人工智能研究的深入,美国在充分开发人工智能技术优势的同时,也开始关注到人工智能可能带来的技术风险和应用威胁。10月10日,美国陆军训练与条令司令部发起了一项“疯狂科学家”的调查活动,专门探讨人工智能在未来战场上的影响。在收到的115名参与者提交的意见书中,形成了8个方面的意见。其中一个方面专门指出需要对抗人工智能带来的风险,即人工智能支持的数据和算法容易受到欺骗、降级或其他形式的颠覆。其中,致命的自主性则是最受关注的问题。
  今年7月,智库新美国安全中心发布报告认为,人工智能技术的未来不可限量,但是目前仍然不成熟,存在4个方面的隐患:一是机器可能作弊,即人工智能系统可能在违背人类设计本意的情况下去完成任务;二是机器也有“偏见”,即在数据保障不充分的情况下,人工智能系统的错误反应可能会造成灾难性后果;三是AI的思考过程是个谜,即人工智能有一部分行为是不为人类所理解的;四是人机互动失败,即设计师与用户之间的差异可能造成人机互动失败而带来风险。美国兰德公司今年年初在一项研究中警告说,军事人工智能系统在分析局势时出错的可能性将会导致各国作出轻率的、潜在的灾难性决定。
  为此,美国开始认识到人工智能不仅是一个领域(尤其是军事领域)的应用问题,而应在政府层面有所规划。今年9月,美国众议院监督和政府改革委员会信息技术小组在发布的《机器的崛起》报告中指出,人工智能有可能以预期和意料之外的方式扰乱社会的每一个部门。鉴于这种潜在的危险,联邦政府必须解决人工智能带来的不同挑战,包括其当前和未来的应用。而这一理念在军事技术上的直接体现,就是保持对某些任务的控制权。美国国防部高级研究计划局目前正在开发一种合作自主系统,确保人类可以实现“进入决策”,即机器是自主的,但需由人类监督。可见,美军也意识到,无论人工智能有多先进,也不能把战争完全交给机器。