【智库报告】了解人工智能对作战人员的限制-1
2024-1-17 08:57:1 Author: mp.weixin.qq.com(查看原文) 阅读量:6 收藏

摘要

美国空军对人工智能 (AI) 增强作战各个方面的潜力越来越感兴趣。对于这个项目,空军要求兰德公司的研究人员考虑人工智能不能做什么,以了解人工智能在作战应用中的局限性。

研究人员并没有试图确定人工智能的总体局限性,而是选择并研究了四种特定的作战应用作为潜在用例:网络安全、预测性维护、兵棋推演和任务规划。选择这些应用程序是为了代表各种可能的用途,同时强调不同的限制。对能够获得足够数据的三种情况进行了AI实验;剩下的案例是战争游戏,广泛探讨了人工智能如何应用或不应用。

本报告是五卷系列报告中的第一篇,总结了所有用例的调查结果和建议。它针对的是政策制定者、采购专业人士以及对人工智能在战争中的应用有普遍兴趣的人。

主要发现

  • 为了识别适应性威胁,数据必须是最新的。分布偏移会降低模型性能,这是不可避免的,尤其是对于高维数据。

  • 不能依赖人工智能分类算法来学习它们没有学到的东西。人工智能无法预见或识别新型网络攻击。

  • 数据必须可访问且条件良好。相关物流数据保存在多个数据库中,并且经常存在病态。如果没有自动化数据管道,就无法捕获足够的数据来启用人工智能。

  • 和平时期的数据无法替代战时的数据。人工智能无法弥补适当数据的缺乏。

  • 数字化必须先于人工智能的发展。大多数兵棋推演不是在数字环境中进行的,也不会生成电子数据。数字化是人工智能数据管道的先驱。

  • 需要新类型的数据。为了实现人工智能,需要人机交互 (HCI) 技术来捕获目前尚未捕获的兵棋推演的各个方面。

  • 人工智能还远远没有达到人类水平的智能。因此,它不能代替人类,也不能应用人类的判断。

  • 为了应对自适应威胁,数据必须是最新的。模型必须根据更新的条件进行更新,才能抵御动态威胁。

  • 人工智能在战术上很聪明,但在战略上却很幼稚。它往往通过进入对手的观察、定位、决定、行动循环来获胜,而不是通过提出一个聪明的大战略。

  • 人工智能的准确性不如传统的优化方法。但它的解决方案可以更加强大,并且可以更快地实现目标。

建议

  • 空军部 (DAF) 应进行数据集分割测试,以确定人工智能系统分布变化的重要性,并确定近似的衰减率和人工智能保质期。

  • DAF 应尝试使用人工智能来改进对战备备件包 (RSP) 的需求预测,并将概念验证模型扩展到所有飞机。这可能必须在逐个部分、逐个平台的基础上完成。

  • DAF 应考虑使用人工智能来解决更大的运筹学问题,即选择将哪些零件发送到哪里。

  • DAF应建立数据运营管道,对多个部件和平台的飞机维护和RSP进行高效的回顾性分析。

  • DAF 应将资源集中在最有前途的领域,用于开发兵棋推演的人工智能应用:那些研究替代条件或用于按照明确定义的标准进行评估的领域;那些已经整合了数字基础设施的企业,包括人机交互技术;以及那些经常重复的内容。

  • DAF 应增加数字游戏基础设施和 HCI 技术的使用,特别是在为系统探索和创新而设计的游戏中,以收集数据以支持人工智能开发。

  • DAF 应利用人工智能功能来更广泛地支持未来的兵棋推演工作。

  • DAF 应考虑人工智能如何为面临意外情况的无人机提供快速反应政策。

  • DAF 应投资开发工具,将强化学习应用于现有的任务规划模型和模拟,例如高级模拟、集成和建模框架 (AFSIM)。

原文及机器翻译已上传知识星球
长按识别下面的二维码可加入星球
里面已有万余篇资料可供下载
越早加入越便宜
续费五折优惠


文章来源: https://mp.weixin.qq.com/s?__biz=MzI2MTE0NTE3Mw==&mid=2651141704&idx=1&sn=ae39025300a732f98a59101c74637bba&chksm=f1af4172c6d8c864854af69bd2a8e6f62e84a4e1f496251b129feb1e35c2101884feee7b46b3&scene=58&subscene=0#rd
如有侵权请联系:admin#unsafe.sh