美国国防部成立生成式AI工作组，帮助改善情报和作战规划

利马工作组将评估、同步和利用整个国防部的生成式人工智能能力，还将利用国防部与情报界和其他政府机构之间的合作伙伴关系。

在许多用例中，例如“任何移动的东西”或处理致命武器时，对于大型语言模型来说，“产生幻觉”的风险太高。

当地时间8月10日，美国国防部宣布成立生成式人工智能（AI）工作组，名为利马（Lima）工作组，将分析和整合大语言模型（国防部法学硕士）。 智能工具发挥着关键作用。

“负责任的执行”

“利马特别工作组的成立突显了国防部对引领人工智能创新的坚定承诺，”负责该小组组建的美国国防部副部长凯瑟琳·希克斯表示。 当我们拥抱情报的变革力量时，我们的重点仍然是确保国家安全、最大限度地降低风险以及负责任地整合这些技术。 国防的未来不仅仅是采用尖端技术，而是具有远见和责任感，并且对我们国家更广泛的影响需要有深入的了解才能实现这一目标。”

在数字和人工智能首席办公室的领导下，利马工作组将评估、同步和利用整个国防部的生成式人工智能能力，并将利用国防部与情报界和其他政府机构之间的合作伙伴关系。

数字和人工智能首席办公室于 2022 年 6 月开始运营，致力于整合和优化整个国防部的人工智能能力。

美国国防部表示，通过使用生成式人工智能模型，旨在加强其在战争、商业、卫生、战备和政策领域的行动。 “我们还必须考虑我们的对手将在多大程度上使用这项技术，并试图破坏我们对基于人工智能的解决方案的信心，”国防部数字和人工智能负责人克雷格·马泰尔说。 使用。”

“国防部认识到生成人工智能在显着改善情报、作战规划以及行政和业务流程方面的潜力。 然而，负责任的实施是有效管理相关风险的关键。” 利马特遣部队任务指挥官、数字和萨义德海军上尉曼努埃尔·泽维尔·卢戈（ Lugo），人工智能首席办公室算法战争委员会成员。

据美国军事媒体《防务一号》报道，该工作组还将帮助五角大楼更好地了解需要购买什么来实现新的人工智能目标，其中可能包括更多的云服务、数据或合成数据以及模型。

如何解决“幻觉”问题？

生成式人工智能根据训练数据生成新的输出。 此类面向公众的工具包括基于大型语言模型的聊天机器人，它可以编写看起来像人类输出的新文本。 它已被用来撰写论文、商业计划甚至科学论文。 但由于大型语言模型是根据互联网数据集进行训练的，因此它们有时会撒谎，即所谓的“幻觉”。 出于这个原因，五角大楼官员一直直言不讳地表示他们不愿接受生成式人工智能。

马特尔说：“国防部必须负责任地寻求采用生成式人工智能模型，同时确定适当的保障措施并减轻可能因培训数据管理不善等问题而产生的国家安全风险。” 他指出，在许多用例中，“产生幻觉”的风险太高，无法采用大型语言模型，例如“任何移动的东西”，或者在处理致命武器时。 国防部必须了解它们可以在哪里安全使用以及对手可以在哪里部署它们。

一个问题是国防部是否拥有足够的数据来让生成式人工智能发挥作用。 尽管该部门拥有大量精心整理的内部数据，但大量喷气发动机诊断或中东多年的无人机监控录像并不能形成大型语言模型。

“在没有预训练数据的情况下，我们是否有足够的数据覆盖足够广泛的范围来维持模型的价值，这是一个悬而未决的问题。另一方面，我的假设是，预训练的数据越多，可能性就越大。 “产生幻觉。所以这是我们必须探索的权衡。我不知道，而且我实际上认为科学界还不知道答案，”马特尔说。

此类工具目前不适合国防部的至少一个原因是生成合适结果所需的工程量。 表示，一长串提示树对于业余爱好者来说很好，但必须执行复杂任务的操作员从一开始就需要一个直观且功能更强大的界面。