近日，美国国防部宣布成立生成式人工智能工作组，又称利马工作组。美国防部称，该工作组将以战略性方式对人工智能技术加以利用，以确保美国防部在维护国家安全的同时，在这一技术领域保持领先优势。
据悉，生成式人工智能是一种人工智能算法。该算法可针对用户需求，利用前期输入的数据和用户提供的相关资料，生成新的输出数据提供给用户。最近很受关注的ChatGPT聊天机器人程序就是该技术的典型应用。美国防部认为，大型语言模型等生成式人工智能技术，在全球范围内的影响力正不断扩大，美军迫切需要提高生成式人工智能模型的速度和交互能力等，以提高任务效率。
据悉，利马工作组主要职责是评估、利用和提升生成式人工智能技术能力，并通过生成式人工智能模型，帮助美军提升在作战能力、军事管理、卫生健康、战备及政策等领域的行动能力。
负责指导利马工作组建立的美国防部副部长凯瑟琳·希克斯称：“利马工作组的成立凸显了国防部对引领人工智能创新的决心。我们将在确保国家安全、尽量降低风险的前提下，整合生成式人工智能技术。”
生成式人工智能技术可根据已有数据生成新的数据。由于大型语言模型的数据来源主要基于互联网的数据语料库，因此，它们有时会使用虚假信息。对此，美国防部官员表示担忧。美国防部数字和人工智能负责人克雷格·马泰尔称：“生成式人工智能技术应用于军事领域的风险过高。如果它在帮助士兵处理紧急情况时使用虚假信息，那将是致命的。我们需要输出的数据信息至少达到99.999%的准确率。”
基于上述原因，马泰尔表示，美国防部必须尽力寻求更优的生成式人工智能模型，同时制定适当的保护措施，以减少可能因数据来源、数据管理等问题而产生的国家安全风险。利马工作组任务指挥官曼纽尔·泽维尔·卢戈对此表示认同，称谨慎选择模型并完善管理是减少相关风险的关键。
马泰尔建议，想要最大限度防止生成式人工智能技术在应用过程中使用虚假信息，应进行大量测试，同时为大型语言模型在不同场合的应用提供可靠保证。他强调，无论何时，生成式人工智能的应用都必须置于人类的监管之下。
希克斯称：“美国防部的当务之急，是探索这项技术的运用前景和潜力。这些能力不仅将开启新的机遇，也将带来新的风险，我们要找到适当的保护措施，将各种风险降至最低。”
关于该技术应用于军事领域可能引发的风险问题，引起了诸多关注。目前的生成式人工智能技术主要用于高效查找目标资料、回答常见提问等，且技术本身存在严重漏洞，有可能被潜在对手利用，借以发动虚假信息战，进行欺骗或网络攻击。当前，包括美国在内的60多个国家签署了一份《行动呼吁书》，倡导在军事领域负责任地使用人工智能技术。
此外，在战略层面上，生成式人工智能技术的军事应用，很可能加剧大国间的竞争，增加战略风险。美国“新美国安全中心”智库在报告中指出：“从短期和中期来看，人工智能技术带来的大部分变化将是渐进、小范围的，但从长期来看，有些变化可能是革命性的、普遍的。为此，一些国家不得不投入大量精力进行研发和探索。”（李学华）