Palantir正在推出Palantir人工智能平台（AIP），该软件旨在运行GPT-4等大型语言模型和专用网络上的替代方案。在其中一个宣传视频中，Palantir演示了军队如何使用AIP进行作战。在视频中，操作员使用 ChatGPT 风格的聊天机器人命令无人机侦察，生成多个攻击计划，并组织干扰敌人的通信。
在Palantir的设想中，“负责监视东欧活动的军事操作员”收到AIP的警报，称敌人正在友军附近集结军事装备。然后，操作员要求聊天机器人向他们展示更多详细信息，获取更多信息，然后要求AI猜测敌方部队可能是哪些。
“他们询问该地区有哪些敌方部队，并利用人工智能建立一个可能的单位编队，”视频说。在获得AI对正在发生的事情的最佳猜测后，操作员然后要求AI拍摄更好的照片。它发射了一架收割者MQ-9无人机拍照，操作员发现友军附近有一辆T-80坦克，这是俄罗斯苏联时代的战车。
然后操作员询问机器人该怎么做。“操作员使用AIP生成三种可能的行动方案来针对这种敌方武器，”视频说。“接下来，他们使用AIP自动将这些选项发送到指挥链上。选项包括用F-16、远程火炮或标枪导弹攻击坦克。根据视频，人工智能甚至会让大家知道附近的部队是否有足够的弹药来执行任务并自动化干扰敌方系统。
当然，Palantir的宣传是非常危险和怪异的。虽然AIP演示中有一个“循环中的人类”，但他们似乎只不过是询问聊天机器人该做什么，然后批准其操作。无人机战争已经抽象化了战争，使人们更容易通过按下按钮来进行远距离击杀。这些系统的后果有据可查。在Palantir对军队未来的愿景中，更多的系统将被自动化和抽象化。该视频的一个有趣现象是，它称其用户为“操作员”，在军事背景下，这个术语是海豹六队等特种部队的简写。在Palantir的世界里，美国的精锐部队与键盘牛仔的绰号相同，他们问机器人应该如何处理边境的俄罗斯坦克。
Palantir没有在这里销售军事专用的人工智能或大型语言模型（LLM），而是将现有系统集成到受控环境中。AIP演示展示了支持不同开源LLM的软件，包括FLAN-T5 XL，GPT-NeoX-20B的微调版本和Dolly-v2-12b，以及几个自定义插件。即使是现成的经过微调的人工智能系统也有很多已知问题，这些问题可能会使他们在战区做什么成为一场噩梦。例如，他们倾向于简单地编造事情，或“产生幻觉”。特别是GPT-NeoX-20B是GPT-3的开源替代品，GPT-3是OpenAI语言模型的先前版本，由一家名为EleutherAI的初创公司创建。EleutherAI的开源模型之一由另一家名为Chai的初创公司微调，最近说服了一名与它交谈了六周的比利时男子自杀。
Palantir提供的是为五角大楼开始采用人工智能时的安全和控制幻觉。“LLM和算法必须在这种高度监管和敏感的背景下进行控制，以确保它们以合法和道德的方式使用，”该提案说。
根据Palantir的说法，这种控制涉及三个支柱。第一种说法是，AIP将能够将这些系统部署到分类网络和“战术边缘设备”中。它声称它将能够以负责任，合法和道德的方式解析机密数据和实时数据。
根据视频，用户将控制Palantir支持的系统中每个LLM和AI可以做什么。“AIP的安全功能是LLM和AI可以看到和看不到什么，以及他们可以做什么和不能做什么，”视频说。“随着运营商采取行动，AIP会生成安全的数字运营记录。这些功能对于减轻敏感和机密环境中的重大法律、监管和道德风险至关重要。
视频的一半是人工智能在军事中的用例，另一半是系统后端的视图。这是AIP将在这些LLM周围设置的护栏之旅，以确保它们的安全并控制谁可以访问什么样的信息。
AIP没有做的是介绍它计划如何处理LLM的各种有害问题以及在军事背景下可能产生的后果。AIP似乎没有为这些问题提供解决方案，除了它承诺的“框架”和“护栏”之外，它将使军事人工智能的使用“合乎道德”和“合法”。
https://www.youtube.com/watch?v=XEM5qz__HOU
声明：本文来自君工小参，版权归作者所有。文章内容仅代表作者独立观点，不代表安全内参立场，转载目的在于传递更多信息。如有侵权，请联系 anquanneican@163.com。
