Accrete,这家为五角大楼人工智能进军提供便利的公司,还销售一种允许企业应对有害谣言的工具
美国特种作战司令部与人工智能软件开发商Accrete合作,利用后者上周公布的新闻稿中透露的“开源威胁检测”软件Argus,实时应对社交媒体上的“合成媒体”和所谓的虚假信息。
Argus软件名取自希腊神话中百眼巨人的名字,据报道它可以分析社交媒体数据,捕捉“新兴叙述”,并快速汇总军队需要的信息,以扑灭还在传播过程中就迅速压制不友好的趋势。
该工具将被情报分析师和其他专家用来“预测社交媒体实时的虚假信息威胁”。
Accrete首席执行官Prashant Bhuyan在公司声明中称,这些威胁可能包括“AI生成的病毒式叙述、深度伪造和其他有害的社交媒体基于AI的应用”,它们“对美国国家安全和公民社会构成严重威胁”,而社交媒体本身就是一个“无规矩的环境,对手经常利用推理漏洞,通过有意散布虚假信息来操纵行为”。
五角大楼并不是Argus功能的唯一客户——一个名为Nebula Social的版本将面向私营企业推出,以帮助它们管理网络声誉和客户对其品牌的谈论。
Bhuyan说:“公司已经遭受了竞争对手、不满的员工和其他类型对手制造的AI生成病毒式虚假信息和深度伪造所造成的重大经济损失。”他认为,市场正在寻找可与私营部门共享的军事级信息战工具。
他预测:“我们相信,能预测和消除恶意AI生成的合成媒体的AI市场即将爆炸。”该软件的私营部门版本旨在通过首先应对最相关的问题,在它们对客户行为产生负面影响之前保护免受“客户痛点”,它通过自动生成内容(即合成媒体)来学习一个公司所重视的东西并作出回应。
五角大楼辖下的国防创新单位最初与Accrete合作开发Argus,前谷歌CEO埃里克·施密特(Eric Schmidt)是该单位的联合创始人。五角大楼为Argus的五年许可支付了数百万美元,该程序旨在(除其他外)发现“表示潜在非法活动的行为异常,而这些活动对人类来说太复杂无法识别”。
