联邦安全机构警告称,AI 生成的图像将越来越多地用于网络攻击
美国国家安全局(NSA)和联邦调查局(FBI)就“深度伪造”技术发出了威胁警报,这种技术可能被利用来帮助入侵军事和其他敏感目标的计算机系统。
问题在于黑客可以用计算机生成的图像来劫持品牌、冒充组织领导人并获得敏感数据,联邦机构周二在一份网络安全建议中说。虽然这样的策略在过去已经被采用,但人工智能的进步使得创建深度伪造图像变得更容易、更便宜。
“操纵真实多媒体的工具和技术并非新事,但网络行为者使用这些技术的便捷性和规模是新的,” NSA数学家Candice Rockwell Gerstner在一份声明中说。“组织及其员工需要学习识别深度伪造的手法和技术,并制定应对计划,以便在遭到攻击时减轻影响。”
美国网络安全和基础设施安全局(CISA)也对周二的建议做出了贡献。各机构警告说,深度伪造攻击可能会给安全机构、五角大楼和国防承包商带来挑战。
各机构建议组织部署能够检测深度伪造的技术,并追踪多媒体文件的来源。“除了损害品牌和财务外,合成媒体还可以通过传播关于政治、社会、军事或经济问题的虚假信息来引起公众动荡,”建议说。
随着2024年美国大选的临近以及共和党国会议员推进对拜登总统的弹劾调查,这些担忧将变得尤为重要。吹捧深度伪造的威胁也可能制造一个质疑真实多媒体文件的有效性的借口。
在2020年选举周期中,FBI为社交媒体审查一份关于拜登家族所谓影响力交易的爆炸性报告创造了条件——正如拜登儿子亨特·拜登遗弃在维修店的笔记本电脑上的文件所证明的那样。脸书创始人马克·扎克伯格去年说,他的平台限制了对拜登故事的分享,因为FBI警告该公司称执法部门预计俄罗斯会在大选前夕进行一次重大的“信息倾倒”。选举后,前美国情报官员本质上证实了这一理论,错误地声称笔记本电脑故事具有俄罗斯虚假信息的“特征”。
