菲律宾军方禁止基于AI的应用程序

需要用户上传个人照片,然后利用人工智能技术创建用户数字克隆的应用程序现在禁止菲律宾军人使用,菲律宾国防部已经宣布。国防部长吉尔伯托·特奥多罗二世警告这类应用程序可能存在安全风险。

上周五,军方官员确认了特奥多罗发出的备忘录的真实性,这份备忘录近日在网上广泛传播。不过,部门没有提供任何有关禁令的进一步细节。

在备忘录中,国防部长提到了一个通过输入10张用户照片来使用AI技术创建“数字化个人,模仿一个真实个人的说话和动作”的应用程序。

“这似乎无害而有趣的AI应用程序可以被恶意利用来创建假身份,可能导致身份盗窃,社交工程,钓鱼攻击和其他恶意活动,”特奥多罗写道,并补充说他已经知道有这类案例。

官员敦促下属在网上分享信息时一定要小心。

上月,美国国家安全局(NSA)和联邦调查局发出威胁警报,深假技术可能被利用帮助入侵军方和其他敏感目标的计算机系统。

“操纵真实多媒体的工具和技术本身不是新鲜事,但网络行为者使用这些技术的程度和规模是新的,”NSA数学家坎迪斯·罗克韦尔·格斯特纳在声明中说。她建议美国公司学习检测深假并制定应对计划,以防这种技术被用在自己身上。

除企业外,美国安全机构以及五角大楼和国防承包商也面临风险,警报指出。

文档还强调的另一个假设威胁是“合成媒体也可以通过传播有关政治、社会、军事或经济问题的虚假信息引起公众骚乱。”