Meta将对AI生成内容进行标记

(SeaPRwire) –   Facebook和Instagram的母公司将找出并标记机器人创建的视频、照片和音频

Meta已宣布，从5月份起将在Facebook和Instagram上对由AI生成的 内容进行标记。到目前为止，该公司一直奉行删除此类由计算机创建的内容的政策。

该公司在周五的一篇博文中解释说，它会将“通过AI创建“标签应用到由人工智能创建的照片、音频或视频内容中。在Meta检测到AI内容的“行业共享信号”时，或当用户自愿披露他们发布的内容是由AI创建时，这些标签将自动应用。

Meta表示，如果相关内容 “在重要事项上极有可能严重误导公众”时，则可能会应用更醒目的标签。

目前，Meta 的“操纵媒体”政策仅适用于“由 AI 创建或修改的视频，使人看起来说了他们没说过的话”。违反此政策的内容会被删除，而不是被标记。

新政策将此范围扩大到显示某人“做了一些他们没有做过的事情”的视频，以及照片和音频。然而，它比旧方法更宽松，因为相关内容将被允许保留在线。

新政策将此范围扩大到显示某人“做了一些他们没有做过的事情”的视频，以及照片和音频。然而，它比旧方法更宽松，因为相关内容将被允许保留在线。

该公司解释说：“我们的操纵媒体政策写于 2020 年，当时逼真的AI生成的内容很少见，而主要担忧是视频。”“在过去的四年中，尤其是在去年，人们开发了其他类型的逼真的 AI 生成的内容，例如音频和照片，而且这项技术正在迅速发展。”

自今年年初以来，美国监管机构宣布对人工智能生成的“机器人电话”进行打击，此前新罕布什尔州居民收到由计算机生成的乔·拜登联系，敦促他们不要参加该州的民主党初选，而白宫则承诺“解决”非法传播的问题，此前流行歌手泰勒·斯威夫特的假裸照在社交媒体上传播。前美国总统唐纳德·特朗普也对这个问题发表了看法，指责美国媒体使用人工智能让他在照片中显得更胖。

Meta 并不是唯一一家使用标签来打击人工智能内容的科技巨头。截至去年，TikTok要求用户标记他们自己的AI生成内容，同时允许其他用户举报他们怀疑是AI生成的内容。YouTube上个月也引入了一个类似的基于信任的系统。

由于 6 月份欧盟和 11 月份美国将举行关键选举，所以立法者已敦促科技公司对人工智能创建的“深度造假”采取行动，他们认为“深度造假”可能会被用来欺骗选民。今年早些时候，Meta、TikTok、Google和超过十几个其他行业领导者一起签署了原则，以“帮助防止虚假AI内容干扰今年的全球选举”。

但是，像TikTok和YouTube这样的使用荣誉系统的平台可能很快被迫采取Meta的方法。根据将于明年夏天生效的欧盟人工智能法的一项条款，科技公司将因未检测和识别AI创建的内容（包括“出于向公众通报公共利益事项的目的而发布”的文本）而被罚款。