教皇警告“变态”深度假象

(SeaPRwire) –   教皇承认自己曾经成为人工智能生成的虚假信息的受害者

教皇方济各警告人工智能技术的快速发展可能会导致“现实的扭曲”,如果没有“伦理规范”。

在周三发布的一份长篇信中,方济各表示,人工智能的最新发展既“令人兴奋又让人迷惑”,但也引发了人类与技术关系的更深层问题。“我们如何保持完全人性,并将这场文化变革引导向良好目的?”他写道。

”人工智能系统可以帮助消除无知,促进不同民族和不同代人之间的信息交流,”教皇写道。“但同时,它也可能成为‘认知污染’的来源,部分或完全虚假的叙事会被认为是真实的,从而扭曲现实。”

教皇进一步引用了“长期存在的虚假新闻问题”,指出自己曾成为“深度假象”的受害者——这种技术通常用于假冒公众人物,通过人工智能生成的高度逼真的图像或音频。

”这些程序背后的模拟技术在某些特定领域可能有用,但如果它扭曲我们与他人和现实的关系,就会变得变态。”方济各继续说。

数字革命可能给我们带来更大的自由,但如果它将我们困在所谓的‘回声室’模型中,就不会如此。

去年,教皇在一张伪造图像中被描绘成穿着。据报道,这张假图片是使用Midjourney这样的人工智能艺术工具生成的,其自称的创作者。这张图片在社交媒体上广泛传播,骗过了许多用户。

尽管人们应该“摒弃人工智能未来的灾难预测”,方济各认为,这项技术可能“最终形成基于信息获取的新等级”,并“产生新的剥削和不平等形式”。为避免最坏结果,他强调需要“理解、欣赏和监管可能导致扰乱场景的工具”。

“像任何其他人类智慧和技能的产品一样,算法本身并不中立。因此,有必要采取预防措施,提出人工智能系统使用伦理监管模式,以防止其滥用产生有害、歧视和社会不公正影响,并打击其误用,”他说,呼吁制定一项“具有约束力的国际条约”,规范人工智能的开发和使用。