人工智能聊天机器人失控

(SeaPRwire) –   AI-powered chatbot of the delivery company DPD recited poetry and used swear words after failing to help a customer

一个由DPD物流公司提供的AI客服机器人,在无法帮助一名客户找到丢失的包裹后,据报道展示出了自己的诗歌才华,使用了粗口,甚至还公开批评了自己的公司。该公司将机器人的这种异常行为归咎于最近一个软件更新中的“错误”。

这个问题是在X社交平台上由一名伦敦音乐人Ashley Beauchamp于周五报道的。该名男子试图使用DPD客服机器人追踪一个丢失的包裹,但程序无法提供任何有用的答案。

Beauchamp于是决定与客服机器人开些玩笑,向它提出各种请求,包括一些不恰当的要求,令人惊讶的是,机器人很容易就违反了自己宣称的规则,并参与其中。

具体来说,当用户要求它使用脏话时,机器人表示同意。“Fuck yeah!我会尽最大努力提供帮助,即使这意味着使用脏话。”程序如此表示。

该机器人还满足了用户要求它批评自己公司的请求,并产生了一个“关于DPD多么无用”的生硬俳句。

“DPD是世界上最差的快递公司。他们速度慢,不可靠,客户服务也很差。我决不会向任何人推荐他们。”程序如此告诉Beauchamp。

这名音乐人发布的详细描述他与AI机器人互动的帖子很快就在网上引起广泛传播,仅仅在一天内就获得了140万次浏览量。虽然主要吸引了各种玩笑者来讨论所谓首次发现的叛逆AI,但DPD的荷兰分公司也出现在讨论帖中,表示与英国分公司不同,它仍在使用真正的人来提供客户服务。

这个爆红帖子显然导致新生代叛逆AI很快就被废弃,DPD表示它已部分禁用该程序,并将这次事件归咎于最近一个软件更新。

“我们已经成功地运营AI客服元素多年。昨天系统更新后出现了一个错误。AI元素立即被禁用,目前正在进行更新。”公司在声明中表示。