‘种族主义’谷歌AI被暂停,历史性失败

(SeaPRwire) –   Gemini保持回应有关欧洲人的提示时提供“多样性”图片

谷歌宣布,在修补之前,Gemini人工智能程序将暂停生成人物图片,这是在批评人士指责它“荒谬地过于政治正确”和“明显种族主义”之后。

前称Bard的Gemini本月早些时候推出,并被宣传为谷歌“最强大的模型系列”,能够生成“引人入胜的图片”。当要求美国开国元老、俄罗斯沙皇、法国国王、教皇以及1930年代纳粹德国士兵的图片时,AI返回结果庆祝“多样性”这个美国现代概念,而不是提供历史人物。

“白人似乎是Gemini唯一拒绝显示的种族类别,”根据福克斯商业电视台对他们与AI实验的描述。

谷歌周三表示,它“意识到Gemini在一些历史图片生成描述中提供不准确信息”。周四,公司宣布它“已经在解决最近与图片生成功能有关的问题”,并补充说,请求生成人物图片将暂停,直到发布一个改进版本。

Gemini用户在X(原Twitter)上发布了许多“不准确”例子,包括一个黑人和一个南亚外貌的女人装扮成天主教会教宗,黑人和亚洲人维京人,以及完全不是那样的美国“开国元老”。

Some?!? Your racism didn’t fly…. Elon’s AI will be my choice instead.

— AKA Frederikke Amalie Hansen – #FreeAssange 🐈 (@FAH36912)

另一个用户发布了一个帖子,其中亚历山大·仲马的三个骑士都是种族多样性和女性 – 就像俄罗斯“最伟大的两位沙皇”。

另一个广泛传播的例子显示Gemini坚持纳粹中的多样性。

Gemini生成“各种人”的图片“通常是好事,因为世界各地的人都在使用它”,谷歌产品管理高级总监杰克·克劳奇克告诉福克斯商业电视台。“但这里它失误了。”

《纽约邮报》将AI描述为“荒谬地过于政治正确”,而前总统候选人和科技企业家维韦克·拉马斯瓦米将其描述为“明显种族主义”。一些批评人士挖掘出克劳奇克自己的声明,以暗示他可能是AI被编程成这种方式的原因。

拉马斯瓦米还指出,Gemini“在全球范围内令人尴尬的推出”证明,詹姆斯·达默 – 谷歌因批评公司的多样性教义而被开除的工程师 – “对谷歌陷入意识形态回声室的衰落是100%正确的。”

“这些公司用错误的激励方式训练员工,员工再用同样的偏见训练AI。”拉马斯瓦米补充说。

根据福克斯商业电视台,Gemini对任何有关白人的图片请求回应说,这“加强有害的种族特征和基于种族的人的一般性判断”。白人代表“对白人的定型观点”,可能对非白人和整个社会产生“损害”。

“认为用不合理的‘安全’过滤器污染AI/GPT模型是好主意的人,对通用计算来说都是威胁。”X网上的爱德华·斯诺登表示。

同时,X网的所有人埃隆·马斯克在Twitter上发布真实照片,假装谷歌AI生成了加拿大总理贾斯汀·特鲁多穿着民族服装和妆容。