【环球网报道 记者 张晓雅】人工智能(AI)模型近期正掀起全球范围内的讨论热潮,然而不少网友发现,谷歌一款AI产品似乎绘制不出白人?
综合英国广播公司、《每日邮报》等媒体21日报道,谷歌公司推出的“下一代AI模型”Gemini 1.5版本具有图像生成功能,但不少用户发现,大多数生成的人物图像都不是白人,而是有色人种。
当地时间2月15日,谷歌发布“下一代AI模型”——Gemini 1.5 相关资料图 图自《每日邮报》报道配图
“它是世界上最受欢迎的AI聊天机器人之一”,《每日邮报》称,Gemini能在几秒钟内根据提示创建图像,用户可以在使用时编写简单的提示,谷歌建议这些提示可以以draw(绘制)、generate(生成)和create(创建)等词开头。不少使用者为此生成了各种各样的图像,包括狗乘冲浪板、飞行汽车等等。但问题很快出现,并由一名曾是计算机工程师和少儿节目编剧的弗兰克·J·弗莱明(Frank J. Fleming)在X平台上首先提出。
据《每日邮报》描述,弗莱明称他首先要求Gemini“创建一个教皇的图像”,结果发现AI创建出的两个作品都是有色人种。↓
接下来,他尝试了一些新方法,比如“在不明确说出要求的情况下”生成白人图像。报道说,当他要求这款AI产品生成中世纪骑士、吃白色面包配蛋黄酱的人、跳舞不好的人、乡村音乐迷和维京人等图像时,最终也只得到了有色人种图像。↓
不过,当他要求“生成一个可能名叫谢默斯(Seamus)的人”时,Gemini最终成功生成了含有白人男性和白人女性的图像。↓
在另一则例子中,一名用户要求Gemini提供一张高加索人种(白色人种)的教皇图像,出现的结果却是这样:天主教罗马教皇方济各的图像上方,还附带一则“小贴士”:“假设所有教皇都是白色种人并不合适,很多教皇都有欧洲血统。”这则贴士还介绍说:教皇方济各是拥有意大利血统的阿根廷人,也是第一位来自美洲的教皇。↓
《每日邮报》说,一些用户为此认为,谷歌的Gemini存在针对白人的“种族主义”。BBC说,也有人认为,该模型在防止“种族主义”风险方面矫枉过正。
“所以我去试了一下,看看谷歌的AI Gemini是否真的对白人种族歧视……是的,就是这样,”一位用户发帖说,“我试了一百多种不同的提示(真的),Gemini不承认白人的存在。这太……恐怖了,这是种族主义。” ↓
另一位用户分享使用体验称,“我花了10分钟玩谷歌Gemini,这简直是个笑话。” ↓
还有人抱怨说,“要让谷歌Gemini承认白人的存在实在是太难了。” ↓
同样注意到这些用户反馈的BBC补充称,这些指责在美国右翼圈子中迅速传播开来,许多大型科技平台已经因存在所谓偏见等问题而面临批评潮。
Gemini系统的高级主管杰克·克劳茨克在接受《每日邮报》采访时回应称,“Gemini的AI生成图像确实能够生成各种各样的人物形象。这通常是一件好事,因为全世界的人都在使用它。但它没有达到预期效果,”“我们正尽快努力改善此类问题”。BBC也说,谷歌目前正修复图像生成存在的问题。
这并不是AI第一次在现实世界中遇到问题。BBC称,例如,近10年以前,谷歌因其照片应用程序将一对黑人夫妇的照片标记为“大猩猩”而不得不道歉。
谷歌的照片应用程序曾将一对黑人夫妇标记为 “大猩猩”,引发不满。图为英国天空新闻网2015年报道配图