谷歌CEO反思大模型生成错误图像：不可接受，初期没有完美AI

　　由于旗下AI(人工智能)Gemini在生成的图像中展现出了过度的“多样性”，在紧急下架Gemini刚上线不到一个月的图像生成功能后，谷歌CEO承认该问题冒犯了客户，公司将为AI产品的发布推出新流程。

　　当地时间2月27日晚间，谷歌CEO桑德·皮查伊(Sundar Pichai)给员工发了一封电子邮件，就谷歌Gemini AI此前出现的图像生成问题进行了回应。皮查伊称该问题“完全不可接受”，团队正在“日夜不休”地纠正这些问题，并表示公司将进行结构性改革，以防止类似事件的发生。

　　在声明中，皮查伊的态度十分诚恳：“我知道有一些回应已经冒犯到我们的用户，并展现出偏见——需要明确的是，这是完全不可接受的，我们做错了……没有一种AI是完美的，尤其是在行业发展的初期阶段，但我们知道自己的标准很高。”

　　皮查伊还在声明中明确了公司将会采取的一系列行动，包括进行结构性改革、更新产品指南、改进发布流程、加强评估体系和红队测试(安全检查技术)以及技术建议。

　　2月28日，谷歌母公司Alphabet(Nasdaq：GOOG)股价收于每股137.43美元，跌1.91%，总市值1.70万亿美元。

　　就在本月初，谷歌为其AI模型Gemini推出了图像生成器工具，允许用户通过输入提示来创建图像。但在过去一周中，网友们发现，该工具似乎在有意避免生成包含白人的图像，融易新媒体消息，并在图像中加入了过量的“多样性”要素，造成所生成图像的历史不准确性。

网友发现Gemini难以生成白人图像。来源：X平台

　　该问题不仅引发网友对谷歌的“群嘲”，还激怒了特斯拉CEO埃隆·马斯克，让后者于一周时间内针对该问题发布了超过150条推文，还借此事将矛头指向OpenAI、Facebook、Instagram以及维基百科等等，称逆向种族歧视正在席卷西方。

马斯克还借机为自家的xAI打起广告，称其不同于OpenAI和谷歌的产品。来源：X平台

　　谷歌已于上周紧急叫停了Gemini的图像生成功能，表示将在未来几周内重新推出。谷歌高级副总裁Prabhakar Raghavan也代表公司发布了一篇正式的道歉声明，并解释了为什么会发生这样的情况：首先，团队为了确保Gemini能够生成具有多样性的人群而对其进行了调整，但未能考虑到在某些场景中并不需要生成具有多样性的人群；其次，模型比团队的预期发展得更为谨慎，完全拒绝回应用户的某些正常提示词。

　　正是由于上述问题，Gemini生成的图像在某些情况下会“过度补偿”，在另一些情况下又会“过度保守”，从而出现了“矫枉过正”的现象。

　　Gemini本次展现出的问题，只是AI领域长期以来存在的歧视问题的另一种表现。这也从侧面说明，即使有好的初衷，随着数据的大量输入和时间推移，AI就有可能出现误解开发者意图的表现。从本质上来看，这也给AI的监督问题再次敲响了警钟：在越来越激烈的AI竞赛中，像谷歌这样的大公司如何在加快发展的同时，保证产品的安全性？

　　不过，当下的AI热潮似乎并没有任何要放慢速度的迹象。就在三天前的2月26日，谷歌旗下DeepMind发布了一个根据互联网视频训练的基础世界模型Genie。Genie是一个110亿参数的基础世界模型，在超过20万小时的二维(2D)游戏视频上进行训练，可以根据合成图像、照片甚至草图生成各种各样动作可控的2D世界。