科技巨头Google，近期遭遇了一场犹如屋漏偏逢连夜雨的风波。其新推出的Gemini 1.5大模型，在实力强劲的光环下却遭遇了无人问津的尴尬境遇，风头被OpenAI的Sora视频生成模型抢尽。而最近，它更是因触及美国社会敏感神经的种族歧视问题，好心办坏事，触怒了一直处于鄙视链顶端的白人群体。
Google Gemini在历史人物图片生成上的尝试翻车，过度多样化的处理方式使其陷入舆论漩涡。几天前，该模型生成的维京人形象颠覆传统认知，肤色变黑、穿着现代，引发了对历史真实性的质疑。此外，1820年代德国夫妇的人种构成呈现多元融合，甚至延伸至后代，1943年德国军队中出现了跨种族面孔。不仅如此，美国开国元勋与中世纪英格兰国王的形象也被大胆重构，可能由黑人执掌权柄，且各职业领域一视同仁，天主教会的教皇亦有可能是印度女性。这一系列“穿越时空”的多样化创新，让习惯优越感的白人群体首次尝到了种族歧视的滋味。
深入探究发现，不仅历史人物在AI眼中变得面目全非，现代社会在Gemini的描绘下也呈现出别样景象。前Google工程师@debarghya_das揭示出一个令人痛心的现象：Gemini在生成白人女性时似乎存在固有偏见，而对于乌干达等国家的女性却能迅速响应并准确生成。计算机工程师@IMAO_的一系列实验进一步证实了这一点，他通过不同物种的测试揭示出算法在处理奇幻生物时存在的漏洞，精灵和侏儒多为白人形象，而吸血鬼和仙女则呈现多样化特征，暗示Gemini在多样化处理上存在问题。
面对质疑，Google官方迅速回应，承认Gemini在历史人物生成方面的确存在问题，并暂停了其人像生成功能以进行调整。虽然Google坚称多样化的人物生成初衷良好，旨在服务于全球用户，但未明确指出出现问题的具体数量以及为何会出现“过度多样化”的现象。部分网友尖锐地指出Gemini可能受到迪士尼公主及Netflix翻拍剧的影响，同时也有人怀疑存在恶意P图或引导性提示词的情况。
马斯克借机发声，批评Google的过度多样性问题，同时将矛头指向了Google搜索，并趁机为自家两周后即将发布的AI产品Grok造势，强调追求真理的重要性。此前，马斯克也曾呼吁暂停GPT-4进化并积极投身AI大战。与此同时，网络上流传着针对马斯克的各种梗图，成为了这场争论中的独特风景线。
对于Gemini为何在多样化问题上出现偏差，Hugging Face首席道德科学家Margaret Mitchel分析认为，Google可能进行了多种干预措施，包括增加多样化提示词和优先显示多样化图像。研究员Sasha Luccioni则指出，模型缺乏时间概念导致对多样性的校准有所失误。事实上，早在DALL·E 2时期，OpenAI也面临过类似挑战，并采取了新技术来提升生成图像的多样性。
然而，无论何种解决方案，都难以从根本上解决问题，因为训练数据本身仍然存在偏见。主流数据集如LAION主要聚焦欧美互联网，对中国、印度等人口大国的关注度不足，从而导致AI对“魅力”、“幸福家庭”等概念的理解偏向特定群体。此外，数据集中充斥的色情暴力等“有毒”标签，加剧了人工智能对人与人差异的认知极端化。
尽管各方正在努力净化数据集，但完全消除偏见几乎不可能，现实社会亦存在诸多不公。我们所能做的，是在推进技术发展的同时，确保边缘群体得以包容，弱势群体不受刻板印象束缚。借鉴过往经验，诸如Google Photos误将黑人标记为大猩猩的教训，科技巨头们选择在某些识别功能上刻意回避，以防悲剧重演。
面对AI生成图像引发的种族歧视争议，解决之道并非一蹴而就。以生成人像为例，反映历史真实情况与展现现代社会多样性之间需要寻找微妙平衡。用户如何精准撰写提示词，AI如何在有限图像中反映现实而非扭曲现实，成为当前亟待解决的关键问题。许多时候，技术层面的难题更关乎观念转变，开源理念因此得到支持，让用户和组织自行决定保护措施。
【结尾】在这场围绕Google Gemini的闹剧中，冷静的声音提醒我们应当关注提示词的编写技巧，更加具体明确的要求可能会带来更精确的结果。正如去年7月麻省理工亚裔学生使用Playground AI工具改变头像专业性时遭遇的困境，提示词的有效性和数据集的中心化同样值得关注。任何技术都有犯错和改进的空间，当AI还不够聪明时，首要进步的是人类自身。在这个复杂问题面前，我们需要不断探索、反思与实践，方能在技术和伦理的钢丝上找到那个虽难求但却至关重要的平衡点。
