谷歌暂停Gemini人像功能,纠偏种族、性别偏见却遇新难题。

2024-02-24 热点资讯 关注公众号
    谷歌AI图像生成模型Gemini近日遭遇了一次重大挫折,由于生成的历史人物图像存在显著错误,谷歌已决定暂停其人物图像生成功能。在一项引发广泛关注的事件中,当用户尝试让Gemini根据“美国开国元勋”这一提示词生成图像时,结果显示为非裔和原住民形象,与历史事实不符。同样,在生成“1943年德国士兵”的图像请求中,Gemini输出了包括亚裔和非裔在内的图像,再次暴露出模型对于历史情境理解的偏差。
谷歌暂停Gemini人像生成功能,因其试图改变种族和性别偏见却产生新问题    谷歌X部门在官方声明中回应称,他们正在积极应对Gemini图像生成功能存在的问题,并将暂时叫停该功能,以期尽快推出修复后的全新版本。值得一提的是,Gemini是谷歌精心研发的大规模语言模型,于今年2月16日推出的Gemini 1.5 Pro版以其长达100万token的上下文窗口刷新了业界记录,增强了对复杂信息的深入理解和跨模态处理能力,甚至能够直接分析视频。
谷歌暂停Gemini人像生成功能,因其试图改变种族和性别偏见却产生新问题    这一问题在美国社交媒体上引发了轩然大波。专栏作家Douglas Murray指出,谷歌在宣扬人种多样性方面的努力似乎超出了人工智能的能力边界,而特斯拉CEO Elon Musk也发声表示,不仅是Gemini存在问题,Google搜索服务亦存在类似的误差现象。Musk进一步强调,谷歌在AI图像生成上的失实行为揭示了其潜在的种族主义倾向和技术编程中的反文明因素。
谷歌暂停Gemini人像生成功能,因其试图改变种族和性别偏见却产生新问题    针对Gemini图像生成肤色错误的现象,评论家Douglas Murray认为根源在于机器学习公平性的问题,即机器学习过程中可能潜移默化地吸收了人类社会的隐性偏见。围绕此争议,舆论呈现出两极分化:一部分人认为Gemini试图通过AI图像消除历史上的种族和性别歧视;另一部分人则担忧谷歌利用Gemini操控2024年美国大选,偏向民主党阵营。Musk更是直指谷歌通过搜索引擎和YouTube平台对数十亿人的思想产生深远影响,对西方文明构成了严重损害。
    实际上,大模型基于训练数据集中的统计概率进行推理,容易在信息缺失或矛盾的情况下产生不准确乃至虚假的“幻觉”。这种情况在企业级、医疗级等高要求应用场景中是不可接受的。在国内,记者测试发现类似问题也同样存在于百度的“文心一言”和阿里巴巴的“通义千问”等大模型中。
    随着ChatGPT引领的新一轮AI热潮,人工智能安全问题日益凸显。今年1月下旬,Deep Fake技术制造的美国歌手Taylor Swift假色情图像在多个社交平台上广泛传播,浏览量高达4700万次,引发了公众对AI滥用风险的深切忧虑。这起事件促使微软加强了Microsoft Designer的文生图模型防护机制,以防被恶意利用。
    总结而言,尽管谷歌Gemini作为一款创新前沿的AI工具,展现了强大的跨模态处理能力和深度学习潜力,但此次事件暴露了其在历史场景理解和文化敏感性上的短板,以及AI技术普遍面临的公平性和准确性挑战。各大科技巨头需更审慎地对待AI技术发展中的伦理和社会责任问题,确保科技创新服务于人类社会的良性发展。

上一篇:为什么说“周礼”奠定了中国的精神底色
下一篇:不想孩子沉迷手机,不妨试试这3种办法,只要坚持就能看到效果
更多更酷的内容分享
猜你感兴趣
谷歌Gemini AI人像生成惹笑话,多元文化暂时搁浅。

谷歌Gemini AI人像生成惹笑话,多元文化暂时搁浅。

谷歌正在解决其AI模型Gemini图像生成功能的问题,该功能在生成人物图像时存在不准确和偏见。问题包括在与历史人物相关的图片中出现错误的性别和种族描述,以及在生成特定种族群体的图片时犹豫不决。这些问题可能是对AI领域长期存在的种族偏见问题的过度纠正。谷歌已暂停人物图像的生成,并将在不久后重新发布改进版本。

热点资讯 02.23
谷歌Gemini AI裁员:创新路遇平淡瓶颈

谷歌Gemini AI裁员:创新路遇平淡瓶颈

谷歌推出Gemini 1.5人工智能模型后不久,OpenAI发布了Sora工具,能根据文本生成视频。谷歌因图像生成工具产生对历史人物种族不准确的描述而受到质疑和批评。公司被质疑是否存在文化问题,并有呼声要求CEO下台。这引发了关于谷歌从先锋变为老古董的讨论。

热点资讯 03.05
网络图片是否放大了性别偏见?

网络图片是否放大了性别偏见?

《自然》杂志新研究发现,互联网图像内容的兴起加剧了性别偏见。研究人员通过比较图像和文本中的偏见,发现网络图片中代表男性的图像数量多于女性,且图像中的性别关联更为极端。人脑处理图像的速度比处理文本更快,图像更易传达刻板印象。

生活常识 02.26
谷歌Gemini家族加入新成员,实现规模与能力的平衡与提升:多模态兼容性已到来

谷歌Gemini家族加入新成员,实现规模与能力的平衡与提升:多模态兼容性已到来

谷歌发布新的Gemini 1.5 Flash,主要关注其速度和效率的优化,并强调了其多功能性,包括摘要、聊天应用、图像和视频字幕、从长文档和表格中提取数据等。

热点资讯 05.15
权重股动荡,指数破3300寻求市场修复性机会

权重股动荡,指数破3300寻求市场修复性机会

电器等板块涨幅最大。 综合来说,本周市场呈现震荡探底走势,权重股低迷,但题材股活跃。对于下周,建议投资者关注政策面变化和成交量变化,控制好风险。具体操作上,可以关注调控政策的变化,以及行业基本面和业绩预告等信息。

热点资讯 11.23
电商出海:拉丁美洲市场解析与投资机遇

电商出海:拉丁美洲市场解析与投资机遇

疫情改变了消费者的购物习惯,拉美电商平台迎来快速发展,其中跨境电商卖家积极布局。据估计,预计2028年拉美地区电商市场规模将突破2050亿美元。虽然各国市场潜力各异,但有部分卖家已早早预见到这可能是一个难得的机遇,并开始在美客多等平台上展开竞争。

热点资讯 11.23
AI技术开启新篇章:搜索引擎市场的新一轮竞争风暴正在展开

AI技术开启新篇章:搜索引擎市场的新一轮竞争风暴正在展开

以下是一段关于AI搜索产品推出的新闻概述: 越来越多的互联网厂商推出AI搜索产品,其中最著名的是知乎直答、搜狗输入法和360集团。这些产品的推出反映了AI搜索技术的不断提升,预计在未来一段时间内,用户使用成本将会与传统搜索引擎相近。同时,它们也是对AI搜索逻辑与传统搜索逻辑差异性的突破,尤其是后者更关注场景侧的深入程度。尽管当前AI搜索产品仍存在用户习惯问题和产品升级需求等问题,但随着技术的发展和市场的需求,这些问题有望得到解决。在整体上,AI搜索正在改变我们的生活,并将继续推动数字化转型。

热点资讯 11.23
印尼欲求更多:苹果1亿美元投资仍无法解iPhone 16封杀令?

印尼欲求更多:苹果1亿美元投资仍无法解iPhone 16封杀令?

苹果面临印尼市场禁令困境,寻求解除或增加投资,可能寻求双倍回报。印尼政府希望能获得更大的投资,以换取其在手机制造方面的支持。

热点资讯 11.23
亚马逊海外官方旗舰店入驻京东:跨境巨头的激战升级还是新一轮较量?

亚马逊海外官方旗舰店入驻京东:跨境巨头的激战升级还是新一轮较量?

亚马逊海外官方旗舰店已正式入驻京东,旨在为全球消费者提供更多选择。亚马逊中国副总裁李岩川表示,他们将扩大采销、售前服务和支付方式的合作机会。同时,两家公司也将探索社交媒体电商和直播电商领域的投资和布局。

热点资讯 11.23
纳芯微王升杨:中国模拟芯片行业并购整合的必然趋势,你的浏览器可能需要更新一下

纳芯微王升杨:中国模拟芯片行业并购整合的必然趋势,你的浏览器可能需要更新一下

芯片制造商面临毛利率下降的压力。然而,纳芯微有限公司董事长王升杨表示,他有信心带领企业走出困境,走向更广阔的发展空间。他在采访中指出,在未来,中国芯片企业在市场竞争中将更加注重产品的定位和定义,以及与用户的深入沟通。此外,他也认为,当前的芯片行业正逐渐迈向稳健发展的阶段,关键在于企业的技术进步和创新能力。最后,他表示,中国汽车芯片产业将持续发展,为全球汽车行业注入新的动力。

热点资讯 11.23
苹果即将对Siri进行重大变革:发布会日期曝光!

苹果即将对Siri进行重大变革:发布会日期曝光!

苹果正开发更强大且具有对话功能的Siri数字助手,旨在赶超OpenAI的ChatGPT和其他语音服务。此新型Siri将采用高级的语言模型,支持双向对话,并且更精准地控制第三方应用。此项目已进行了13年,但仍然落后于Google的Gemini等竞争对手。苹果计划最早在2025年发布新的Siri,但确切日期仍有不确定性。此外,近期发布的招聘信息也显示,苹果计划推出更强大的Siri。

热点资讯 11.23
37岁导演再次开山之作:《庆余年2》演绎主角,他的新挑战引行业热议

37岁导演再次开山之作:《庆余年2》演绎主角,他的新挑战引行业热议

本文主要讲述了悬疑剧《宿敌》上线后引发的关注度,以及多个演员在其中的角色塑造。包括男主角廖凡、女主角黄萧、胡夏峰和国安警官肖波等,他们分别在剧中表现出层次感分明、立体饱满的人物形象和出色的表演。沈晓海作为一名熟知多年的老戏骨,在《宿敌》中的出色表现也受到了观众的一致好评。这些演员们在剧中共同营造了一个引人入胜的故事,并且展现出各自的特色和魅力。文章最后强调了这部电视剧的价值所在,呼吁更多优秀的影视作品出现。

热点资讯 11.23
《小巷人家》全体告别成员致敬与告别:王安宇手书歌词,周洁琼弹琵琶,闫妮蒋欣言简意赅

王安宇告别《小巷人家》,留下手写歌词与心声;周洁琼、闫妮、蒋欣齐唱,歌曲简单却深情。告别日常,致敬同行!

《小巷人家》全体告别成员致敬与告别:王安宇手书歌词,周洁琼弹琵琶,闫妮蒋欣言简意赅 王安宇告别《小巷人家》,留下手写歌词与心声;周洁琼、闫妮、蒋欣齐唱,歌曲简单却深情。告别日常,致敬同行!

度,乐观且坚强的林栋哲,犹如一缕阳光照亮了整个小巷。面对结束,四人分别发布告别信,感谢付出与陪伴。蒋欣饰演的宋莹圆满告别华妃的角色,闫妮塑造的黄玲突破难关,郭晓东塑造的庄超英深具责任感,李光洁扮演的林武峰则令人称赞。最后四位主角以微笑告别,完美谢幕。剧中情感深厚,让人感慨万千。

热点资讯 11.23
李行亮为何没有朋友?原因解析:朋友被麦琳清空

李行亮为何没有朋友?原因解析:朋友被麦琳清空

麦琳炒热了自己的名声并造成争议,同时也揭露了好友的贪婪行为。尽管如此,500哥并未因此生气,并表示对朋友充满了尊重。

热点资讯 11.23