谷歌暂停Gemini人像功能,纠偏种族、性别偏见却遇新难题。

2024-02-24 热点资讯 关注公众号
    谷歌AI图像生成模型Gemini近日遭遇了一次重大挫折,由于生成的历史人物图像存在显著错误,谷歌已决定暂停其人物图像生成功能。在一项引发广泛关注的事件中,当用户尝试让Gemini根据“美国开国元勋”这一提示词生成图像时,结果显示为非裔和原住民形象,与历史事实不符。同样,在生成“1943年德国士兵”的图像请求中,Gemini输出了包括亚裔和非裔在内的图像,再次暴露出模型对于历史情境理解的偏差。
谷歌暂停Gemini人像生成功能,因其试图改变种族和性别偏见却产生新问题    谷歌X部门在官方声明中回应称,他们正在积极应对Gemini图像生成功能存在的问题,并将暂时叫停该功能,以期尽快推出修复后的全新版本。值得一提的是,Gemini是谷歌精心研发的大规模语言模型,于今年2月16日推出的Gemini 1.5 Pro版以其长达100万token的上下文窗口刷新了业界记录,增强了对复杂信息的深入理解和跨模态处理能力,甚至能够直接分析视频。
谷歌暂停Gemini人像生成功能,因其试图改变种族和性别偏见却产生新问题    这一问题在美国社交媒体上引发了轩然大波。专栏作家Douglas Murray指出,谷歌在宣扬人种多样性方面的努力似乎超出了人工智能的能力边界,而特斯拉CEO Elon Musk也发声表示,不仅是Gemini存在问题,Google搜索服务亦存在类似的误差现象。Musk进一步强调,谷歌在AI图像生成上的失实行为揭示了其潜在的种族主义倾向和技术编程中的反文明因素。
谷歌暂停Gemini人像生成功能,因其试图改变种族和性别偏见却产生新问题    针对Gemini图像生成肤色错误的现象,评论家Douglas Murray认为根源在于机器学习公平性的问题,即机器学习过程中可能潜移默化地吸收了人类社会的隐性偏见。围绕此争议,舆论呈现出两极分化:一部分人认为Gemini试图通过AI图像消除历史上的种族和性别歧视;另一部分人则担忧谷歌利用Gemini操控2024年美国大选,偏向民主党阵营。Musk更是直指谷歌通过搜索引擎和YouTube平台对数十亿人的思想产生深远影响,对西方文明构成了严重损害。
    实际上,大模型基于训练数据集中的统计概率进行推理,容易在信息缺失或矛盾的情况下产生不准确乃至虚假的“幻觉”。这种情况在企业级、医疗级等高要求应用场景中是不可接受的。在国内,记者测试发现类似问题也同样存在于百度的“文心一言”和阿里巴巴的“通义千问”等大模型中。
    随着ChatGPT引领的新一轮AI热潮,人工智能安全问题日益凸显。今年1月下旬,Deep Fake技术制造的美国歌手Taylor Swift假色情图像在多个社交平台上广泛传播,浏览量高达4700万次,引发了公众对AI滥用风险的深切忧虑。这起事件促使微软加强了Microsoft Designer的文生图模型防护机制,以防被恶意利用。
    总结而言,尽管谷歌Gemini作为一款创新前沿的AI工具,展现了强大的跨模态处理能力和深度学习潜力,但此次事件暴露了其在历史场景理解和文化敏感性上的短板,以及AI技术普遍面临的公平性和准确性挑战。各大科技巨头需更审慎地对待AI技术发展中的伦理和社会责任问题,确保科技创新服务于人类社会的良性发展。

上一篇:为什么说“周礼”奠定了中国的精神底色
下一篇:不想孩子沉迷手机,不妨试试这3种办法,只要坚持就能看到效果
更多更酷的内容分享
猜你感兴趣
谷歌Gemini AI人像生成惹笑话,多元文化暂时搁浅。

谷歌Gemini AI人像生成惹笑话,多元文化暂时搁浅。

谷歌正在解决其AI模型Gemini图像生成功能的问题,该功能在生成人物图像时存在不准确和偏见。问题包括在与历史人物相关的图片中出现错误的性别和种族描述,以及在生成特定种族群体的图片时犹豫不决。这些问题可能是对AI领域长期存在的种族偏见问题的过度纠正。谷歌已暂停人物图像的生成,并将在不久后重新发布改进版本。

热点资讯 02.23
谷歌Gemini AI裁员:创新路遇平淡瓶颈

谷歌Gemini AI裁员:创新路遇平淡瓶颈

谷歌推出Gemini 1.5人工智能模型后不久,OpenAI发布了Sora工具,能根据文本生成视频。谷歌因图像生成工具产生对历史人物种族不准确的描述而受到质疑和批评。公司被质疑是否存在文化问题,并有呼声要求CEO下台。这引发了关于谷歌从先锋变为老古董的讨论。

热点资讯 03.05
网络图片是否放大了性别偏见?

网络图片是否放大了性别偏见?

《自然》杂志新研究发现,互联网图像内容的兴起加剧了性别偏见。研究人员通过比较图像和文本中的偏见,发现网络图片中代表男性的图像数量多于女性,且图像中的性别关联更为极端。人脑处理图像的速度比处理文本更快,图像更易传达刻板印象。

生活常识 02.26
谷歌Gemini家族加入新成员,实现规模与能力的平衡与提升:多模态兼容性已到来

谷歌Gemini家族加入新成员,实现规模与能力的平衡与提升:多模态兼容性已到来

谷歌发布新的Gemini 1.5 Flash,主要关注其速度和效率的优化,并强调了其多功能性,包括摘要、聊天应用、图像和视频字幕、从长文档和表格中提取数据等。

热点资讯 05.15
凯特王妃结束化疗回归公众视线,首度同框家人们惊喜照曝光。然而卡米拉并未到场

凯特王妃结束化疗回归公众视线,首度同框家人们惊喜照曝光。然而卡米拉并未到场

英国王室成员在皇家阿尔伯特音乐厅观看年度纪念音乐会,纪念在战争和冲突中牺牲的人们。尽管王室成员很少坐在皇家包厢中,但凯特的到场让这场演出显得并不那么重要。英国报纸普遍认为,现年43岁的凯特已经华丽归来了,虽然她是否频繁露面未知,但她看起来很健康和幸福。凯特已经开始回到健身房恢复体力,期待增长肌肉。

热点资讯 11.10
暴雪宣布:魔兽争霸2重制版将要在下月登陆!详细信息曝光

暴雪宣布:魔兽争霸2重制版将要在下月登陆!详细信息曝光

暴雪或将推出《魔兽争霸2重制版》,其中海军元素与原版《魔兽争霸2》相符。此外,暴雪还发布30周年纪念活动,并在其官方网站上设立新的游戏栏目,以吸引玩家重新体验经典游戏。然而,该重制版的制作质量并未得到认可,部分玩家期待暴雪能改进相关内容。虽然War3版本号变为2.0只是程序员的失误,但这并不影响暴雪推出更多高质量游戏的兴趣。

热点资讯 11.10
尴尬至极!《这么奇葩?中韩合作制作游戏仅6个月却人去楼空,历经3年最终宣布停运

尴尬至极!《这么奇葩?中韩合作制作游戏仅6个月却人去楼空,历经3年最终宣布停运

最近,一款名为《少女的王座》的游戏发布。该游戏是由星辉游戏发行,西莉雅工坊打造,以中日韩结合的方式设计,并由Kenn、下野纮、诹访部顺一、平川大辅、柿原彻也等大佬配音。然而,这款游戏在推出前就吸引了大量玩家的关注,尤其是其高质量的画面和出色的音效。然而,在公测后却出现了许多问题,如游戏停运、工作室消失等,这让玩家们感到非常失望。

热点资讯 11.10
非人哉:神仙精怪如何选择口罩?不同角色的使用方式各有特色

非人哉:神仙精怪如何选择口罩?不同角色的使用方式各有特色

九月感冒期间佩戴口罩困难,仅能绑或贴,如敖烈、刑天和海燕均尝试戴口罩但未能成功。最终九月通过绑口罩与人类相似,并以眼罩替代。有趣的是,敖烈的面部结构与人类不同,无法直接戴口罩,而刑天则是以肚脐眼代替;海燕虽然可以化为人形,但仍保留鸟的头,且未配备真实耳朵。

热点资讯 11.10
德拉诺之王时空漫游商人更新:新武器&套装幻化内容全面公开!

德拉诺之王时空漫游商人更新:新武器&套装幻化内容全面公开!

在《德拉诺之王》的时空漫游游戏中,新版本的NPC引入了大量新的幻化装备。其中包括一把武器、一套防御套装、两件轻甲和一件重甲。所有装备的颜色采用暗色调,包括蓝色、紫色和绿色等,以凸显主题。其中,橙色和黄色更受欢迎,象征着活力和热情。同时,玩家可以通过这些装备获得额外的经验和金钱奖励。

热点资讯 11.10
梦幻西游副本挑战:困境中的卡怪与关键怪物:逼不得已?解决方式告诉你

梦幻西游副本挑战:困境中的卡怪与关键怪物:逼不得已?解决方式告诉你

摊主绳索的账号解绑了,但是在申诉的过程中还是会受到其他恶意卖家的影响。 在梦幻西游中, 游戏的意义就在于它能够给人带来快乐,而游戏中各种各样的活动和挑战也能吸引不同年龄段、兴趣爱好的人群参与。我们可以通过玩游戏来获得乐趣,同时也可以通过了解和参与游戏中的活动和挑战来拓展自己的视野和知识面。在梦幻西游中,还有很多特色功能和活动等待大家去发掘和探索!

热点资讯 11.10
高效节能:全新一天发20度电的露营车11月29成都房展首秀,零电力消耗只需一键式操作

高效节能:全新一天发20度电的露营车11月29成都房展首秀,零电力消耗只需一键式操作

美景美家卡居600房车是一款可以实现用电无忧和绿色环保的自驾车,配备了20度锂电和太阳能发电,车身尺寸为5995×2530×3175mm,轴距为3365mm。外观简洁时尚,配色青绿橙黑,具有辨识度高且让人感觉舒适的新鲜感。车内设施齐全,驾驶室上方设计有额头床,会客区配置双人对坐卡座和吊柜,厨房区配备有电磁炉、洗菜池、水龙头等基本设备。此外,车尾休息区采用横置床设计,方便长途旅行。此款产品旨在解决自驾者对续航里程和电力需求的担忧,是当前市场上的一款优秀选择。如果您喜欢旅游,可以选择这款车型。

热点资讯 11.10
纯电续航达400公里!全新混动车型抢占市场高峰:黄金时代即将到来吗?

纯电续航达400公里!全新混动车型抢占市场高峰:黄金时代即将到来吗?

2024年前9个月,新能源汽车产销量均超过830万辆,同比增长均超过30%。其中纯电动汽车和插电式混合动力汽车销量分别同比增长11.9%和79.5%。 自主品牌的混动领域更加务实,降本增效成为竞争焦点,同时增程系统持续优化,推出针对不同消费群体的产品。 合资企业力求以性能实现差异化,如大众主品牌计划在2025年停产两款混动车型,2026年推出三款全新插电混动系统产品。 插电混动和增程式电动车的市场份额提高不会影响中国汽车行业到2030年碳达峰、2060年碳中和的目标。 专家认为,插电混动和增程式电动车的市场份额提高将加剧市场竞争。此外,反映在用户体验上,动力更强、续航更长、能耗更低、噪音更小等都是高感知的项目。反映在技术层面,发动机和发电机效率更高、动力电池充放电倍率更高、能量管理控制策略更优、NVH控制得更好也在洞察用户需求、精准产品定位、技术侧重等多维度考验企业的应对。

热点资讯 11.10
奥迪A5L与华为联手打造未来智能驾驶,全新的Q9有望在明年初发布

奥迪A5L与华为联手打造未来智能驾驶,全新的Q9有望在明年初发布

全新奥迪A7三厢轿车、国产奥迪A5L将搭载华为高阶智驾,成为BBA豪华轿车中唯一在中国市场玩高阶智驾的车型。奥迪Q9将于明年发布,采用三排7座布局,有望配备4.0T V8发动机和插混系统车型。此外,奥迪在电动车方面也加大了研发投入,首款电动车奥迪e-tron将在2025年底上市。这些都将提升奥迪在中国市场的竞争力,也是其产品矩阵升级的重要举措。

热点资讯 11.10
四轮转向,原地掉头,全新宝骏发布:我也要逆风而行!

四轮转向,原地掉头,全新宝骏发布:我也要逆风而行!

宝骏汽车推出全新四轮智驱技术,包括原地掉头、横向行驶、曲线行驶等功能,通过分布式驱动实现四个车轮的角度不同,实现以前难以实现的驱动动作。同时,现场展示了其官方公布的展示视频,引人注目。用户可点赞认可,或者在动态下查看更详细的介绍。

热点资讯 11.10