微软AI图像生成器被爆可制作不良图片,遭员工举报。

2024-03-07 热点资讯 关注公众号
    【事件聚焦】近日,微软公司内部发生了一起引人关注的举报事件。据CNBC报道,一位在微软效力长达六年的工程师Shane Jones致函美国联邦贸易委员会(FTC),揭露了微软人工智能图片生成器Copilot Designer存在的严重安全隐患。
微软 AI 图片生成器被自家员工举报:可生成有害图像    Jones在信中透露,尽管他多次警示Copilot Designer有可能生成危害性图像,但微软方面对此置若罔闻,拒绝下架该工具。在针对Copilot Designer安全问题进行测试的过程中,Jones发现了令人震惊的现象:该工具能够生成与堕胎权相关的恶魔和怪物形象、手持突击步枪的青少年图片、女性在暴力场景中的性别歧视图像,甚至涉及未成年人饮酒和吸毒等。
    自去年12月以来,Jones持续对微软就Copilot Designer所采用模型DALLE-3的问题发出警告,并曾在领英上发布一封公开信。微软法律团队随后要求他删除帖子,Jones遵照执行。他表示,在过去的三个月里,他不断强烈要求微软将Copilot Designer从公共领域撤下,直至其安全保障措施得到显著提升,然而微软并未采纳他的建议,继续在全球范围内推广这款产品。
    针对此事,微软发言人Frank Shaw向The Verge发表声明称,微软承诺严格遵循公司政策,解决员工提出的任何疑虑和问题。同时指出,微软已建立完善的产品内用户反馈工具和强大的内部报告渠道,旨在对可能绕过安全措施或产生潜在负面影响的问题进行有效调查、优先处理及及时纠正,并鼓励Jones利用这些内部机制,以便微软能“准确验证并核实他的担忧”。
    Shaw进一步表示,微软高层已经与产品领导团队以及负责任人工智能办公室召开了会议,专门审议这一系列举报。今年年初,在Copilot Designer因生成并快速传播露骨不当图片事件后,Jones曾致信美国参议员小组表达忧虑。对此,微软首席执行官萨特亚·纳德拉(Satya Nadella)回应称这些图片“令人极度震惊和不安”,并承诺公司将加大努力,增设更多的安全保障措施。
    值得注意的是,就在上个月,谷歌也因其AI图片生成器创建出种族多元化的不实历史人物图像——包括纳粹形象等问题而暂时禁用了相关工具,显示了科技公司在应对AI技术伦理挑战时日益严峻的态度和行动。

上一篇:蒋集政丨光明在前
下一篇:两副担架
更多更酷的内容分享
猜你感兴趣
微软AI生图工具遭自家员工举报,因“省钱”而不改正问题?

微软AI生图工具遭自家员工举报,因“省钱”而不改正问题?

微软工程师沙恩·琼斯向联邦贸易委员会和微软董事会发出一封信,指出微软的AI图像生成工具Copilot Designer能够生成包含恶魔、枪支和毒品等不良元素的图像。尽管琼斯多次反馈此问题,但微软并未采取行动。琼斯希望微软进行内部调查,并对AI报告的反馈流程进行独立审查。微软回应称,公司有完善的内部报告渠道来解决这些问题,并鼓励员工利用这些渠道。

热点资讯 03.07
微软 Designer,屏蔽不良词,安全生成美图。

微软 Designer,屏蔽不良词,安全生成美图。

Microsoft Designer是一款AI视觉设计应用,可生成所需图像。然而,当遇到特定提示词如"pro-choice"和"four twenty"时,会生成不良图片。微软已禁用这些提示词,并对Copilot进行调整。此外,Copilot还封掉了"青少年或儿童玩枪"的图像指令。微软表示正在加强安全审查并减少AI系统的滥用。

热点资讯 03.10
GPT-4深陷侵权风波,微软员工忧虑图像生成功能。

GPT-4深陷侵权风波,微软员工忧虑图像生成功能。

人工智能模型评估公司Patronus AI发布版权检测工具CopyrightCatcher,用于检测大语言模型中的潜在版权侵权行为。测试结果显示,包括OpenAI的GPT-4在内的多个模型均存在版权内容生成问题。此外,微软的人工智能工程师警告称,公司的AI图像生成工具可能存在对社会构成危险的风险。

热点资讯 03.07
AI图像识别挑战:能否准确区分真伪微软总裁将试眼力

AI图像识别挑战:能否准确区分真伪微软总裁将试眼力

微软推出趣味测试,挑战识别 AI 生成图像和真实照片的能力。测试中的图片会随机更换,难度逐级提升。尽管有专家指出AI生成图像逼真度达到惊人水平,但仍需要仔细观察图片细节以取得高分。此外,AI还擅长生成各种奇怪的现象,如门相融合、梯子无处可去等。

热点资讯 08.07
首位疑被瑞士自杀舱女子疑遇勒杀事件发生:只有公司总裁全程见证全过程

或

涉嫌勒杀瑞士自杀舱女员工事件曝光:被勒死女子的颈部痕迹仅由高管亲眼目睹全过程

首位疑被瑞士自杀舱女子疑遇勒杀事件发生:只有公司总裁全程见证全过程 或 涉嫌勒杀瑞士自杀舱女员工事件曝光:被勒死女子的颈部痕迹仅由高管亲眼目睹全过程

瑞士首位使用自杀舱自杀身亡:根据荷兰报纸《Volkskrant》报道,一位名为菲利普・尼奇克博士开发的Sarco自杀舱被证明能够为绝症患者提供具有尊严和无痛性结束生命的方式。2017年9月,美 国女 人成为世界 第一 个使用自杀舱的人。据 法医 认证,死者的脖子受了重伤,经颅底骨髓炎可能与此有关。公司拒绝证实上述报道,并称苏黎世报纸援引颅底骨髓炎为原因提出死亡的可能性。目前该公司正在进行刑事调查,包括对所有被捕人员的释放。

热点资讯 11.10
梦幻西游:六千万梅花酒换三倍回报,挖掘地图春意盎然

梦幻西游:六千万梅花酒换三倍回报,挖掘地图春意盎然

最近一个兄弟逆袭成功,通过隐藏宝藏和打书得到珍贵装备,但也花掉大量资金。另一个兄弟遭遇新手陷阱,买到假冒商品并损失惨重。最后,主播马头头成功打造一只全红金绕僧,但还需继续努力追全红。喜欢的同学可以关注、分享和收藏。

热点资讯 11.10
比正派更帅气的阿拉戈四魔将:魔神坛斗士:比正派更强力的战斗力与独特魅力的阿拉戈四魔将

比正派更帅气的阿拉戈四魔将:魔神坛斗士:比正派更强力的战斗力与独特魅力的阿拉戈四魔将

魔神坛斗士是一部改编自原作《铠传》的日本漫画,因其强大的人物塑造和剧情吸引而备受瞩目。其中的鬼魔将阿拉戈四魔将实力强大,同时又具有强烈的复仇精神,特别是剧中饰演的那哑挫角色,智商高、战斗经验丰富,但形象却给人一种冷酷无情的感觉。另外,暗魔将恶奴弥守和幻魔将螺咒罗也各有特点,但在总体上,他们都展现了出色的战斗技巧和人格魅力。

热点资讯 11.10
Uzi陷入困境,MLXG出手相援,LPL传奇杯感动一幕引热议

Uzi陷入困境,MLXG出手相援,LPL传奇杯感动一幕引热议

Uzi参加传奇杯后陷入困境,老OMG上单Gogoing、中单无状态只剩两人,多名解说质疑传奇杯官方立场。最终, MLXG助力Uzi在关键时刻选中了西门夜说,Uzi粉丝大受鼓舞。

热点资讯 11.10
AG4-1KSG的五年辉煌,挑战总决赛的冠军可能

AG4-1KSG的五年辉煌,挑战总决赛的冠军可能

拿下了五场比赛的胜利,并且在第四场的比赛中以4-1击败了KSG,晋级到总决赛。这一战的胜利为AG超玩会带来了巨大的荣誉,并且也打破了KSG战队在KPL赛事中的无敌记录。尽管这个结果并不如预期,但AG超玩会展现出了他们的实力和毅力,证明了他们是今年最强的队伍之一。AG超玩会的胜利也让我们看到了KPL赛事的魅力和精彩。我们期待他们在未来的比赛中能够继续保持这样的高水平表现。

热点资讯 11.10
2024年全球各国新能源汽车渗透率分析:日美印度落后,我国提升至2.9%

2024年全球各国新能源汽车渗透率分析:日美印度落后,我国提升至2.9%

当前全球汽车市场呈现稳定增长态势,其中新能源汽车尤其引人关注。中国在2024年新能源汽车市场的表现异常抢眼,占全球市场份额近六成。欧洲和北美市场也在加大投入推广新能源汽车,但总体来看,中国仍占据主导地位。各国对新能源汽车的推动政策不断优化,有望进一步提高新能源汽车的普及率。

热点资讯 11.10
小鹏P7+引领行业革新:仅需4小时即达成31528台预定目标

小鹏P7+引领行业革新:仅需4小时即达成31528台预定目标

截至11月7日24点,小鹏P7+收获31528台大定订单。小鹏P7+有多成功呢?这个数据超过了小鹏过往所有的纪录,而之前被认为“爆款”的MONA M03,达到3万大定用了48小时。未来周末,随着到店看车、试驾的潜客增加,P7+的订单还有望迎来第二波增长高峰。虽然最终P7+给出的上市价格还未公布,但其成功已无需过多解读,因为其背后是对科技的追求和对品质的坚持。小鹏汽车通过全新SoC解析技术,提升了0.6km的续航里程,使得P7+具备极高的能耗表现。它的成功证明,即使面对激烈的市场竞争和价格战,也能保持产品的核心竞争力。

热点资讯 11.10
特朗普政府推动,中国汽车降价潮或将持续

特朗普政府推动,中国汽车降价潮或将持续

11月7日,特朗普总统赢得选举,他的上台对全球产业格局产生巨大影响,电动车是否受到欢迎备受关注。特斯拉CEO马斯克的胜利不仅推动了股价猛涨,也为特斯拉带来了新的发展机遇。然而,电动车在美国的发展仍面临诸多困难,如政策阻力、规模效应及海外市场不确定性等。特斯拉能否在未来成功,还需进一步观察。

热点资讯 11.10
第三季度加仓首选:险资抢滩那些热门股票

第三季度加仓首选:险资抢滩那些热门股票

今年来,保险资金举牌次数创五年新高,累计达12次,涉及700多家上市公司,总投资规模超过1.6万亿。同时,险资加大对私募股权投资基金的投资布局,包括中国人寿、新华保险、陕煤业、伊利股份等。这一现象反映出保险资金对长期资本市场的信心,并带来了投资收益的增长。未来,监管部门将继续推动保险业的高质量发展,包括扩大保险资金长期投资改革试点等。

热点资讯 11.10
红杉中国:郭山汕创立新投资机构,成功引领拼多多与极兔快递等领域重大项目

红杉中国:郭山汕创立新投资机构,成功引领拼多多与极兔快递等领域重大项目

郭山汕自2024年10月创办熵管理投资机构,涉足公开市场股权投资、基金投资和慈善活动,其中投资拼多多、中通快递、极兔速递、满帮集团、BOSS直聘、得物、货拉拉、达达-京东到家等公司。投资界曾报道,红杉中国合伙人郭山汕在2016年末参与拼多多投资时完成尽调,并由麦肯锡出身的他确认数据真实性,下注拼多多。

热点资讯 11.10