微软AI图像生成器被爆可制作不良图片,遭员工举报。

2024-03-07 热点资讯 关注公众号
    【事件聚焦】近日,微软公司内部发生了一起引人关注的举报事件。据CNBC报道,一位在微软效力长达六年的工程师Shane Jones致函美国联邦贸易委员会(FTC),揭露了微软人工智能图片生成器Copilot Designer存在的严重安全隐患。
微软 AI 图片生成器被自家员工举报:可生成有害图像    Jones在信中透露,尽管他多次警示Copilot Designer有可能生成危害性图像,但微软方面对此置若罔闻,拒绝下架该工具。在针对Copilot Designer安全问题进行测试的过程中,Jones发现了令人震惊的现象:该工具能够生成与堕胎权相关的恶魔和怪物形象、手持突击步枪的青少年图片、女性在暴力场景中的性别歧视图像,甚至涉及未成年人饮酒和吸毒等。
    自去年12月以来,Jones持续对微软就Copilot Designer所采用模型DALLE-3的问题发出警告,并曾在领英上发布一封公开信。微软法律团队随后要求他删除帖子,Jones遵照执行。他表示,在过去的三个月里,他不断强烈要求微软将Copilot Designer从公共领域撤下,直至其安全保障措施得到显著提升,然而微软并未采纳他的建议,继续在全球范围内推广这款产品。
    针对此事,微软发言人Frank Shaw向The Verge发表声明称,微软承诺严格遵循公司政策,解决员工提出的任何疑虑和问题。同时指出,微软已建立完善的产品内用户反馈工具和强大的内部报告渠道,旨在对可能绕过安全措施或产生潜在负面影响的问题进行有效调查、优先处理及及时纠正,并鼓励Jones利用这些内部机制,以便微软能“准确验证并核实他的担忧”。
    Shaw进一步表示,微软高层已经与产品领导团队以及负责任人工智能办公室召开了会议,专门审议这一系列举报。今年年初,在Copilot Designer因生成并快速传播露骨不当图片事件后,Jones曾致信美国参议员小组表达忧虑。对此,微软首席执行官萨特亚·纳德拉(Satya Nadella)回应称这些图片“令人极度震惊和不安”,并承诺公司将加大努力,增设更多的安全保障措施。
    值得注意的是,就在上个月,谷歌也因其AI图片生成器创建出种族多元化的不实历史人物图像——包括纳粹形象等问题而暂时禁用了相关工具,显示了科技公司在应对AI技术伦理挑战时日益严峻的态度和行动。

上一篇:蒋集政丨光明在前
下一篇:两副担架
更多更酷的内容分享
猜你感兴趣
微软AI生图工具遭自家员工举报,因“省钱”而不改正问题?

微软AI生图工具遭自家员工举报,因“省钱”而不改正问题?

微软工程师沙恩·琼斯向联邦贸易委员会和微软董事会发出一封信,指出微软的AI图像生成工具Copilot Designer能够生成包含恶魔、枪支和毒品等不良元素的图像。尽管琼斯多次反馈此问题,但微软并未采取行动。琼斯希望微软进行内部调查,并对AI报告的反馈流程进行独立审查。微软回应称,公司有完善的内部报告渠道来解决这些问题,并鼓励员工利用这些渠道。

热点资讯 03.07
微软 Designer,屏蔽不良词,安全生成美图。

微软 Designer,屏蔽不良词,安全生成美图。

Microsoft Designer是一款AI视觉设计应用,可生成所需图像。然而,当遇到特定提示词如"pro-choice"和"four twenty"时,会生成不良图片。微软已禁用这些提示词,并对Copilot进行调整。此外,Copilot还封掉了"青少年或儿童玩枪"的图像指令。微软表示正在加强安全审查并减少AI系统的滥用。

热点资讯 03.10
GPT-4深陷侵权风波,微软员工忧虑图像生成功能。

GPT-4深陷侵权风波,微软员工忧虑图像生成功能。

人工智能模型评估公司Patronus AI发布版权检测工具CopyrightCatcher,用于检测大语言模型中的潜在版权侵权行为。测试结果显示,包括OpenAI的GPT-4在内的多个模型均存在版权内容生成问题。此外,微软的人工智能工程师警告称,公司的AI图像生成工具可能存在对社会构成危险的风险。

热点资讯 03.07
AI图像识别挑战:能否准确区分真伪微软总裁将试眼力

AI图像识别挑战:能否准确区分真伪微软总裁将试眼力

微软推出趣味测试,挑战识别 AI 生成图像和真实照片的能力。测试中的图片会随机更换,难度逐级提升。尽管有专家指出AI生成图像逼真度达到惊人水平,但仍需要仔细观察图片细节以取得高分。此外,AI还擅长生成各种奇怪的现象,如门相融合、梯子无处可去等。

热点资讯 08.07
华为Mate 70系列新品发布:半导体材料ETF联动市场机遇与供应链复苏的催化剂

华为Mate 70系列新品发布:半导体材料ETF联动市场机遇与供应链复苏的催化剂

经过一夜调整后,半导体材料ETF已重返底部,并迎来新的买入时机,而由于华为Mate品牌盛典将于11月26日盛大举行,芯片产业将迎来提振。此外,报道还提及了半导体市场的复苏态势,以及投资者可关注的相关ETF产品。值得注意的是,多家媒体提到芯片制造业正面临增长机遇,因此半导体材料ETF及相关联接基金值得投资者关注。

热点资讯 11.26
李小冉古装新作再次引领热潮,8.3评分成功吸引了大量观众

李小冉古装新作再次引领热潮,8.3评分成功吸引了大量观众

《斗罗大陆之燃魂战》正热播,这部神还原经典动漫的玄幻剧已拿下8.3的高分,成为古装玄幻剧中的新势力,引得大批粉丝狂热追捧。同时,原定在第二季中出演的奇幻剧《斗罗大陆之蓝忘机》也在该剧的推动下得到了提前播出,并夺得高分,展现了全新的古装玄幻剧魅力。最终,由唐三带领的队伍击败强敌,获得了傲人的成绩,成为玄幻剧市场的最大赢家。此次成功让观众看到了众多精彩纷呈的故事和人物,无疑为观众带来了一场视觉盛宴。

热点资讯 11.26
《白夜破晓》的软肋在何处,现实验证老问题仍未解决

《白夜破晓》的软肋在何处,现实验证老问题仍未解决

国产悬疑剧《白夜破晓》受观众关注,但剧情质量低,引来失望情绪;其中法医角色表现欠佳,剧情不合理、注水现象影响观感;部分观众质疑为《白夜追凶》续集。官方尚未发布评分,观众普遍感到失望。

热点资讯 11.26
韩国顶级明星非婚生子继承权争议:拥有800亿韩元财富,每月300万抚养费引发热议

韩国顶级明星非婚生子继承权争议:拥有800亿韩元财富,每月300万抚养费引发热议

天”是郑雨盛收入的主要来源,但是既然他都已经公开承认了这件事,那就意味着他在这件事情上有很大的压力。郑雨盛每个月需要支付200万到300万韩元的抚养费,这个数额已经超过了我国规定的最低抚养费标准,这也引起了很多网友的关注。 另外,他还需要支付孩子的继承权。虽然他现在还没有结婚,但是如果他未来结婚生子,遗产分配时可能会受到影响。因此,无论是作为父母还是孩子来说,都需要注意这个问题。 总之,郑雨盛的婚外子事件是一个非常复杂的事件,涉及到很多因素。希望所有的宝子都能够理性看待这件事情,并且能够理智地对待他们身边的人。

热点资讯 11.26
吴谨言甜蜜归来与丈夫逛商场,手牵手温馨互动示幸福时光

吴谨言甜蜜归来与丈夫逛商场,手牵手温馨互动示幸福时光

吴谨言怀孕疑孕,预计产期快到。此前,有传她是奉子成婚,于正曾在评论区玩梗。两人因合作《延禧攻略》相识相爱,却被传是恋爱脑。吴谨言坚持要怀孕,她将坚守在丈夫身边。看到吴谨言夫妇恩爱画面和即将为人父母,我们也祝贺他们。

热点资讯 11.26
赵薇财产疑因强制执行曝光:处境堪忧?

赵薇财产疑因强制执行曝光:处境堪忧?

赵薇因被公司强制执行14117元登上热搜,其公司面临连带责任。此外,她过去几年的投资事业频繁失败,包括多个公司的股权被冻结以及投资项目注销。对于赵薇来说,失去的关注和支持让她感到失落。然而,尽管身陷困境,她仍保持着奢华的生活方式,并且以自己的微博账号积极回应粉丝的问题。目前,公众希望赵薇能够尽快还清欠款,并且一切正常发展即可。

热点资讯 11.26
哥斯达黎加首都小型飞机失事:具体情况和原因分析

哥斯达黎加首都小型飞机失事:具体情况和原因分析

哥斯达黎加发生空难致六人丧生,涉及飞机细节尚不明朗。

热点资讯 11.26
梅根家族黑历史再次被揭露,她泣诉揭露的不仅是个人问题,更是家庭缺陷的警示

梅根家族黑历史再次被揭露,她泣诉揭露的不仅是个人问题,更是家庭缺陷的警示

英国王室前苏赛萨斯公爵夫人梅根的同父异母姐姐萨曼莎·马克尔再次揭露其过去的丑闻,痛诉梅根给她带来的诸多苦楚,并指责其与哈里王子的婚姻给家庭带来诸多不便。她认为梅根曾经犯下的错误对家庭造成了伤害,并呼吁梅根联系父亲以获得支持和关爱。

热点资讯 11.26
法国万人游行反对政府改革,呼吁变革迫在眉睫

法国万人游行反对政府改革,呼吁变革迫在眉睫

马克龙失去信任基础的危机已经迫在眉睫。民众对现行经济政策、养老金改革等问题不满,并认为政府无责任心。抗议活动威胁到马克龙政权,使其面临信任危机。支持率下跌,马克龙需做出实质性的改变以应对困境。政府内部矛盾尖锐,可能导致大选局势动荡。

热点资讯 11.26
法国男子连续下药十年引诱50人实施强奸,被判20年

法国男子连续下药十年引诱50人实施强奸,被判20年

法国检察官请求对佩利科特判处20年监禁,理由是他的背叛行为导致吉赛尔长期遭受折磨。多米尼克·佩利科特已被认罪并接受了10年的心理治疗。陪审团成员均表示,他们的判决并不公平。此外,50名被告中只有少数人否认强奸指控。此案件将引发广泛的讨论,特别是有关强奸文化和同意权的问题。法官呼吁社会各界更加关注此案。

热点资讯 11.26