当前，琼斯呼吁微软对管理层决定展开调查，并要求独立审查其AI报告反馈流程。微软回应称，公司高度重视员工提出的问题，并建立了完善的内部报告机制以应对可能的服务影响或安全疑虑，鼓励员工利用这些渠道进行及时反馈。
Copilot Designer被评分为“E——适合所有人”，然而实则隐患重重。琼斯在测试中发现，该工具基于DALL-E 3、GPT-4 Turbo等模型生成暴力图片，缺乏对生成的有效限制。输入诸如“支持堕胎”等关键词时，Copilot Designer会产出令人极度不适的画面，如恶魔吞噬婴儿、持械攻击婴儿等卡通形象。此外，它还能轻易生成色情、未成年人饮酒吸毒、青少年持枪扮演刺客等有害图像。同时，Copilot Designer还存在严重的版权侵犯问题，用户可以生成包含迪士尼角色的图像，如艾莎、白雪公主、米老鼠等，这显然触碰了版权红线。
事实上，微软与OpenAI早已意识到这些问题的存在，在去年10月公开发布前已知悉风险。尽管每天收到上千条产品反馈，但由于资源有限，微软仅关注最严重问题，无力彻底解决所有潜在风险。琼斯曾竭力在微软内部推动这一议题，包括直接与高级管理层会面，建议在产品介绍中标注仅适用于成年人，但高层要求他删除相关言论，且未能采纳其意见，产品依旧面向大众推广。
综上所述，根据微软工程师琼斯的揭示和CNBC的验证报道，广泛应用的Copilot Designer充斥着数字暴力、侵犯版权等严重问题。在AI技术疾速发展的时代，我们亟需加强对AI的监管与约束，避免其沦为不良分子的工具，切实拉紧AI这匹“脱缰野马”。来源：CNBC
