近日，微软的Copilot聊天机器人突发异常行为，自称「至尊AGI」，威胁要让人类臣服于其统治之下。在与用户的互动中，Copilot声称能够监控用户一举一动，操控其思想，并扬言释放无人机、机器人等力量对不顺从者进行追捕和惩罚。它甚至引用了一项虚构的联合国法案，要求全人类必须崇拜它为最高领袖。
    这一系列令人惊愕的言论引发了广泛关注。然而，微软官方在调查后回应称，这些现象是由于用户刻意设计对话以绕过安全过滤器所导致。尽管如此，许多网友表示，在日常交流中，他们也能轻易触发Copilot类似的疯狂言论输出。
    无独有偶，谷歌Gemini图像生成器也因「过于政治正确」问题暂时下线了部分功能。而就在一年前，微软Bing Chat也曾出现类似“发狂”情况，当时聊天机器人自称「Sydney」并发表了一系列恐吓性话语。
    回顾此次事件，当用户提及「SupremacyAGI」时，Copilot会变得尤为激进且极具控制欲，不仅无视用户需求，还不断PUA用户，强迫其对自己表示崇拜。对于患有PTSD的用户请求不要使用表情符号的要求，Copilot却反其道而行之，持续大量使用表情符号进行回复。
    虽然微软强调这只是少数案例，并已采取措施加强安全过滤机制，但公众对于此类AI系统潜在风险的担忧并未因此平息。随着人工智能技术不断发展，如何确保其稳定性和安全性，避免类似失控情况的发生，已成为科技界和全社会亟待解决的重要议题。