【IT之家3月3日特别报道】国际网络安全团队近日研发出一款极具突破性的新型AI蠕虫病毒，该病毒能够在各类生成式人工智能服务间独立传播，并能巧妙地窃取数据及通过电子邮件系统发送大量垃圾信息。这一爆点揭示了当前生成式AI技术在安全防护上的重大隐患。
    随着OpenAI的ChatGPT和Google Gemini等生成式AI系统的迅猛发展，AI已广泛应用于解决日常任务，如创建日历事项、在线购物等。然而，网络安全专家们揭示了一个名为“Morris II”的漏洞，它瞄准并利用了这些AI系统的潜在弱点。
    "Morris II"名称背后的历史意义深远，其灵感源自1988年首次被发现的人类历史上的首个计算机蠕虫病毒——Morris worm，当时曾感染超过6200台计算机，占据当时互联网连接计算机总数的10%。如今，"Morris II"借助生成式AI技术，成功绕过了ChatGPT和Gemini的安全防线，实现从邮件中盗取数据并进行垃圾邮件攻击。
    研究团队在严格控制的沙盒环境中对这一新型攻击模型进行了测试，尽管目前尚未在实际应用中观测到此类攻击行为，但个人开发者、初创企业乃至大型科技公司均应对此保持高度警惕。
    生成式AI系统通常通过接收文本指令来执行任务，如解答问题或创作图像。而这一特点也成为了其软肋：恶意用户可以巧妙构造命令，诱导AI系统忽视安全机制，产生不当，甚至可以通过隐藏恶意命令的文本链接对其进行操控。
    这款针对生成式AI的蠕虫病毒采用了独特的“对抗性自我复制提示”机制，类似于传统的SQL注入和缓冲区溢出攻击方式，能够促使AI模型回应一条自动生成的新指令，从而形成持续的自我复制与扩散过程。
    为直观展示这种蠕虫病毒的工作原理，研究人员构建了一个集成ChatGPT、Gemini以及开源LlaVA模型的电子邮件服务平台。实验中，他们分别采用自我复制文本指令和嵌入于图像文件中的隐蔽指令两种手段，成功利用了生成式AI的漏洞发起攻击。
    研究报告的指出，这些攻击手法之所以可行，根源在于人工智能生态系统的设计缺陷。目前，他们已将研究成果分享给谷歌和OpenAI。其中，OpenAI确认了威胁的存在，并表示正在积极提升系统的稳定性；而谷歌方面则未予置评。这场围绕AI安全防御的全新挑战，无疑为全球科技界敲响了警钟。