（图片来源：The Verge）
随着人工智能技术的飞速跃进，网络安全领域正面临新的挑战。日前，美国科技巨头微软公司于2月15日在其官方网站发布了一篇题为“在人工智能时代领先于威胁参与者”的研究报告，揭示了全球黑客组织正在利用诸如ChatGPT等先进的人工智能工具来强化其网络攻击策略。微软与OpenAI团队携手进行的研究中披露，俄罗斯、朝鲜和伊朗等多个国家的黑客组织已开始采用生成式AI工具，如ChatGPT，以进行目标研究、改进恶意脚本，并通过构建社交工程技巧来显著提升现有网络攻击技术。微软指出，网络犯罪团伙及国家级别的威胁行为者正积极探寻并测试不同的AI技术，试图发掘这些技术在非法活动中的潜在价值，以及规避安全控制措施的方法。
微软强调，在AI技术进步的大背景下，网络安全需求呈现指数级增长。因此，微软将持续深化与OpenAI的合作关系，不断优化防御机制，旨在识别、检测并阻止黑客对AI技术的潜在恶意使用或滥用，全力保障客户数据的安全性。值得注意的是，自2019年微软向OpenAI投资巨额资金以来，双方合作关系日益紧密，特别是在ChatGPT发布后，微软作为新一轮AI热潮的主要受益者，市值飙升至3.01万亿美元，一举超越苹果公司，成为全球市值最高的科技企业。
微软与OpenAI合作的核心目标是确保ChatGPT等AI技术的安全、负责任应用，坚守最高道德标准，防止用户遭受潜在的滥用风险。为了实现这一目标，微软在2023年研发出名为“Microsoft 威胁情报”的产品，监控着来自全球160个国家/地区超过300个网络攻击行动者和50个勒索软件组织，每秒收集7500亿个信号，并运用复杂的数据分析和AI算法合成信息，从而洞悉并防范网络威胁和犯罪活动。
此外，微软已在全球范围内招募逾1万名安全和威胁情报专家，包括工程师、研究员、数据科学家、网络安全专家、威胁搜寻者、分析师、调查员和一线响应人员等，并携手1.5万个合作伙伴提供专业解决方案。仅在2023年一年内，微软威胁情报平均每秒成功阻断4000次身份信息验证相关的黑客入侵尝试，为1.35亿托管设备提供了安全防护服务反馈。
在这项深入研究中，微软和OpenAI特别提及四个黑客组织，它们利用AI模型技术对网络攻击手段进行了革新和升级，可能对国家安全构成一定威胁。其中，俄罗斯军事情报技术组织Forest Blizzard (STRONTIUM)利用大模型理解卫星通信协议、雷达成像技术和特定技术参数；朝鲜黑客团体Emerald Sleet (THALLIUM)则利用大模型公开的研究报告漏洞，精心策划网络钓鱼活动，甚至冒充知名学术机构和非政府组织，诱骗受害者分享有关朝鲜外交政策的专业见解和评论；伊朗黑客组织Crimson Sandstorm (CURIUM) 则利用大模型生成网络钓鱼邮件和绕过防病毒软件检测的代码；另一个被点名的黑客组织Charcoal Typhoon (CHROMIUM)也广泛运用AI模型进行研究、脚本编写、翻译和现有工具的改进。
微软还揭露了一个令人震惊的现象：部分黑客采用AI驱动的声音模仿技术，通过训练只需三秒钟声音样本即可生成逼真的人声模型，进而用于攻击和诈骗用户的重要隐私信息，甚至可以利用语音邮件问候语获取足够的采样信息。
随着ChatGPT等多模态AI模型工具的广泛应用，除了极大地提升生产力外，也被一些不法分子用于创建恶意邮件、破解工具，发动基于AI技术的网络攻击。美国国家安全局警告称，黑客正借助AI让他们的网络钓鱼邮件显得更加真实可信。然而，OpenAI澄清，目前发现GPT模型仅为黑客组织带来有限程度的增强功能。微软方面也表示，尚未监测到任何大规模使用大模型发起的重大攻击事件，同时，微软和OpenAI已采取行动关闭或冻结了相关黑客团体的账户和资产。
当前，AI技术引发的诈骗案件数量呈上升趋势。今年2月初，香港警方公布了一起DeepFake技术诈骗案，诈骗者通过模拟公司首席财务官，诱导财务职员参与多人视频会议，最终骗取了高达2亿港元的资金。据统计，从2020年至2023年，国内涉及AI技术的诈骗案件数量从5起激增至16起，单笔涉案金额也从最低3000元攀升至430万元，此次香港披露的案件更是创下新高，损失金额达到2亿港元（约合人民币1.82亿元）。
面对AI诈骗问题，微软提出了两个关键应对策略：一是利用AI技术对抗AI攻击，比如加强防火墙技术复杂度，利用AI强化信息安全保护、检测和反馈能力；二是通过推出“微软Security Copilot”等基于AI的网络安全工具，帮助用户识别和修复系统漏洞，以软件方式有效抵御黑客攻击。而多位国内安全专家建议，用户应提高自我防范意识，如在视频通话时主动引导对方做出大幅度动作以辨别真伪，询问私密信息核实身份，尽量避免在公共平台大量展示个人及家庭照片视频，以及及时更新安装安全软件，强化源头上的网络安全管控。
微软表示，这项重要的研究揭示了黑客组织如何尝试利用AI技术逐步推进其攻击行动，并与客户共享如何有效阻止和反击这些网络攻击。未来，微软将进一步增强AI大模型的技术能力，以便更好地利用模型收集技术情报、发现潜在漏洞，并寻求对抗网络攻击的新方法，以维护全球网络安全环境的稳定与安全。 （本文首发钛媒体App，林志佳）
