印度总理莫迪警告比尔·盖茨AI安全风险，并提议在AI生成上标注水印以防范深度伪造。这一事件引起巨大争议，尤其是在谷歌人工智能模型Gemini发布的相关言论引发质疑后，印度政府开始思考如何应对新兴的人工智能技术。谷歌对此表示歉意，印度政府随后出台四点合规性要求来加强对提供人工智能服务的机构的管理，但市场仍然吸引科技公司加大对印度的投资。英菲尼迪电力首席执行官萨克塞纳则提醒政府，企业在监管方面应“顺势而为”。
印度总理莫迪近期发布了一份名为《印度：迎接AI新时代》的报告，他在文中指出，AI（人工智能）正逐渐成为全球经济增长的新动力，但在利用这一技术的同时，也带来了新的安全挑战。他警告称，随着越来越多的AI应用被用于生产、销售和分析数据，人们可能会面临深度伪造和网络欺诈等网络安全问题。针对这些威胁，印度政府呼吁谷歌等跨国科技公司在开发AI生成时，不仅要关注其潜在的盈利能力，更要考虑到它们可能带来的社会和法律风险。
印度政府提出了一项针对谷歌人工智能（GAMIT）模型Gemini的解决方案，即在其发布人工智能时，应在页面上标注一个或多个带有特定水印的图像或标识符。这样做的目的是为了防止AI生成的出现严重假象，也就是所谓的深度伪造。印度政府认为，深度伪造是一种通过改变AI算法中预设参数的自然语言处理任务，使生成的文本、图像等与实际存在背景或真实信息不符的现象。由于许多AI模型是基于大量的语料库训练而来，只要某个或某些参数在不透明的情况下发生变化，那么AI系统就有可能产生严重的虚假信息，从而对人类社会造成误导和损害。
对于这种风险，印度政府采取了多项措施加强AI相关服务提供商的监管。首先，政府将制定一套严格的法规和标准，要求这些机构在创建和使用AI生成时，必须充分考虑其对社会和法律的影响，以及可能产生的危害。具体规定包括明确标记性的水印要求、真实性检查机制、法律责任追究等。同时，政府还鼓励AI领域内的研究者、开发者和创新型企业积极参与，共同推动AI技术的合理应用，减少安全隐患。
然而，尽管政府采取了一系列有力的行动，谷歌作为全球最大的科技巨头之一，在AI生成的审核和监管过程中仍面临重大压力。一方面，谷歌在其AI平台中广泛应用了Gemini模型，大量生成的AI产品和服务已广为人知。虽然这确实有助于提升其AI创新能力，但同时也加剧了对其社会责任的关注度。一些人担心，如果谷歌默认接受并分享了这些建议，会对其自身声誉和经济利益产生影响。
另一方面，印度政府在推动AI合规性要求方面的做法引起了市场的广泛关注。一方面，许多企业意识到AI可能带来的一系列负面影响，他们希望能够在开展业务时采取更为审慎的态度，尽可能避免触及法律红线。另一方面，也有企业认为，AI合规要求意味着需要投入更多的资源进行内部管理和培训，这对成本和效率产生了巨大的压力。因此，如何找到一个既满足AI行业的需求又符合企业实际状况的平衡点，成为了各家公司不得不面对的问题。
总的来说，印度政府提出的关于AI生成标注水印的方案，旨在通过规范AI服务提供商的行为，确保其生成的具有高度的真实性、可追溯性和安全性。虽然该政策引发了广泛争议，包括对谷歌AI技术能力的质疑，以及对企业行为和未来市场前景的担忧。但无论如何，这是一个积极的信号，表明印度政府正在积极推动AI领域的健康有序发展，以期创造一个更加安全、可信和可持续的信息环境。与此同时，我们也期待在全球范围内，所有企业和个人都能共同承担起保护AI安全的责任，让这一重要趋势真正转化为促进全球经济和社会发展的强大推动力。