人工智能革新引热议，全球科技巨头联手应对潜在威胁近日，人工智能技术领域再掀波澜。2024年2月16日，OpenAI继ChatGPT后再次震撼业界，发布首个文字生成视频模型Sora，能够基于文本直接输出长达60秒的视频，模糊了真实与虚构之间的界限，引发全球范围内的热烈讨论与关注。
同日，在德国慕尼黑安全会议（MSC）上，一场关于维护全球选举公正性的重大行动也同步展开。20家人工智能相关行业的领军企业签署了一项自愿协议，承诺共同打击利用新技术生成虚假信息以干扰全球选举进程的行为。这份联合声明涵盖了该领域的核心玩家，包括人工智能模型公司OpenAI、Anthropic和谷歌等，以及可能成为此类信息传播渠道的社交媒体平台如TikTok、X，以及Meta旗下的Facebook和Instagram等。
值得注意的是，知名的人工智能图像生成器公司Midjourney并未出现在签约名单中，对于这一缺席现象，截至发稿时，该公司尚未对媒体的置评请求作出回应。
2024年堪称历史性的选举年，全球40多个国家的40多亿选民将参与其中。据统计，今年预计将举行至少83场大选，这是未来至少24年内规模最大的选举潮。从孟加拉国、巴基斯坦到印度尼西亚，再到即将进行大选的美国、俄罗斯、乌克兰、欧洲议会、印度等地，全球各地民众都在积极参与投票。
为了防止人工智能新技术生成的虚假信息被用于政治目的，上述20家企业在协议中做出了8项明确承诺，包括合作研发开源工具以减少涉及选举的欺骗性AI生成；强化在线检测能力，跟踪此类的传播情况；推广教育活动，提升公众的防范意识和媒体素养，旨在构建跨行业抵御此类的能力等。
然而，有批评者指出，该协议的模糊措辞和缺乏强制执行力使其成效受到质疑。美国“两党政策中心”选举项目高级副主任奥雷认为协议力度并不够强烈；非政府组织“公共公民”执行副总裁吉尔伯特则强调，为了避免潜在风险，AI公司在实质性和充分保障措施到位前应放缓技术发展速度，特别是针对最新发布的文生视频模型Sora表示忧虑。
微软作为OpenAI的重要合作伙伴，则主张问题的关键不在于技术本身，而在于人性。微软公司总裁布拉德·史密斯发表声明称，尽管协议存在不足，但其总体承诺提高了行业的检测和响应能力，有助于让不良行为者更难利用合法工具制造误导性。
前Facebook数据科学家艾伦对此协议持肯定态度，视之为积极的一步，但他仍期望社交媒体公司采取更多行动，比如建立不依赖用户参与度优先的推荐系统，以更有效地打击错误信息。
欧盟委员会副主席朱罗娃在慕尼黑安全会议上评论道，虽然协议并非全面解决方案，但它包含了诸多具有影响力和积极性的要素，并呼吁政界人士肩负起责任，避免以欺骗性方式使用人工智能工具干预选举。
现实案例显示，人工智能已开始介入选举过程。在美国新罕布什尔州初选期间，选民接到了模仿美国总统拜登声音的人工智能机器人电话，试图劝阻他们不要投票，这引发了监管机构及法律界的强烈反应，一些州立法者正在起草法案规范人工智能生成的政治。而在斯洛伐克，2023年11月大选前夕，一段由AI生成的录音冒充候选人，谈及提高啤酒价格和操纵选举计划，经社交媒体传播后引起当局调查。
此外，政客们也开始尝试运用这项技术与选民沟通。在巴基斯坦最近举行的国民议会选举中，两位前总理伊姆兰·汗与纳瓦兹·谢里夫均宣布胜选。身处狱中的伊姆兰·汗更是通过人工智能制作的“真人讲话”视频宣布胜利消息，此举引起了外界广泛关注。自入狱以来，他一直借助人工智能合成信息与选民保持联系。
面对人工智能技术日新月异的发展，OpenAI的主要竞争对手Anthropic亦表达了其观点，认为2024年人工智能系统的应用将带来众多惊喜和未曾预料的影响，预计会出现开发人员未能预见的新颖用途。随着这些先进技术的不断迭代与普及，如何平衡科技创新与社会责任，将成为全球社会共同面临的严峻挑战。
