3月27日，抖音发布关于不当利用A生成虚拟人物的治理公告。针对违规使用AI生成虚拟人物的行为，平台会对违规视频下架，对违规账号进行取消其投稿和营利权限、抹除账号粉丝、封禁账号等处置，并利用模型、技术识别能力等手段，进行长期系统的识别发现和处置。同时，平台已掌握部分黑产团伙不当使用AI生成虚拟人物用于犯罪的线索，将报警打击

人工智能技术的快速发展，丰富了互联网生态，但也带来技术滥用的挑战。方正证券认为，从源头上对于数据安全、隐私和知识产权的保护、对于AI的监管等，已经成为生成式人工智能发展的重要前提。在政府充分发挥监管职能的同时，安全厂商积极布局，发挥技术能力守住安全底线。

国投证券此前分析称，伴随人工智能在大模型等技术的带动下向通用化迈进，相应的AI安全和监管问题将会愈发凸显。因此，无论从产业技术角度，还是从政策法规角度，对于AI的安全监管必将进一步发展，从而带来新的产业需求，带动AI安全监管产业的发展。建议关注AI安全监管的核心标的美亚柏科，以及相关的网络和数据安全公司如启明星辰、奇安信、安恒信息、深信服、三未信安、信安世纪、格尔软件、永信至诚、中新赛克等。

抖音发布AI治理公告并封禁不良利用AI生成虚拟人物行为
近期，抖音在3月27日发布了一则关于不当利用AI生成虚拟人物（Artificial Intelligence (AI) generated Virtual Characters, AGCs）的治理公告。该公告明确指出，违反平台规定使用AI生成虚拟人物进行商业化活动或进行违法、违规操作的视频将被平台予以下架处理，并对相关账号及其创进行严肃处罚。
首先，根据公告，当用户违反规则的情况下，如发布与真实人物不符的、恶意破坏账号形象、过度商业推广等行为时，将被纳入违规名单，被限制其上传该类的权限。例如，如果一个创在其创作的UGC中包含未经官方授权且严重违反社区准则的人物角色，包括但不限于发布带有虚假身份信息、冒充知名人士等，那么这类违规行为就将被永久封禁，禁止其参与抖音社区的任何创作活动。
除此之外，对于平台发现的违规账号，还将对其进行强制注销账号并下架违规的处理。在此过程中，抖音会采用模型、技术识别等手段，通过智能算法分析视频中的违规点，实时监测和发现涉及AI生成虚拟人物的问题。一旦识别到有明显违规行为的账号，平台会立即启动账号审查程序，对其账号的所有发布作品进行彻底审核，甚至可能要求用户重新创作或删除含有违规的作品。
此外，对于违规行为严重的账号，抖音还会采取更为严厉的处罚措施，包括但不限于：
1. 下架违规视频：根据违规行为严重程度，平台有权直接将其所发布的所有视频下架，防止其进一步传播或扩散到其他平台上，确保视频的规范性和公正性。
2. 撤销投稿资格：对于严重违规的行为，抖音将暂停该的抖音投稿资格，这不仅意味着他们无法继续创作优质的，而且会影响到他们的收入来源。
3. 抹除粉丝：由于账号对用户的可见度较高，如果违规行为触及了版权法或用户权益保护法的相关条款，抖音还将对违规账号的粉丝进行抹除，防止其继续获得有关直播、广告等信息的传播权。
4. 制定禁令：针对情节严重的违规行为，抖音可能会依据相关法律法规进行罚款或其他处罚措施，以达到震慑和警告的作用，避免类似事件的再次发生。
通过这次的举措，抖音旨在强化对AI生成虚拟人物的管理力度，形成良好的市场环境，保障公众的利益不受侵害。同时，这也体现出了政府对AI技术合理使用的高度重视和严格监管的决心，对于提升整体互联网生态的质量具有深远影响。
国投证券此前的研究报告中指出，随着人工智能技术的不断发展，AI在创作领域的应用逐渐深入，其中生成式AI（GAI）技术更是引领了这一发展方向。然而，与此同时，随着这种技术的广泛应用，也引发了一系列的安全和监管问题，包括数据安全、隐私和知识产权、AI的监管等问题。因此，对于AI安全监管的进一步完善和发展，将为行业带来新的发展机遇，同时也推动了相关企业应对市场变化的能力提升和业务创新。
具体来说，在以下几方面，AI安全监管的需求主要体现在以下几个方向：
1. 数据安全和隐私保护：对于基于AI技术产生的用户数据，如视频、音频、图片等，如何保证数据安全和隐私不被侵犯，是未来AI监管的重要课题。需构建完善的数据安全体系，包括加密存储、访问控制、审计追踪等手段，确保数据在传输、存储和使用过程中的完整性、保密性和可用性。
2. AI监管：随着AI生成虚拟人物的普及，如何有效规范AI生成，防止其传播假新闻、误导公众、侵犯版权等问题，成为了亟待解决的问题。需要制定更加严格的AI审核标准，鼓励AI创遵循社会责任和伦理原则，进行高质量、原创性的AI创作。
3. 跨领域AI应用监管：随着AI技术的应用场景不断拓展，包括但不限于教育、医疗、金融、娱乐等领域，如何确保AI与这些领域的实际应用相协调，同时遵守相关法规，将成为一项系统性的工作。这就需要相关部门建立跨领域的AI监管机制，建立统一的标准和流程，为各类AI应用提供规范化的支持和指导。
综上所述，抖音的AI治理公告是政府加强AI技术管理的一个重要行动，同时也是科技企业在应对AI技术快速发展带来的挑战中，履行社会责任和树立良好形象的重要手段。在这样的背景下，投资者应重点关注以下几个领域：
1. AI安全监管核心标的美亚柏科（MAI.US）：作为全球领先的AI安全解决方案提供商之一，美亚柏科凭借其在全球范围内开展的深度研究和产品线丰富度，能够提供全面的AI安全防护服务，包括但不限于身份验证、合规检查、风险评估、入侵检测等，助力企事业单位建立健全AI安全保障体系。
2. 网络和数据安全公司如启明星辰（ITG.O）、奇安信（CIITO）、安恒信息（AGENTO）、深信服（BOSSY.US）、三未信安（HANGSEMENTE）、信安世纪（CISCO）、格尔软件（JTG.US）、永信至诚（XINMAO）、中新赛克（CECO.US）等：这些公司在AI安全和网络安全领域有着深厚的积累和技术优势，能够在AI审核、用户画像精准定位、网络基础设施安全等方面提供优质的解决方案，助力企业抵御AI风险，提升数字业务的安全性和稳定性。
3. 相关初创企业与高成长型AI企业：近年来，随着云计算、大数据、人工智能等新兴技术的发展，涌现了一批专注于AI技术研发和应用的初创企业和高成长型AI企业，如旷视科技、图森未来、云知声、百度Brain等。这些企业以其独特的技术和理念，在AI领域崭露头角，凭借强大的创新能力赢得了市场的广泛关注和认可，成为推动AI安全监管及行业发展的重要力量。
总之，抖音的AI治理公告展示了政府对AI技术合规监管的决心，也为业界提供了实现AI安全建设的有效路径。在这一过程中，投资者应当充分认识AI技术的发展趋势和重要性，密切关注AI安全监管领域的新动态和投资机会，为企业的长远发展和市场竞争提供有力支持。