欧洲推出的《人工智能法案》标志着全球首个人工智能法律框架的诞生，这一划时代的举措不仅直面了人工智能技术所带来的潜在风险，更使欧洲在全球人工智能治理领域跃升为领导者。该法案旨在构建一个清晰、严谨的法规环境，为人工智能开发者和部署者提供明确的操作指南与法定义务，并特别关注减轻中小企业在此过程中的行政和财务压力。
作为支持可信人工智能发展的一系列综合政策的核心部分，《人工智能法案》携手人工智能创新计划及协调计划共同发力，旨在全方位保障个人与企业在人工智能领域的安全权益。这套全面的措施将有力推动整个欧盟在人工智能的吸收、投资及创新方面取得显著进展。《人工智能法案》以其全球首创的综合性法律框架而独树一帜，新规则以确保人工智能系统尊重基本权利、遵循安全与道德原则为核心，着力解决那些极具影响力和潜在风险的人工智能模型带来的问题，从而在欧洲乃至全球范围内塑造并巩固人工智能的可信赖性。
为何亟需人工智能规则？《人工智能法案》正是为了确保欧洲公民能够对人工智能功能抱有信心。尽管多数人工智能系统并无明显风险且能助力应对众多社会挑战，但部分系统蕴含的风险不容忽视。例如，在招聘决策或公共福利申请中，由于难以解析人工智能系统做出决定的原因和逻辑，可能会导致评估不公的问题。现行立法虽提供了某种程度的保护，但对于人工智能特有挑战的应对却略显不足。
该法案提出的严格规定将针对以下关键点：
1. 针对人工智能应用产生的特定风险提出解决方案；
2. 明令禁止涉及不可接受风险的人工智能实践；
3. 确立高风险应用场景清单；
4. 对于高风险应用的人工智能系统设定明确要求；
5. 规定高风险人工智能应用的部署者和提供商的具体责任；
6. 强制实施合格评定程序，确保特定人工智能系统投入使用前符合标准；
7. 推动市场后执法，确保合规性；
8. 构建欧洲和国家层面双重治理结构。
法案采用基于风险的方法，将人工智能系统分为四个风险等级：
- 严禁级：对人类安全、生计与基本权利构成明显威胁的所有人工智能系统均被明令禁止，如政府的社会评分系统和鼓励危险行为的语音辅助玩具等。
- 高风险级：涵盖了诸如交通基础设施、教育职业培训、医疗手术机器人、招聘软件、信用评分体系、执法证据评估以及边境管控等领域的人工智能技术，此类系统在投放市场前须接受严格的义务约束，包括详尽的风险评估与缓解策略、高质量数据集支持、结果可追溯性记录、透明度文件准备、充分的信息披露、有效的人力监督机制以及高标准的安全稳定性和准确性。
- 有限风险级：针对因人工智能使用缺乏透明度而引发的风险，法案引入具体透明度义务，确保人类用户在必要时了解情况，增强信任感。例如，聊天机器人应让用户知晓其与机器交互的本质，同时要求人工智能生成的具有可识别性，并对涉及公共利益的人工智能生成文本进行标记。
- 极小或无风险级：对于风险程度极低的人工智能应用（如视频游戏和垃圾邮件过滤器），法案允许自由使用，目前欧盟内大多数人工智能系统都属于这一类别。
对于高风险人工智能系统的实际运作流程，一旦投放市场，监管机构负责市场监管，部署者则承担起人工监督和监控的责任，而提供商需建立上市后的监控系统。此外，提供商和部署者还需报告严重的事故和故障。
针对通用人工智能模型的可信使用，法案提出了相应的解决方案。随着越来越多通用人工智能模型成为人工智能系统的关键组件，它们展现出强大适应性和多功能性的同时，也带来了难以全面监督的挑战。因此，《人工智能法案》对所有通用人工智能模型设置了透明度义务，并对极具能力和影响力的模型增设额外的风险管理义务，涵盖自我评估、严重事件报告、测试与模型评估以及网络安全要求等方面。
面向未来的前瞻性立法
考虑到人工智能技术日新月异的发展速度，《人工智能法案》采取了灵活前瞻的立法方式，确保相关规则能随技术变化适时调整。即使在投放市场之后，人工智能应用程序仍需保持可信度，这要求提供商持续进行质量管理和风险管理。
执行与实施
欧洲人工智能办公室已于2024年2月在欧盟委员会内部设立，负责监督《人工智能法案》在成员国间的执行与实施工作。该办公室致力于营造一个人工智能技术尊重人类尊严、权利和信任的生态环境，并促进各利益相关方在人工智能领域的合作、创新和研究。同时，它积极参与国际间关于人工智能问题的对话与合作，认识到全球协同治理人工智能的必要性，努力将欧洲塑造成人工智能伦理和可持续发展的全球引领者。
未来展望
至2023年12月，欧洲议会和欧盟理事会已就《人工智能法案》达成政治协议，当前正进入正式通过和翻译阶段。该法案将在官方公报发布20天后生效，并在两年后全面适用；其中，禁令将在六个月后启动，通用人工智能模型的治理规则和义务将在十二个月后开始实行，嵌入受监管产品的人工智能系统规则将在36个月后开始适用。为了顺利过渡到新的监管框架，欧盟委员会推出了《人工智能公约》这一自愿倡议，旨在提前支持法案关键义务的遵守，并邀请全球范围内的开发者参与其中，共同推进人工智能产业的健康发展。
