在全球人工智能技术迅猛发展的当下，欧洲议会于2024年3月13日通过了《人工智能法案》（AI Act），这标志着欧盟在AI立法领域迈出了坚实的一步。该法案的通过不仅是对AI技术应用的一种规范，也是对公民权利保护的一种强化。
《人工智能法案》的核心在于平衡创新与风险管理。法案明确禁止了一系列可能侵犯公民权利的AI应用，如基于敏感特征的生物识别分类、无差别提取面部图像、情绪识别、社会评分等。这些禁止性规定旨在防止AI技术在侵犯个人隐私、歧视等方面带来的潜在风险。
同时，法案对执法部门使用生物识别识别系统（RBI）进行了严格限制，要求在特定情况下使用，并需满足一系列保障措施。这一规定体现了法案对于公共安全与个人权利之间平衡的考量。对于高风险AI系统，法案要求进行风险评估、维护使用日志、确保透明度和人工监督等，以确保这些系统的应用不会对公共利益造成损害。
法案还强调了透明度要求，特别是对于通用AI（GPAI）系统及其模型，要求遵守欧盟版权法，并发布详细的训练内容摘要。对于可能带来系统性风险的GPAI模型，法案提出了额外的评估和报告要求。此外，法案对“深度伪造”内容的标记要求，也是对虚假信息传播的一种防范。
在支持创新方面，法案鼓励在国家层面建立监管沙盒和现实世界测试，为中小企业和初创企业提供发展和培训创新AI的机会。这一措施有助于促进AI技术的多样性和创新活力，同时也确保了这些企业能够在合规的框架内成长。
尽管《人工智能法案》在保护公民权利和促进创新方面取得了积极进展，但其在实施过程中也面临着挑战。一方面，企业担心法案的严格规定可能会限制技术的发展和创新；另一方面，监管机构和民间组织认为法案在某些方面还不够强硬，无法充分应对AI带来的所有潜在风险。此外，大型科技公司在法案制定过程中的影响力也引起了一些担忧。
欧盟内部市场专员蒂埃里·布雷东的表态显示了欧盟对于建立可信赖AI体系和规则的决心。法案将在官方公报公布后20天生效，全面适用将在生效后24个月实施，部分特定规定将在更短时间内生效。
