常识欧盟人工智能法案推动风险治理

和茂科技

日前，欧盟理事会正式批准了《人工智能法案》。该法案已于今年3月份在欧洲议会高票通过，时隔2个多月后在欧盟理事会获批，标志着全球首个对人工智能（AI）进行规范的系统性法律正式进入落阶段。能力评价的最新消息可以到我们平台网站了解一下，也可以咨询客服人员进行详细的解答！http://gdafxh.org.cn/index.php?ac=article&at=list&tid=266

分级分类管理

欧盟《人工智能法案》将防控风险作为基础，风险概念贯穿法案始终。法案将各类AI技术和应用分为大类，按照其对社会带来的风险严重程度由高至低分别为不可接受高风险和通用。

不可接受类包括利用AI技术采集和分析数据，并据此对欧盟公民进行标签化分类，还包括先于犯罪行为际发生的预防性执法，以及在工作场所和学校进行情绪识别和干预。法案明确禁止此类AI应用，禁令将于今年11月份正式生效，也是法案比较早际生效的部分。

高风险类包括AI驾驶汽车以及AI操控医疗设备，因为此类应用有可能对公民的健康、安全等基础权利构成风险；还包括AI在金融服务和教育领域的应用，主要为了防止算法设计上出现偏见导致特定群体利益受损。法案明确要求，此类高风险应用需符合相关产品安全规定，这一要求将在2027年夏季正式施。

通用类即当前高度流行的生成式AI系统，法案对其作出了严格的要求限制，包括要遵守欧盟版权法，要对模型的训练模式保持透明度，要有络安全保护措施，以及要经过定期测试。有关限制将在2025年夏季起正式施，但此后仍将有3年的过渡期让有关企业调整其产品以确保合规。

重罚促进合规

针对有可能出现的行为，法案规定了较大的处罚力度。根据行为的严重程度，法案设计了阶梯状的处罚条款，比较低处罚额度是820万美元或企业全球营业额的15%，比较高处罚额度是3790万美元或企业全球营业额的7%。值得注意的是，在每一级的处罚阶梯上，法案都规定处罚际金额将在固定金额和营业额比例金额中取其高者。以微软、谷歌为例，二者在2023年的全球营业额均在2000亿美元以上，在各个处罚阶梯上的比例罚款都远高于定额罚款，按照法案就高不就低的规定，企业的成本异常高昂。另外，考虑到AI企业以大型跨国、跨行业企业为主，其全球营业额不仅来自欧盟以外市场，还来自AI以外领域。因在欧盟AI业务中受罚，导致在其他市场、其他行业的营业额受损，更加大了法案对有关企业的震慑力度。

面对欧盟严法重罚的威慑，首先感受到压力的是美国互联。美咨询机构责任AI研究所创始人向媒体表示，近来收到的业务咨询量正在增加，因为成员企业正在为一个新的未来环境做准备。在这一环境下，确保业务的合法合规不仅具有强制性，而且也将成为其在全球市场上的竞争势。所有都很重视这一法案，这一法案开创的先例将对全球人工智能治理具有重要意义。

引发连锁反应

当前主权AI概念正在速兴起，主要均有意推动主权AI立法，创造对自身发展和安全有利的人工智能法律环境。欧盟通过全球首个《人工智能法案》，在全球范围内的示范效应突出，势必会刺激其他以各种方式加强应对。

此次欧盟通过的《人工智能法案》酝酿于2022年，针对的正是AI技术速发展对社会安全和公民权利的冲击。法案提出以来，一直被贴有世界首个全球比较严等标签，也引发了其他或加以效仿，或对冲反制的连锁反应。去年年末，美众议院两议员因担忧欧盟AI立法损害美国科技企业利益，增加美企在欧洲的经营成本，联合致信拜登总统要求反制。

此次欧盟批准法案后，美责任AI研究所就表示美国人不希望看到欧洲在AI治理上走在前列，美国需要起草自己的政策。该研究所近期进行的民调显示，大多数美国人都希望看到美国在AI治理上走自己的路而非按照欧盟规则行事。该研究所还表示，欧盟《人工智能法案》总体来看是积极并且方向正确的，但是有很多改进的空间。美国版的AI法案将在管控大模型风险的同时，更加注重对创新的支持。

有公共政策专家分析认为，此次欧盟《人工智能法案》进入执行阶段，标志着新一轮立法热潮的兴起。欧盟《人工智能法案》将对其他的相关立法工作产生重要影响。总体来说，欧盟有意复制自身在数据保护工作中的成功经验，希望通过本法案为AI规范制定金标准，但其他或将采取更加灵活的政策。