欧洲通过全球首部人工智能法案

coffee198375

3月13日消息，据国外国媒体体报道，当地时间周三，欧洲议会批准了世界上迄今为止最全面的人工智能立法，旨在为人工智能系统开发商确立清晰的规范，并对这项技术的使用设定新的界限。


在去年12月与欧盟成员国达成相关协议后，欧洲议会周三投票最终批准了这项法案。这项新法案将在未来几年内逐步实施，它不仅禁止了某些具有潜在危害的人工智能应用，还引入了新的透明度规则。此外，对于被认定为高风险的人工智能系统，法律还要求进行风险评估。


这项法案出台之际，人工智能技术正被企业和消费者越来越多地使用，全球正就人工智能的未来及其潜在风险和收益展开更广泛的辩论。特斯拉CEO埃隆·马斯克（Elon Musk）近日对OpenAI及其CEO山姆·奥特曼（Sam Altman）提起了诉讼，指控他们在追求商业利益的过程中忽视了人工智能对人类福祉可能产生的负面影响。奥特曼也承认，人工智能的发展应该非常谨慎，但它提供了巨大的商业可能性。


新法案的适用范围广泛，涵盖了在欧盟市场上销售的所有人工智能产品，无论这些产品是在哪里开发的。此外，该法案还规定了严厉的罚款措施，最高可达企业全球收入的7%。


意大利的欧洲议会议员白兰度·贝尼菲（Brando Benifei）对于新通过的《人工智能法案》给予了高度的评价，他认为这个法案是“世界上第一个为人工智能的安全和以人为本的发展指明道路的法规”。贝尼菲帮助主导了该法案的谈判。


这个法案的适用范围虽然目前仅限于欧盟，但由于其前瞻性和全面性，预计将产生深远的全球影响。大型人工智能企业为了进入拥有约4.48亿人口的欧盟市场，不会忽视这个法案。此外，其他司法管辖区也很可能会将这部新法律作为制定自身人工智能法规的参照，从而在全球范围内产生连锁反应。


律师事务所Linklaters的合伙人纪尧姆·康森（Guillaume Couneson）强调了这个法案的重要性，他表示：“任何打算开发或使用人工智能工具的人，都必须阅读这一规则手册。”


在全球范围内，多个司法管辖区已经出台或正在考虑新的人工智能规则。例如，美国拜登政府去年就签署了一项行政命令，要求大型人工智能企业在开发可能构成严重风险的模型时通知美国政府。


与此同时，本月早些时候生效的另一项反竞争法已经对科技巨头产生了实质性的影响，如苹果改变其应用商店政策，GOOGLE改变搜索结果在欧盟用户中的显示方式等。另一项针对网络内容的法律，正在推动大型社交媒体企业报告他们在处理平台上的非法内容和虚假信息方面所做的努力。


值得注意的是，欧盟《人工智能法案》并不会马上全面生效。立法中的各项禁令，包括禁止在学校和工作场所使用能识别人类情绪的人工智能，以及禁止在面部识别数据库中无目标地抓取图像等，预计开始实施时间将在今年晚些时候，而该法案的其他内容将在未来几年逐步生效。


新规则最终将要求通用人工智能（AGI）模型的提供商提供最新的技术文档，并发布用于训练模型的内容摘要，这有助于增加人工智能系统的透明度和可说明性。这些模型是在大量数据集上进行培训的，并支撑更专业的人工智能应用。


对于最强大的人工智能模型制造商，由于它们被认为存在所谓的“系统性风险”，因此将被要求进行最先进的安全评估，并在发生严重事故时及时通知监管机构。该法案还规定，他们必须实施缓解潜在风险和确保网络安全的措施。


随着OpenAI的ChatGPT聊天机器人的公开发布，欧盟在人工智能立法的过程中加强了对通用人工智能的规范。然而，这一举措引起了行业组织和部分欧洲政府的反对，他们认为立法者应该专注于技术的风险用途，而不是对支撑其使用的模型进行一揽子规定。


法国（人工智能创企Mistral AI总部所在地）和德国试图淡化一些立法提案的影响。Mistral AI首席实行官亚瑟·门施（Arthur Mensch）最近表示，对他的企业来说，《人工智能法案》将是一个可控的负担，尽管他认为法律应该继续关注人工智能的使用方式，而不是底层技术。


欧洲议会议员们认为，《人工智能法案》是欧盟近年来在游说和推动方面付出巨大努力的成果。企业监管机构和立法者们提出了更高的希望和要求。他们希翼立法包括更严格的要求，例如安全评估和风险缓解的规则，适用于所有通用的人工智能模型，而不仅仅是最强大的模型。


此外，《人工智能法案》还明确要求对深度造假（deepfakes）产品进行明确标注。深度造假指的是由人工智能生成或操纵的图像、音频或视频，看起来非常逼真。欧洲立法者们认为高风险的人工智能系统，如用于移民或关键基础设施的人工智能系统，必须进行风险评估，并确保它们使用高质量的数据。


值得一提的是，欧洲的立法者们也充分考虑到了技术的快速发展和变化。他们试图使立法具有足够的灵活性，以便能够适应未来可能出现的新技术和新应用。例如，通过授权欧盟委员会根据市场和技术发展趋势更新通用人工智能模型定义的技术要素，可以确保法规的时效性和适用性。



家园推荐阅读：

欧盟官方版：欧盟《人工智能法》通过版的主要内容及相关背景