• 2024年12月3日 00:52

欧洲已就人工智能使用的监管规则达成了一致,此举将具有里程碑的意义

12 月 10, 2023

周五,欧洲就欧盟管理人工智能使用的规则达成了一项临时协议。该规则将包括:严格限制政府在生物识别监控中使用人工智能,以及如何监管诸如 ChatGPT 之类的人工智能系统。

随着政治协议的达成,欧盟正在朝着出台世界上第一个人工智能的法律的方向迈进。欧盟各国和欧洲议会周四进行了近 24 小时的辩论,次日又经过近 15 个小时的谈判,最终达成了协议。

双方还将在未来几天讨论细节问题,并有可能改变最终立法的形式。

欧盟专员 Thierry Breton 在新闻发布会上说: “ 欧洲已将自己定位为先驱,并理解其作为全球标准制定者角色的重要性。是的,我相信,这是历史性的一天。”

该协议要求,ChatGPT 和通用人工智能系统(GPAI)等基础模型,在被投放市场之前,必须遵守透明度义务——包括起草技术文件,遵守欧盟版权法,以及公布有关训练内容的详细摘要。

具有系统风险的高影响基础模型必须进行模型审查,评估,并降低系统风险,进行对抗性测试,向欧盟委员会报告严重事件,确保网络安全,报告其能源效率。

具有系统性风险的 GPAI 可依赖实践准则,来满足新法规的要求。

政府在公共场所,只能以防止某些犯罪的受害者,阻止真实的、现实的或可预见的威胁,如恐怖袭击,以及搜查最严重犯罪的嫌疑人为目的,使用实时生物识别监控。

该协议禁止认知行为操纵、禁止从互联网或闭路电视录像中,无针对性地截取面部图像、社会评分和生物识别分类系统,来推断政治、宗教、哲学信仰、性取向和种族。

消费者有权提出投诉,并获得有意义的解释。违规者,将被科处从 750 万欧元或营业额的 1.5% 到 3500 万 欧元(占全球营业额的 7%)不等的罚款。

商业组织 “ 数字欧洲 ” (DigitalEurope)批评称,这些规定,将是企业继近期其他立法之后的又一负担。

隐私权组织 “ 欧洲数字权利 ”(European Digital Rights)也同样持批评态度。

该组织高级政策顾问 Ella Jakubowska 表示:“ 欧盟的法律将首次采取措施,在整个欧盟范围内把公开面部识别合法化,这很难让人感到兴奋。”

“ 虽然议会为降低损害付出了艰苦的努力,但关于生物识别监控和分析的整体方案,仍乏善可陈。”

一旦双方正式批准,该法案预计将于明年初生效,并将在两年后实施。

世界各国政府都在寻求平衡这项技术的优势与设置护栏的必要性。欧盟的法律有可能成为其他国家政府的蓝本,并成为美国的 “ 轻触 ” 策略和中国的暂行规定的替代方案。

来源:REUTERS;编译:POLARZONE