详解《人工智能框架公约》,“布鲁塞尔”效应在AI领域会如何 

来源:综合整理 | 发布时间:2024-09-09

摘要:美国、欧盟、英国等10个国家和组织在欧洲委员会司法部长会议上签署了首个《人工智能框架公约》。

当地时间5日,美国、欧盟、英国等10个国家和组织在欧洲委员会司法部长会议上签署了首个《人工智能框架公约》。

《人工智能框架公约》由欧洲委员会46个成员国、欧盟和包括加拿大、以色列、日本和美国在内的11个非成员国参与起草,过程历时两年多,今年5月份在欧洲委员会讨论通过。公约旨在应对AI系统的整个生命周期中出现的具体挑战,并鼓励审议AI相关的各类风险和影响,包括对人类健康和环境、就业和劳动等社会经济方面的影响。该公约也对非欧洲国家开放签署。

就在上个月,全球首部全面监管人工智能的法规——欧盟《人工智能法案》也正式开始生效。该法案规定,聊天机器人等人工智能系统必须明确告知用户他们在与机器互动,人工智能技术提供商必须确保合成的音频、视频、文本和图像内容能够被检测为人工智能生成的内容。此外,该法案规定,禁止使用被认为对用户基本权利构成明显威胁的人工智能系统。

北京市金杜律师事务所合伙人吴涵律师在网络安全和数据合规领域有多年执业经验,他在接受第一财经记者专访时表示:“欧盟希望通过制度输出的方式增强自身在AI监管方面的‘布鲁塞尔效应’的意图有迹可循。”

视觉中国图

视觉中国图

和《人工智能法案》有何异同

吴涵律师表示,欧盟《人工智能法案》仅由欧盟作为制定与发布主体,并希望通过其适用范围的广泛性以辐射更多的国家和地区,从而增强自身的“布鲁塞尔效应”。而《框架公约》将尝试通过条约约定的方式拉齐参与各国的人工智能保护目标,以增强人工智能监管的国际化共识。

仅12页的《框架公约》规定了一些包含保护隐私和个人信息、风险透明、和禁止歧视在内的主要准则。缔约方须采取立法、行政或其他措施来具体实施《框架公约》的规定。

欧盟《人工智能法案》则明确规定对有违规行为的企业,欧盟最高将对其处以全球年营业额7%的罚款。

一些批评者认为《框架公约》的原则和义务过于笼统,缺乏具体的执行标准和问责机制。

对此,吴涵律师表示,“为了扩大国际条约的签署范围、增强自身的影响力,国际条约不设置罚款等制裁措施的情形并不少见。”

他表示,不可否认的是,没有制裁措施意味着是否遵循公约规定将最大程度地依靠各缔约国的自觉性。 为了确保各缔约国能够有效落实公约规定,公约还规定组建一个后续监督机制。只不过,在公约正式签署国数量较少、后续机制暂未健全的现阶段,讨论这一国际条约的实际约束力度还为时尚早。

“布鲁塞尔”效应在AI领域能否再度起效

“布鲁塞尔”效应由哥伦比亚大学教授布拉德福德(Anu Bradford)提出,旨在描述欧盟单方面制定的规则对国际规则和各国国内政策产生了重要影响的现象。

布鲁塞尔效应在数字领域尤为明显。最显著的例子是在欧盟发布的通用充电器指令下,苹果公司正在全球范围内放弃其专有的闪电接口。而欧盟2016年颁布的《一般数据保护条例》(GDPR) 限制了科技公司收集个人数据的行为,并影响了各国在数据保护领域的立法。

面对人工智能治理领域,欧洲的立法能否在全球范围内激起涟漪呢?

吴涵表示:“世界各国针对其他司法辖区新兴领域立法的多数态度均是求同存异,即批判吸收借鉴欧盟的有益经验,完善自身的监管体系。尤其是在欧盟《AI法案》已分阶段生效的当下,除了文本上的经验,落地实践的经验也可成为后续观察的重点。”

他表示,世界各国有必要加快制定监管规则,一方面对AI可能造成的影响作出回应,另一方面也要结合本国产业特点输出有特色有针对性的监管原则和工具。但是,由于新法不可避免地将对AI行业内的相关企业的发展带来或正向、或负面的影响风暴,因此在“敏捷治理”的基础上,还宜特别强调对AI实践进行充分调研,尽量减少AI立法与监管过分阻碍AI产业发展的可能性。

下一步,《框架公约》将等待各签署国立法机构的批准。《框架公约》将在获得5个签署国(包括至少3个欧洲委员会成员国)立法机构批准三个月之后生效。

当地时间5日,美国、欧盟、英国等10个国家和组织在欧洲委员会司法部长会议上签署了首个《人工智能框架公约》。

《人工智能框架公约》由欧洲委员会46个成员国、欧盟和包括加拿大、以色列、日本和美国在内的11个非成员国参与起草,过程历时两年多,今年5月份在欧洲委员会讨论通过。公约旨在应对AI系统的整个生命周期中出现的具体挑战,并鼓励审议AI相关的各类风险和影响,包括对人类健康和环境、就业和劳动等社会经济方面的影响。该公约也对非欧洲国家开放签署。

就在上个月,全球首部全面监管人工智能的法规——欧盟《人工智能法案》也正式开始生效。该法案规定,聊天机器人等人工智能系统必须明确告知用户他们在与机器互动,人工智能技术提供商必须确保合成的音频、视频、文本和图像内容能够被检测为人工智能生成的内容。此外,该法案规定,禁止使用被认为对用户基本权利构成明显威胁的人工智能系统。

北京市金杜律师事务所合伙人吴涵律师在网络安全和数据合规领域有多年执业经验,他在接受第一财经记者专访时表示:“欧盟希望通过制度输出的方式增强自身在AI监管方面的‘布鲁塞尔效应’的意图有迹可循。”

和《人工智能法案》有何异同

吴涵律师表示,欧盟《人工智能法案》仅由欧盟作为制定与发布主体,并希望通过其适用范围的广泛性以辐射更多的国家和地区,从而增强自身的“布鲁塞尔效应”。而《框架公约》将尝试通过条约约定的方式拉齐参与各国的人工智能保护目标,以增强人工智能监管的国际化共识。

仅12页的《框架公约》规定了一些包含保护隐私和个人信息、风险透明、和禁止歧视在内的主要准则。缔约方须采取立法、行政或其他措施来具体实施《框架公约》的规定。

欧盟《人工智能法案》则明确规定对有违规行为的企业,欧盟最高将对其处以全球年营业额7%的罚款。

一些批评者认为《框架公约》的原则和义务过于笼统,缺乏具体的执行标准和问责机制。

对此,吴涵律师表示,“为了扩大国际条约的签署范围、增强自身的影响力,国际条约不设置罚款等制裁措施的情形并不少见。”

他表示,不可否认的是,没有制裁措施意味着是否遵循公约规定将最大程度地依靠各缔约国的自觉性。 为了确保各缔约国能够有效落实公约规定,公约还规定组建一个后续监督机制。只不过,在公约正式签署国数量较少、后续机制暂未健全的现阶段,讨论这一国际条约的实际约束力度还为时尚早。

“布鲁塞尔”效应在AI领域能否再度起效

“布鲁塞尔”效应由哥伦比亚大学教授布拉德福德(Anu Bradford)提出,旨在描述欧盟单方面制定的规则对国际规则和各国国内政策产生了重要影响的现象。

布鲁塞尔效应在数字领域尤为明显。最显著的例子是在欧盟发布的通用充电器指令下,苹果公司正在全球范围内放弃其专有的闪电接口。而欧盟2016年颁布的《一般数据保护条例》(GDPR) 限制了科技公司收集个人数据的行为,并影响了各国在数据保护领域的立法。

面对人工智能治理领域,欧洲的立法能否在全球范围内激起涟漪呢?

吴涵表示:“世界各国针对其他司法辖区新兴领域立法的多数态度均是求同存异,即批判吸收借鉴欧盟的有益经验,完善自身的监管体系。尤其是在欧盟《AI法案》已分阶段生效的当下,除了文本上的经验,落地实践的经验也可成为后续观察的重点。”

他表示,世界各国有必要加快制定监管规则,一方面对AI可能造成的影响作出回应,另一方面也要结合本国产业特点输出有特色有针对性的监管原则和工具。但是,由于新法不可避免地将对AI行业内的相关企业的发展带来或正向、或负面的影响风暴,因此在“敏捷治理”的基础上,还宜特别强调对AI实践进行充分调研,尽量减少AI立法与监管过分阻碍AI产业发展的可能性。

下一步,《框架公约》将等待各签署国立法机构的批准。《框架公约》将在获得5个签署国(包括至少3个欧洲委员会成员国)立法机构批准三个月之后生效。