• 2024年5月25日 07:29

欧盟正在研拟严格的人工智能规则,ChatGPT 成为焦点

2 月 5, 2023

欧盟工业主管 Thierry Breton 表示,拟议中的新人工智能规则,将旨在解决有关聊天机器人 ChatGPT 和人工智能技术的风险问题。这是欧盟一位高级官员首次对该应用发表评论。

ChatGPT 可以根据提示生成文章、散文、笑话甚至诗歌。在其问世仅两个月后,就被评为历史上增长最快的消费应用程序。

一些专家担心,这类应用所使用的系统可能被滥用于抄袭、欺诈和传播虚假信息。不过,人工智能的拥护者却将其誉为一种技术的飞跃。

Thierry Breton 表示,ChatGPT——微软支持的一家名为 OpenAI 的私营公司 的创意——和人工智能系统带来的风险,凸显了拟定规则的迫切需要。去年,他提出了为该技术制定全球标准的建议。目前,布鲁塞尔正在对这些规则进行讨论。

他在书面评论中对路透社表示:“ 正如 ChatGPT 所展示的,人工智能解决方案可以为企业和个人提供巨大的机会,但也可能带来风险。这就是为什么我们需要一个坚实的监管框架,以确保基于高质量数据的值得信赖的人工智能。”

微软拒绝对 Thierry Breton 的声明发表评论。OpenAI 公司没有立即回应置评请求。

OpenAI 在其网站上表示,它正在努力构建安全有益的人工智能,其目标是 “ 造福全人类 ” 。

根据欧盟草案规定,ChatGPT 被认为是一种通用的人工智能系统,可用于多种目的,包括高风险的目的,如筛选求职者和信用评分。

这位欧盟工业主管希望 OpenAI 公司与高风险人工智能系统的下游开发者密切合作,使他们能够遵守拟议中的人工智能法案。

一家美国律师事务所的合伙人表示:“ 生成式人工智能刚刚被纳入定义,仅仅这一事实就表明了技术发展的速度,以及监管机构正在努力跟上这一步伐。”

几家参与开发人工智能的公司高管表示,公司担心自己的技术被归为 “ 高风险 ” 人工智能类别,因为这将导致更严格的合规要求和更高的成本。

行业机构 appliedAI 的一项调查显示,51% 的受访者预计,由于《人工智能法案》(AI Act),他们的人工智能开发活动将放缓。

微软总裁 Brad Smith 周三在一篇博客文章中写道,有效的人工智能监管应集中在风险最高的应用程序上。

他说:“ 对于人类将如何利用人工智能,我有时感到乐观,有时也会感到悲观。”

Thierry Breton 表示,欧盟委员会正在与欧盟理事会和欧洲议会密切合作,以进一步厘清《人工智能法案》中针对通用目的的 AI 系统的规则。

他说:“人们需要被告知,他们正在与聊天机器人打交道,而不是与人打交道。就偏见和虚假信息的风险而言,透明度也很重要。”

生成式 AI 模型需要在大量文本或图像上进行训练,以便对可能导致侵犯版权的指控做出某种妥当的反应。

Thierry Breton 表示,即将与立法者就人工智能规则进行的讨论将涵盖这些方面。

由于担心学生抄袭,一些美国公立学校和法国巴黎政治大学禁止使用 ChatGPT。

来源:REUTERS;编译:POLARZONE