您现在的位置是:知识 >>正文

欧盟AI法案即将生效,杨立昆等AI科学家表示反对

知识8445人已围观

简介在欧盟放行了全球首部人工智能法案后,有科技界领袖对此表达担忧,认为人工智能的风险被夸大了。在上周举行的巴黎VivaTech大会期间,科技巨头Meta人工智能负责人杨立昆Yann LeCun)公开表示, ...

在欧盟放行了全球首部人工智能法案后,欧盟有科技界领袖对此表达担忧,法案认为人工智能的即将家表风险被夸大了。

在上周举行的生效示反巴黎VivaTech大会期间,科技巨头Meta人工智能负责人杨立昆(Yann LeCun)公开表示,杨立欧盟新法案面临的昆等科学一个“大问题”是“人工智能的研究和开发是否应该受到监管”。

AGI何时实现, 业内分歧较大

杨立昆表示,欧盟欧盟人工智能法案和其他各个地方都有规范研究和开发的法案条款,但他认为这不是即将家表一个好主意,理由是生效示反他并不认为人工智能会很快超越人类智能。

“坦率地说,杨立我不相信AI有任何与人接近的昆等科学地方。”杨立昆表示,欧盟“我认为它目前没有那么危险。法案”不过他承认,即将家表未来人工智能系统可能会变得更加智能,届时需要对它们的设计采取适当的保障措施。

百度CEO李彦宏也在VivaTech期间表示,AGI的实现还需要超过十年的时间。他表示:“我们希望人工智能像人类一样聪明,但当今最强大的模型远未达到这一程度。”

李彦宏呼吁加快人工智能的发展步伐。“我担心的是人工智能技术进步得不够快。每个人都对过去几年技术发展的速度感到震惊。但对我来说还是不够快。”他表示。

以特斯拉CEO马斯克为代表的科技人士强调人工智能的风险,马斯克在X Space的访谈中预测,到明年或2026年,人工智能的智慧可能会超过世界上最聪明的人类,也就是通用人工智能(AGI)的实现。

ChatGPT的开发商OpenAI的CEO奥尔特曼(Sam Altman)在今年早些时候预测,AGI可能会在“相当近的未来”开发出来。

对于人工智能安全性风险的分歧在OpenAI的“内斗”中已经暴露出来。OpenAI在宣布向公众免费提供迄今为止最强大的人工智能模型GPT-4o后,该公司前首席科学家苏茨克维尔(Ilya Sutskever)宣布辞职,“超级对齐”团队解散。

这也引发了谁来为AI负责的讨论。现任清华大学国强教授、智能产业研究院首席研究员聂再清对第一财经记者表示:“Ilya对大模型技术的理解非常深刻,他的离职和对齐团队的解散短期内对OpenAI大模型技术的发展和安全可控可能会有一些影响。OpenAI应该还会继续大力投入到安全和对齐相关的工作上,确保大模型长期安全可控,在各种边界情况下都表现良好。”

他认为,作为大的科技企业,可以通过团队的协同,在“对齐”这个方向上做更好的长期规划和资源共享及调配。

创新与监管如何平衡

欧盟一直走在人工智能监管的最前沿。上周,欧盟委员会批准了《人工智能法案》,这项法案是全球首创,将为人工智能监管制定全球标准。

该立法遵循“基于风险”的方法,旨在促进私人和公共参与者在欧盟市场上开发和采用安全、值得信赖的人工智能系统。法案规定,提供公共服务的实体部署高风险人工智能系统之前,需要评估其基本权利影响。这也意味着AI对社会造成伤害的风险越高,监管的规则就越严格。

该法案也涉及通用人工智能大模型(GPAI)的使用。根据法案,不构成系统性风险的GPAI模型将受到一些有限的要求,例如透明度方面的要求,但那些存在系统性风险的模型将必须遵守更严格的规则。

一些企业和行业组织已经明确对欧盟的AI法案提出反对,认为这不利于欧洲打造人工智能高地。欧洲科技行业组织Digital Europe此前在一份声明中称:“这意味着我们需要投入更多来研究对抗人工智能使用风险的方法,而不是投入技术本身,新的监管规则将要求公司投入大量资源来遵守,把资源花在律师身上,而不是雇佣人工智能工程师。”

Meta欧盟事务主管Marco Pancini也表示:“最重要的是,我们不应该忽视人工智能在促进欧洲创新和促进竞争方面的巨大潜力,而开放是关键。”

亚马逊首席技术官沃纳·沃格尔斯(Werner Vogels)也在VivaTech期间表达了对人工智能监管可能会扼杀某些领域创新的担忧。

他表示,在考虑风险时,监管机构应该考虑将新技术应用于医疗保健和金融服务。“我认为AI在很多领域应用的风险很小,我们应该让创新在这些领域发挥作用。在其他领域,AI犯的错误可能对人们的生活产生更大的影响,应该针对这些特定领域进行特别的风险管理。”沃格尔斯表示。

他还强调,亚马逊欢迎监管,并与监管机构的总体目标保持一致,但警告欧盟不要过度监管人工智能。

对此,欧盟委员会表示,该法案的推出目标是“刺激欧洲人工智能的投资和创新”。“这项具有里程碑意义的法案是世界上第一部AI法案,它解决了全球技术挑战,也为我们的社会和经济创造了机会。通过人工智能法案,欧洲强调在处理新技术时信任、透明度和问责制的重要性,同时确保这种快速变化的技术能够蓬勃发展并促进欧洲创新。”欧盟在一份声明中称。

欧盟表示,该立法法案经欧洲议会通过后,将在未来几天内在欧盟官方公报上发布,并在发布后二十天生效,新法案将在生效两年后对企业正式产生影响。不遵守规则的公司将面临3500万欧元或等同于全球收入7%的罚款(二选一)。

举报

Tags:

相关文章