根据这项协议,一旦发生利用人工智能技术实施自动网络攻击等极端情况,且无法保证降低其风险,这些企业将打开“紧急停止开关”,叫停人工智能模型的开发与部署进程。
该法案由欧盟委员会在2021年提出,经过多轮谈判和协商后,欧洲议会于今年3月13日批准该法案。在获得欧洲理事会批准后,该法案还需经欧洲议会和欧洲理事会主席签署,于近日在欧盟官方公报上公布,并在公布20天后生效。
欧盟发布信息的显示,《人工智能法案》采用基于风险的方法,对不同风险等级的人工智能系统实施分类监管。风险分为四类,风险等级越高,管控越严格。
有媒体指出,在去年的英国会议召开期间,人工智能技术还主要以单模态生成式人工智能(如文本、视频)为代表,风险与安全方面的关注点也聚焦在单模态内容方面。而此后短短数月间,多模态生成式人工智能已经成为行业发展的新重点,这令其生成内容的真伪更难以鉴别,人工智能技术的风险,也变得更加难以预测和难以控制。
同日,包括微软、亚马逊、OpenAI等科技巨头在内的16家全球领先的人工智能科技公司,在峰会期间作出“前沿人工智能安全承诺”,将努力确保其最先进的人工智能模型的安全性,并实施负责任的治理,实现公开透明。
联合国秘书长古特雷斯在峰会开幕式上表示,自去年英国布莱切利峰会召开以来,“我们看到了改变生活的技术进步,也看到了威胁生命的新风险”。他认为,需要就人工智能问题制定普适的防护措施,并定期开展对话。
然而,就在首尔人工智能安全峰会召开之际,《科学》杂志发表了一篇由全球25位人工智能领域科学家撰写的专家共识论文。文章认为,当今全球在保护人类免受人工智能技术可能滋生的风险方面做得还不够。文章建议,对于未来异常强大的人工智能系统,全球各国政府必须准备好在监管方面发挥带头作用。
除了本次通过的法案之外,此前欧盟在人工智能监管领域还推出了一系列相关或配套的法律措施。例如,欧盟通过的《人工智能框架公约》,提出了一个涵盖人工智能系统全生命周期的监管法律框架;此外,欧盟还制定了《人工智能契约》,旨在帮助企业为刚刚通过的《人工智能法案》实施做好准备。
欧盟的目标是,在2026年内全面施行《人工智能法案》。不过,风险级别最高的“禁止”条款预计率先于2024年底启动适用。
有分析人士指出,从《通用数据保护条例》(GDPR)到《数字服务法案》《数字市场法案》,再到《人工智能法案》,欧盟在数字经济监管上的创新不仅仅体现在具体的监管措施,其规则输出的“布鲁塞尔效应”也愈发凸显,其严格的人工智能监管模式或将对全球人工智能发展与应用产生深远影响。
在21日的线上峰会之后,与会各方发布人工智能《首尔宣言》,呼吁加强国际人工智能治理合作以及治理框架之间的互操作性,支持启动首个国际人工智能安全研究所网络,促使国家间形成对人工智能安全的共同理解,并在研究、标准和测试方面进行协调。
自2022年11月ChatGPT横空出世以来,各类人工智能技术进入应用爆发阶段。从文生文,到文生图(诸如 Midjourney),再到文生视频(Sora大模型),乃至文生音乐(Suno V3大模型),人工智能产业发展已显现出无限想象空间。
乐鱼真人APP下载当地时间5月21日,“人工智能首尔峰会”在韩国首尔开幕。此次峰会作为去年11月在英国召开的全球人工智能安全峰会的后续会议,由韩国与英国共同主办,以“安全、创新、包容”为主题。
在人工智能技术提速发展,以及与之相伴的越来越多的安全预警面前,全球人工智能技术监管与治理体系的完善,也愈加成为迫在眉睫的严肃课题。
更早些时候,一份由30多个国家的专家支持的全球人工智能安全报告显示,如果人工智能技术的应用得不到有效监管,劳动力市场遭受大规模冲击,利用人工智能技术实施的黑客攻击或生物攻击,以及社会对人工智能失去控制等风险可能会出现。
咨询机构麦肯锡预计,人工智能技术将给全球经济带来超过7.9万亿美元价值,到2030年之前,如果生成式人工智能技术应用于各行业,每年总经济效益高达6.1万亿美元至7.9万亿美元。
网友评论更多
52塔城l
广东中山一养殖场4条鳄鱼“出逃” 现已全部找回🙂🙃
2024-06-19 18:14:17 推荐
187****1171 回复 184****2792:29岁这一年,李轩豪九段成为了世界冠军🙄来自乌苏
187****5137 回复 184****3497:梁言顺:我大学毕业后留校当了6年政治辅导员,有着很深的情结🤐来自阿勒泰
157****3586:按最下面的历史版本🤑🤒来自霍尔果斯
67石河子786
全球首次月背采样任务,嫦娥六号或为地球生命起源找到线索🤓🤔
2024-06-20 0-1:57:47 推荐
永久VIP:五一致富秘籍:景点摆摊,AI修图,能让我重回人生巅峰么?🤕来自阿拉尔
158****1127:女厕所总是排长队,我们能怎么办?🤠来自图木舒克
158****6502 回复 666🤡:2个儿子一个悲观一个乐观,8年后我终于摸清了养娃的秘密🤢来自五家渠
44北屯ks
不装了,黄人饭才是更适合中国宝宝体质的健康餐啊🤣🤤
2024-06-19 08:34:29 不推荐
铁门关bv:暴雨、狂风、冰雹接连不断,这个4月为何频发强对流天气?🤥
186****4912 回复 159****7971:对高铁上嚎叫的小孩,我的降噪耳机为什么屁用没有?🤧