防止人工智能的风险,关键在于信息的对称。

2024-03-25 热点资讯 关注公众号

文/夏宾、王立广

中国发展高层论坛2024年年会3月24日至25日召开,年会主题为“持续发展的中国”,在人工智能发展与治理专题研讨会上,清华大学苏世民书院院长薛澜教授表示,人工智能发展有一系列的风险需要去防范,针对人工智能治理的挑战,薛澜提出了敏捷治理等方面的建议。

清华大学苏世民书院院长薛澜表示,从治理的角度来看,防范人工智能发展风险,就必须去考虑人工智能治理有哪些挑战。

第一个挑战,步调不一致的问题。人工智能的技术发展是非常快的,但是治理体系建设相对来讲就要慢一些。一个法律法规要出台,要经过一系列的论证,各方面的考虑。

第二个挑战,信息不对称的问题。在调研的时候发现,政府和企业双方都有很多盲区。企业不知道政府规制最关心的问题在哪儿,对于技术发展可能会带来什么风险,政府不清楚,很多情况企业也不清楚。

第三个挑战,从规制的角度来讲,在风险规制的过程中成本是不对称的。比如说人工智能滥用或者误用的技术成本是相当低的,但是要去防范这种风险其实是非常困难的,要远远高于它有可能造成的危害,所以风险治理的成本也是很高的。

第四个挑战,全球治理方面,做全球治理的人往往会提到机智复合体的问题。可能针对某一个问题,企业、组织、政府都很关心,都想采取一些措施去解决。专业组织、国际组织、基金会、企业等都对某个问题有一定的治理兴趣,甚至他们也有这方面的能力和条件。但是,所有这些组织之间没有从属关系,而都对这个问题有相关的利益,希望来参与治理。这样使得全球治理体系的形成就有很大的困难。

针对怎么去解决这些问题?薛澜提出以下建议。

第一,要加强关于安全和技术研究,尤其是需要加强国际合作。第二,通过敏捷治理的方式解决刚才提到的问题。第三,还要鼓励企业的自我规制。第四,加强国际治理。第五,在人工智能领域中美双方一定要加强合作,这样才能真正解决人类面临的各种问题。


综上所述,人工智能的发展也面临一系列的挑战,如步调不一致、信息不对称、规制成本高以及全球治理难度大等。针对这些挑战,薛澜提出了加强安全和技术研究、采用敏捷治理方式、鼓励企业自我规制、加强国际治理和中美合作等建议。然而,只有各方面都充分认识到这些问题并采取有效的措施,才能真正实现人工智能的安全、高效和可持续发展。

上一篇:这些食物含雌激素,子宫肌瘤患者可以吃吗
下一篇:阿里减持套现小鹏汽车22.61亿元是什么逻辑|汽势财经
更多更酷的内容分享
猜你感兴趣
北大学者:人工智能在决策智能方面的关键在于决策系统的设计与实施

北大学者:人工智能在决策智能方面的关键在于决策系统的设计与实施

翁翕教授提出,人工智能应通过数智化实现决策智能化,并举例说明了智能交通项目如何利用人工智能提高运行效率,成为了数智技术赋能城市发展的典范。他还强调了人工智能未来发展面临的挑战,如算力瓶颈和数据短缺等,建议高校教育需跟产业上下游企业开展对话,及时调整课程内容。

热点资讯 05.19
改变不良生活习惯,降低脑出血风险: 预防脑出血的关键在于控制危险因素

改变不良生活习惯,降低脑出血风险: 预防脑出血的关键在于控制危险因素

脑出血是一种急性且严重的脑血管疾病,主要由于高血压引起,表现为突发性的脑实质内血管破裂。

生活常识 10.30
周延礼:智能工具将引领保险行业创新,但防范风险不可忽视

周延礼:智能工具将引领保险行业创新,但防范风险不可忽视

个人信息保护和数据安全规定;其次,强化技术安全策略,确保算法公正透明;再次,加强用户教育和培训,提升体验价值;最后,关注AI算法的可解释性和道德责任,保障社会信任。周延礼呼吁各方共同努力,让人工智能大模型技术在保险行业中发挥积极作用,推动实体经济高质量发展。

热点资讯 10.20
世界人工智能大会声音:图灵奖得主与薛澜关注三大关键风险与步伐差距

世界人工智能大会声音:图灵奖得主与薛澜关注三大关键风险与步伐差距

据报道,2024世界人工智能大会(WAIC)前沿人工智能安全与治理论坛在上海举行。与会专家就前沿人工智能(AI)安全研究、评测、治理和国际合作等问题进行了主旨演讲和圆桌讨论。专家们认为,在AI快速发展背景下,人类需要对AI潜在的风险做好准备,并建议国际合作和对话十分重要。此外,图灵奖得主、深度学习三巨头之一、米拉-魁北克人工智能研究所(Mila)创始人和科学总监约书亚·本吉奥(Yoshua Bengio)指出,AI领域已经出现了国际合作。他还强调了AI对人的潜在风险,并呼吁各方应该在交流和合作方面采取行动。

热点资讯 07.06
神秘人物即将登陆,揭开影子美联储主席的面纱。

神秘人物即将登陆,揭开影子美联储主席的面纱。

特朗普计划通过提前任命美联储主席干预货币政策决策,但是否能成功还需观察国会的反应。预计贝森特可能会被提名为下一任美联储主席,但他认为这是不可能的,因为总统有权直接提名其接替人。设立“影子主席”会对美联储产生一定的影响,但最后由FOMC作出决定。此外,任命新主席将加剧市场的不确定性,导致与长期固定利率债务相关的风险溢价增加。这可能是特朗普希望引发市场动荡的信号。

热点资讯 11.22
三大指数大跌3%,逼近月初最低纪录,所有行业近5000股悉数飘绿

三大指数大跌3%,逼近月初最低纪录,所有行业近5000股悉数飘绿

今日股市全面回调,三大指数悉数跌逾3%,其中仅互联网电商板块有所上涨,其余权重板块均大幅下挫。此外,市场还出现了多只涨停股和大量下跌股。当前,连板股晋级率维持在55%左右,但随着指数午后继续扩大跌幅,高位人气股内部淘汰加剧。昨日活跃的高位股如京东方、华联综采等尾盘纷纷炸板回落,引发市场波动。此外,此前连续展开修复行情的前期人气股也有不少出现下跌。午后权重板块集体杀跌是指数向下加速的主要原因,其中一些非银金融和光伏行业股票纷纷受到影响。总体来看,市场整体氛围较为压抑。

热点资讯 11.22
Rokid发布创新科技产品——Rokid Glasses AI+AR眼镜,售价2499元,预计将在2025年第二季度上市!

Rokid发布创新科技产品——Rokid Glasses AI+AR眼镜,售价2499元,预计将在2025年第二季度上市!

本次新闻的主要事件是Rokid发布AR眼镜Rokid Glasses,售价2499元,并预计将于2025年第二季度上市。这款眼镜具有物体识别、文字翻译、数学题解答等功能,并接入了支付宝旗下的“AI生活管家”,引入了AI办事、声纹支付等能力。此外,Rokid还计划在2025年海外市场销售收入将大概率超过国内市场。这家公司的创始人兼CEO表示,这款产品有望成为市场上最具创新性的AR眼镜之一。

热点资讯 11.22
多部门联动发布:解决农民工城市入户、社保和随迁子女入学问题,让公平正义触手可及

多部门联动发布:解决农民工城市入户、社保和随迁子女入学问题,让公平正义触手可及

近日,《关于进一步加强农民工服务保障工作的意见》发布,旨在促进农民工高质量充分就业,推动农民工市民化高质量发展。《意见》将稳定和扩大农民工就业,引导外出就业与就地就近就业并重;优化场地、金融、税收等政策,支持农民工返乡创业;建立就业帮扶长效机制,确保农民稳岗就业;保障农民工合法权益,督促企业遵守劳动合同、劳务派遣、新就业形态劳动者权益保护等规定。同时,要促进进城农民工均等享有城镇基本公共服务,放宽城镇落户限制,实现有意愿的进城农民工在城镇落户,并保障农民工的土地权益。此外,还要开展新市民培训,加强随迁子女教育保障、住房保障,促进农民工就地就近享有基本公共服务。《意见》还要求加强农民工党建引领,加大对优秀农民工和在农民工工作中作出突出贡献的组织和个人的表彰奖励。

热点资讯 11.22
今年‘黑五’购物狂欢延长至10天!中国市场各大商家争夺战加剧

今年‘黑五’购物狂欢延长至10天!中国市场各大商家争夺战加剧

亚马逊、TikTok shop、速卖通等多个电商平台分别开启黑五大促,提供线下购物优惠,吸引消费者购买;各类卖家也通过不同的方式提升自身吸引力,抢占市场份额。同时,各平台也在利用大数据分析用户需求和行为习惯,制定精准的营销策略。

热点资讯 11.22
川航:加拿大温哥华降落后,已成功安全降落

川航:加拿大温哥华降落后,已成功安全降落

川航三U3859航班下降遭“炸弹气旋”,11名乘客被困飞机;空姐试图安抚呕吐乘客,但一直帮忙照顾,最终平安降落在温哥华。

热点资讯 11.22
使用AI引领全新体验:iPhone 16全面解析,识图翻译样样精通,并能计算卡路里

使用AI引领全新体验:iPhone 16全面解析,识图翻译样样精通,并能计算卡路里

苹果宣布自家 AI 功能 苹果于今年 6 月正式发布自家 AI 功能,并且已经获得了不少人的高度评价。此次发布会推出了名为「跃问」的大模型,可以像 Apple 发表会上那样使用 AI 功能。虽然大模型产品较多,功能相同,但使用方式较为单一,需要开启 App 才能使用。如果你想尝试使用 AI 功能,那么只需要下载并安装跃问 App,然后进入相机设置中的相机控制选择「跃问」即可开始使用。但需要注意的是,首次启动时需要手动勾选基础设置,之后才能正常使用视觉功能。

热点资讯 11.22
黄仁勋明日将登上港岛,沈向洋半小时震撼演讲:推出多款AI大模型,深度展示AI的未来与魅力

黄仁勋明日将登上港岛,沈向洋半小时震撼演讲:推出多款AI大模型,深度展示AI的未来与魅力

IDA大会在深圳举行,沈向洋发表主题演讲并公布创新成果。他认为计算力、算法和数据是关键,并表示机器人将走向千家万户,这是个激动人心的机会。该大会汇聚产学研企界领袖,构建国际化平台,被认为是大湾区最具影响力科技盛会之一。

热点资讯 11.22
乒乓球总决赛:中国女单四强诞生,王艺迪以3-1战胜张本美和,日本队宣告全军覆没

乒乓球总决赛:中国女单四强诞生,王艺迪以3-1战胜张本美和,日本队宣告全军覆没

10秒的关键技术暂停时,安排年轻队员李益飞和丁宁上场。关键时刻丁宁把握住机会打出了高质量的杀球,帮助国乒扳回一分。暂停后,张本美和再次加强攻势,并在关键时刻被丁宁扣杀,让比分再度落后。然而,在接下来的一局中,丁宁展现了强大的攻击力,成功击溃对手并取得了胜利,从而带领国乒女队顺利挺进四强。另外,王曼昱在比赛中对阵钱天一也表现出色,以3-1的比分获胜。这场比赛展现了中国乒乓球女队的强大实力,有望在决赛中面对斯佐科斯。最后,东京站的乒乓球赛事已经结束,国乒女队在此次比赛中表现抢眼,特别是在团体赛中获得了冠军。这也展示了中国乒乓球女队在国际赛场上的强大实力和竞争力。

热点资讯 11.22
快手公司被警方约谈,因其在短视频平台上传播的非法内容遭到处罚

快手公司被警方约谈,因其在短视频平台上传播的非法内容遭到处罚

快手公司因违反《网络安全法》相关规定,被公安机关处以警告和行政处罚。各互联网平台需严格履行信息网络安全管理责任,落实网络实名制,加强源头治理、综合治理,有效防止违法信息传播,保护未成年人健康成长。

热点资讯 11.22