幸运时时彩注册_幸运时时彩官网_幸运时时彩

构建新一代人工智能准则

时间:2019-01-25 13:06:00  来源:光明日报

分享到微信朋友圈

打开微信,点击 “ 发现 ” ,使用 “ 扫一扫 ” 即可将网页分享至朋友圈。

幸运时时彩:构建新一代人工智能准则

光明图片/视觉中国  1.以和谐互补的方式链接不同的人工智能准则提案  人工智能既是经过数十年锤炼发展出来的科学领域,又是改变未来的重要颠覆性技术


【科学向未来】

作者:曾毅(中国科学院自动化研究所类脑智能研究中心研究员、副主任)

著名作家阿西莫夫1940年在科幻小说中提出了“机器人三原则”:机器人不得伤害人类,或看到人类受到伤害而袖手旁观;机器人必须服从人类的命令,除非这条命令与第一条相矛盾;机器人必须保护自己,除非这种保护与以上两条相矛盾。今天,人工智能逐渐从科幻走向现实,人们对人工智能可能产生的危害也愈加警惕,希望能够为其制定准则以确保人工智能科技和产业向对社会有益的方向顺利发展。

构建新一代人工智能准则

光明图片/视觉中国

1.以和谐互补的方式链接不同的人工智能准则提案

人工智能既是经过数十年锤炼发展出来的科学领域,又是改变未来的重要颠覆性技术。人工智能的研究与发展不仅关系到国家科技、经济发展、社会稳定,更关系到国家在科技、产业领域的国际影响与国际局势。

人工智能在带来机遇的同时也带来潜在的风险与隐患。例如应用最为广泛的深度神经网络模型在对输入引入极小的噪声(如改变图像输入中某个关键的一个像素值)情况下,就有可能使网络的识别和预测结果产生颠覆性的错误(如将青蛙识别为卡车、乌龟识别为枪支)。若没有充分的风险评估,新兴技术在对社会发展带来机遇的同时,很有可能引入不可预计的安全隐患与风险。

现在对于人工智能的发展而言,首要的问题是选择正确的道路。创新、价值、伦理是一个铁三角,创新性技术对社会带来潜在价值的同时,可能存在难以预期的风险,并对社会伦理提出重大挑战。因此,发展人工智能技术普惠经济与社会的同时,关注人工智能的社会属性,从社会风险、伦理准则与治理角度确保人工智能科学、技术、产业的健康、良性发展至关重要。

为了确保发展有益的人工智能,世界上各国政府、非政府组织、科学团体、科研机构、非营利性组织、企业都提出了人工智能发展准则。包括英国政府、国际电子电器工程学会、国际劳工组织。至今,于公开渠道可见的人工智能准则提案已接近40个,涉及以人为本、合作、共享、公平、透明、隐私、安全、信任、权利、偏见、教育、通用人工智能等主题。例如,美国生命未来研究所倡导的阿西洛玛人工智能准则(Asilomar AI Principles)、英国上议院提出的人工智能准则(AI Code)等,都希望通过在人工智能伦理与准则制定方面的领先来引领人工智能的发展。

事实上目前任何一个国家、机构、组织提出的人工智能准则都仅覆盖了少部分主题(更为具体的层面,人工智能准则提案涉及超过50个主要议题),虽然不少准则提案都有自身的特色,有其他方案未能覆盖的考量,但想要构建统一、全面、完善的人工智能准则既是难以实现的,又是没有必要的——难以实现的原因是人工智能这门科学技术本身、人工智能准则、伦理的内涵和外延都是在不断完善的;没有必要的原因是每个国家、组织与机构的准则提案都结合自身实际情况,有组织目标、环境、文化、伦理传统相关的特殊考虑。

笔者认为,真正有价值的做法是认可每一个国家、机构提案在一定范围的意义,而为了更好地实现人工智能的全球治理,重点将不是统一人工智能的准则,而是以更和谐互补的方式链接不同的人工智能准则提案,使其在局部(如国家、组织机构等)有序与一致,世界的全局范围内不同的准则提案仍可交互和协商,最终实现和谐互补、优化共生。

2.调和政府与企业在准则制定上的现存差异

在对不同人工智能准则提案的量化分析中可以看到:相对而言,各国政府对人工智能的潜在风险与安全高度重视,但企业的重视程度相对薄弱。这反映了在企业从事人工智能创新过程中对于潜在风险与安全隐患可能估计不足。例如,在对人工智能风险的评估中,部分企业认为如果总体可能的利益远远超过可预见的风险和不利因素,则可以进行相关探索。但从学术的视角看,一方面,依据潜在利益与风险之间的量化差异决定企业是否采取相关行动本身就是一个危险的视角;另一方面,如果没有站在全社会的全局视角进行综合研判与分析,仅从企业自身视角进行预测与判断,则很有可能因为局限的思考与行动对社会造成潜在的巨大危害。

因此,应当看到政府重视与企业相对不足的考虑之间的差距,并采取引导、监管、建立人工智能产品与服务的风险与安全评估体系等有效措施弥补政府期望与企业实践之间的鸿沟。

同时,一些准则在相关技术途径可能引发风险的方面可能估计不足。例如某些提案中对通用人工智能(各个认知功能达到人类水平,简称AGI)、超级智能(所有认知功能超过人类水平,简称ASI)涉及很有限。

这方面学术机构的讨论和相关研究应当为政府决策提供有力支撑,例如阿西洛玛人工智能准则中提出超级智能以全人类受益为标准来发展,剑桥大学近期提出并正在进行一项名为“通用人工智能的实现途径及潜在风险”的研究。

3.兼顾专用人工智能和通用人工智能的发展

在人工智能顶层设计当中,是否发展通用人工智能,还是仅限于发展领域特定的专用人工智能?这是诸多人工智能准则提案中主要存在的巨大分歧。

例如,欧盟人工智能研究实验室联合会(CLAIRE)就明确提出应限制人类水平智能、通用智能以及超级智能的发展。德国的人工智能计划也集中于发展专用人工智能。而阿西洛玛人工智能准则、OpenAI等机构提出的人工智能准则中则明确提出应当对更安全的通用人工智能进行充分考虑与发展。

事实上发展专用智能并不一定能够完全避免风险,因为专用智能系统在应用中很可能遇到不可预期的场景, 具备一定的通用能力反而有可能提升智能系统的鲁棒性和自适应能力。因此应针对智能的通用性这个主题链接不同国家、组织、机构的考虑,实现顶层设计的互补。

人类认知功能的多样性以及人工智能应用场景的复杂性使得很难对人工智能的风险、安全以及伦理体系进行绝对完善的建模,特别是涉及到人工智能产品、服务与具有不同文化背景的人类群体交互。任何国家都应制定适应本国的实际社会、科技、经济发展与文化需求的人工智能准则。但更关键的是需要全世界不同政府、学术组织、产业界深度交互与协同,对人工智能的发展进行对全社会有益的战略性设计,对其潜在的社会风险与伦理挑战进行系统性评估与预测,并构建世界范围内总体和谐、互为补充、优化共生的发展准则。

编辑:焦晓珊


分享到微信朋友圈

打开微信,点击 “ 发现 ” ,使用 “ 扫一扫 ” 即可将网页分享至朋友圈。
  • 了解陕西大事 关注陕西头条
  • 陕西本地最火图片社交APP
  • 《华州皮影》歌曲MV发布并入驻网易云音乐

    娱乐 歌曲《华州皮影》是中国•渭南华州皮影文化艺术周主题歌,融合传统文化、碗碗腔、通俗音乐、说唱音乐等多种元素,将华州皮影的艺术魅力通过歌曲这一形式迅速传递给大家 2019-04-25

  • 《X战警:黑凤凰》定档 领先打响生死终结战

    娱乐 20年经久不衰成超英电影里程碑 X战警暂别观众深情告别  作为受到全球观众热烈追捧、同时又是美国漫威漫画旗下最受欢迎的IP之一,《X战警》系列电影的全球总票房达到58亿美金,在系列电影全球票房榜中高居第六 2019-04-25

  • 全片采用IMAX摄影机拍摄 见证复仇者终局之战

    娱乐 终局之战》是继《复仇者联盟3》之后,第二部全片采用Alexa IMAX摄影机拍摄的好莱坞大片 2019-04-25

  • 新《封神演义》,雷人的不仅是群妖造型

    娱乐 《封神演义》的原著能不能登“经典”之堂 2019-04-25

  • 开心麻花新锐导演电影《非常替身》正式启动

    娱乐 未能来到现场的马丽、常远、于洋、张一鸣等多名喜剧一线大咖则发来视频表达了对于好友杨沅翰导演与电影《非常替身》的祝福 2019-04-25

  • 闪瞎了!邓紫棋和男友跳舞开心大笑撒狗粮

    娱乐 邓紫棋指着男友大笑  据台湾媒体报道,歌手邓紫棋(G.E.M.)谈恋爱越来越大方,时不时就会PO出跟造型师男友Mark一起拍的照片、影片,虽然没有刻意放闪,但因为互动自然又可爱,总能让粉丝看得超开心 2019-04-24

  • 幸运时时彩

    娱乐 网友偶遇吴彦祖  网友偶遇吴彦祖  吴彦祖年轻照  日前,有网友晒出偶遇吴彦祖的合影,男神发际线再受关注 2019-04-24

  • 世界级舞团Kinjaz成员Jawn Ha亮相西安SKP

    娱乐 今年春夏,杰尼亚XXX系列再度来袭,更是推出了系列经典之作个性化定制球鞋My Cesare 2019-04-23

  • “抖音”爆款《丽人行》亮相西安大雁塔快闪

    娱乐 据重庆市文化和旅游发展委员会相关负责人称,本次重庆《丽人行》走进西安,以重庆人演绎西安大唐的故事,是网红城市重庆向邻居西安发出的旅行邀请,欢迎西安市民到重庆体验“山水之城 美丽之地”的风采 2019-04-23

  • 林志颖晒双胞胎儿子近照 萌娃学认车笑容超软萌

    娱乐 “身为一个爱车的老爸,特别做了车标背板让他们认logo,老二对车特别有兴趣,学起来特别认真特别开心,老三比较特别喜欢ABC和数字,两个虽然是双胞胎但兴趣完全不一样,好有趣!”照片中的萌娃看着车的logo,笑得软萌可爱 2019-04-23

  • “拜师”综艺热播 情感类节目聚焦“师徒关系”

    娱乐 朴鹤冉认为,每个师父带来的形式不同,所以每期节目流程也不一样,“每次录制之前,我们都不会跟徒弟做录前沟通,所以他们更能真实地体会这个过程,真心感悟到一些东西,他们可以感悟到,才能带领观众感悟到 2019-04-23

  • 北影节天坛奖揭晓 窦靖童首次触电获最佳女配

    娱乐 在随后进行的颁奖典礼上,第九届北京国际电影节天坛奖各大奖项揭晓,天坛奖大奖颁发给丹麦电影、比利·奥古斯特执导的《幸运儿比尔》,陈建斌执导的华语片《第十一回》收获最佳编剧奖,而出演该片的窦靖童则获最佳女配角奖,《流浪地球》收获最佳视觉效果奖 2019-04-23

网站简介 版权声明 我要投稿 联系我们 广告服务 友情链接 工作邮箱 陕西不良信息举报

Copyright ©2006-2019 西部网(陕西新闻网) WWW.CNWEST.COM, All Rights Reserved.
本网站法律顾问:陕西洪振律师事务所主任 王洪
陕ICP备07012147号 互联网新闻信息服务许可证: 61120170002 信息网络传播视听节目许可证:2706142
返回首页