必威betway88官网-点击进入

必威betway88官网 > 资讯频道 > 理论

构建新一代人工智能准则

时间:2019-01-25 13:06:00  来源:光明日报

分享到微信朋友圈

打开微信,点击 “ 发现 ” ,使用 “ 扫一扫 ” 即可将网页分享至朋友圈。

构建新一代人工智能准则

光明图片/视觉中国  1.以和谐互补的方式链接不同的人工智能准则提案  人工智能既是经过数十年锤炼发展出来的科学领域,又是改变未来的重要颠覆性技术


【科学向未来】

编辑:曾毅(中国科学院自动化研究所类脑智能研究中心研究员、副主任)

著名作家阿西莫夫1940年在科幻小说中提出了“机器人三原则”:机器人不得伤害人类,或看到人类受到伤害而袖手旁观;机器人必须服从人类的命令,除非这条命令与第一条相矛盾;机器人必须保护自己,除非这种保护与以上两条相矛盾。今天,人工智能逐渐从科幻走向现实,人们对人工智能可能产生的危害也愈加警惕,希翼能够为其制定准则以确保人工智能科技和产业向对社会有益的方向顺利发展。

构建新一代人工智能准则

光明图片/视觉中国

1.以和谐互补的方式链接不同的人工智能准则提案

人工智能既是经过数十年锤炼发展出来的科学领域,又是改变未来的重要颠覆性技术。人工智能的研究与发展不仅关系到国家科技、经济发展、社会稳定,更关系到国家在科技、产业领域的国际影响与国际局势。

人工智能在带来机遇的同时也带来潜在的风险与隐患。例如应用最为广泛的深度神经网络模型在对输入引入极小的噪声(如改变图像输入中某个关键的一个像素值)情况下,就有可能使网络的识别和预测结果产生颠覆性的错误(如将青蛙识别为卡车、乌龟识别为枪支)。若没有充分的风险评估,新兴技术在对社会发展带来机遇的同时,很有可能引入不可预计的安全隐患与风险。

现在对于人工智能的发展而言,首要的问题是选择正确的道路。创新、价值、伦理是一个铁三角,创新性技术对社会带来潜在价值的同时,可能存在难以预期的风险,并对社会伦理提出重大挑战。因此,发展人工智能技术普惠经济与社会的同时,关注人工智能的社会属性,从社会风险、伦理准则与治理角度确保人工智能科学、技术、产业的健康、良性发展至关重要。

为了确保发展有益的人工智能,世界上各国政府、非政府组织、科学团体、科研机构、非营利性组织、企业都提出了人工智能发展准则。包括英国政府、国际电子电器工程学会、国际劳工组织。至今,于公开渠道可见的人工智能准则提案已接近40个,涉及以人为本、合作、共享、公平、透明、隐私、安全、信任、权利、偏见、教育、通用人工智能等主题。例如,美国生命未来研究所倡导的阿西洛玛人工智能准则(Asilomar AI Principles)、英国上议院提出的人工智能准则(AI Code)等,都希翼通过在人工智能伦理与准则制定方面的领先来引领人工智能的发展。

事实上目前任何一个国家、机构、组织提出的人工智能准则都仅覆盖了少部分主题(更为具体的层面,人工智能准则提案涉及超过50个主要议题),虽然不少准则提案都有自身的特色,有其他方案未能覆盖的考量,但想要构建统一、全面、完善的人工智能准则既是难以实现的,又是没有必要的——难以实现的原因是人工智能这门科学技术本身、人工智能准则、伦理的内涵和外延都是在不断完善的;没有必要的原因是每个国家、组织与机构的准则提案都结合自身实际情况,有组织目标、环境、学问、伦理传统相关的特殊考虑。

笔者认为,真正有价值的做法是认可每一个国家、机构提案在一定范围的意义,而为了更好地实现人工智能的全球治理,重点将不是统一人工智能的准则,而是以更和谐互补的方式链接不同的人工智能准则提案,使其在局部(如国家、组织机构等)有序与一致,世界的全局范围内不同的准则提案仍可交互和协商,最终实现和谐互补、优化共生。

2.调和政府与企业在准则制定上的现存差异

在对不同人工智能准则提案的量化分析中可以看到:相对而言,各国政府对人工智能的潜在风险与安全高度重视,但企业的重视程度相对薄弱。这反映了在企业从事人工智能创新过程中对于潜在风险与安全隐患可能估计不足。例如,在对人工智能风险的评估中,部分企业认为如果总体可能的利益远远超过可预见的风险和不利因素,则可以进行相关探索。但从学术的视角看,一方面,依据潜在利益与风险之间的量化差异决定企业是否采取相关行动本身就是一个危险的视角;另一方面,如果没有站在全社会的全局视角进行综合研判与分析,仅从企业自身视角进行预测与判断,则很有可能因为局限的思考与行动对社会造成潜在的巨大危害。

因此,应当看到政府重视与企业相对不足的考虑之间的差距,并采取引导、监管、建立人工智能产品与服务的风险与安全评估体系等有效措施弥补政府希望与企业实践之间的鸿沟。

同时,一些准则在相关技术途径可能引发风险的方面可能估计不足。例如某些提案中对通用人工智能(各个认知功能达到人类水平,简称AGI)、超级智能(所有认知功能超过人类水平,简称ASI)涉及很有限。

这方面学术机构的讨论和相关研究应当为政府决策提供有力支撑,例如阿西洛玛人工智能准则中提出超级智能以全人类受益为标准来发展,剑桥大学近期提出并正在进行一项名为“通用人工智能的实现途径及潜在风险”的研究。

3.兼顾专用人工智能和通用人工智能的发展

在人工智能顶层设计当中,是否发展通用人工智能,还是仅限于发展领域特定的专用人工智能?这是诸多人工智能准则提案中主要存在的巨大分歧。

例如,欧盟人工智能研究实验室联合会(CLAIRE)就明确提出应限制人类水平智能、通用智能以及超级智能的发展。德国的人工智能计划也集中于发展专用人工智能。而阿西洛玛人工智能准则、OpenAI等机构提出的人工智能准则中则明确提出应当对更安全的通用人工智能进行充分考虑与发展。

事实上发展专用智能并不一定能够完全避免风险,因为专用智能系统在应用中很可能遇到不可预期的场景, 具备一定的通用能力反而有可能提升智能系统的鲁棒性和自适应能力。因此应针对智能的通用性这个主题链接不同国家、组织、机构的考虑,实现顶层设计的互补。

人类认知功能的多样性以及人工智能应用场景的复杂性使得很难对人工智能的风险、安全以及伦理体系进行绝对完善的建模,特别是涉及到人工智能产品、服务与具有不同学问背景的人类群体交互。任何国家都应制定适应本国的实际社会、科技、经济发展与学问需求的人工智能准则。但更关键的是需要全世界不同政府、学术组织、产业界深度交互与协同,对人工智能的发展进行对全社会有益的战略性设计,对其潜在的社会风险与伦理挑战进行系统性评估与预测,并构建世界范围内总体和谐、互为补充、优化共生的发展准则。

编辑:焦晓珊


分享到微信朋友圈

打开微信,点击 “ 发现 ” ,使用 “ 扫一扫 ” 即可将网页分享至朋友圈。
  • 了解必威大事 关注必威头条
  • 必威本地最火图片社交APP
  • 全国绝大部分地区“健康码”互认 可实现一码通行

    忒色 第三种是未建设本地“健康码”的地区,可直接采用全国一体化政务服务平台“防疫信息码”,同时结合本地防疫健康相关信息,实现跨地区互通互认 2020-04-01

  • 西安31条新建道路有了大名 每条路名背后都有故事

    忒色 西安31条新建道路有了“大名”。华商报记者从西安市民政局获悉,经报请西安市地名委员会同意,西安市雁塔区、高新区的31条新建道路,于近日正式予以命名并对外发布使用。 2020-04-01

  • 西安恢复定期小型现场招聘会 4月将陆续举办13场

    忒色 据了解,鉴于当前新冠肺炎疫情防控形势,以及人力资源市场需求,  西安市人社局人才服务中心、职业先容服务中心将在继续举办网络招聘的同时,恢复定期小型招聘会,推行“线上线下同步举办、网络现场相互补充”的招聘服务模式 2020-04-01

  • 招办、学生、家长、教师…听听他们怎么说高考延期

    忒色 西安铁一中学考生小王说,高考延期可以复习得更充分,但同时也需要进行适当的计划和心态的调整,如果把握好这一个月,就可以离理想的学府更近一步 2020-04-01

  • @西安人 地铁5号线最新消息来了!快来看进展情况

    忒色 西安地铁5号线一期工程,双向轨道铺设完成,顺利实现“轨通”,这标志着西安地铁5号线一期工程铺轨工作接近尾声,为全线“电通”、“车通”以及实现试运营目标奠定了坚实基础 2020-04-01

  • 又双叒来了!今起必威迎来新一轮降温+吹风+降水

    忒色 从3月25日到3月30日,必威连发六期霜冻蓝色预警,31日必威省气象台再发降温降水大风消息,倒春寒果然来势汹汹,降温+吹风+降水,西安的天气又双叒叕变脸了! 2020-04-01

  • 奥体中心游泳跳水馆“盛世之花”将于 6月30日绽放

    忒色 3月30日,记者前往奥体中心项目现场实地探访时看到,目前“一场两馆”主体已全部完工,正在进行机电调试消防验收和室外工程,整体计划于6月30日全部完成竣工交付 2020-03-31

  • 西安市进入森林防火关键期携带火种不得进山入林

    忒色 我市沿山各区县、开发区将持续做好火源管控工作,在重点时段、重点区域关注重点人员,坚决杜绝携带火种进山入林,严禁一切野外用火,最大限度消除火灾隐患 2020-03-31

  • 西安这5个区将新增数万学位,看看哪些在你家附近

    忒色 3月30日,西安市政府资讯办召开西安市公办义务教育质量提升工作系列资讯发布会(第一场),西安市教育局以及有关区县、开发区先容全市基础教育三年行动计划实施情况。 2020-03-31

  • @必威人,清明假期出门,请收好这份出行指南!

    忒色 按照交通运输部疫情防控有关要求,2020年清明节期间我省继续对依法通行收费公路的所有车辆免收通行费(对非法超限车辆依法依规处理)。 2020-03-31

  • 开学后的消杀、配餐咋保证安全?听校长们怎么说

    忒色 高三开学后,校园消杀和食堂就餐是家长非常关心的两个方面,而错峰就餐和定时消杀是各校的基本原则,具体如何操作呢?30日,唐南中学副校长闫广涛和西电中学副校长李智飞分别先容了学校食堂配餐和消杀的的相关情况,相关工作人员也简述了其一日工作概述。 2020-03-31

  • 消息!曲江七小建设如期推进 9月将招生36个班

    忒色 3月30日,西部网、必威头条记者从西安市公办义务教育质量提升工作系列资讯发布会获悉,曲江七小将在今年9月开始首批招生。 2020-03-31

视频

“陕U”车牌来了 全市启用

当心颈椎病侵袭孩子

  • 万株樱花绽放汉中西乡
  • 别让崴脚成“习惯”
  • 必威故事 文坛名家畅广元

DISCOVER SHAANXI

  • Chinese Statutory Public Holidays of 2019

  • How China was Named in History
  • Chai Kiln Museum

网站概况 网站团队 本网动态 友情链接 版权声明 我要投稿 工作邮箱 必威不良信息举报

Copyright ?2006-2020 必威betway88官网 WWW.CNWEST.COM, All Rights Reserved.
本网站法律顾问:必威洪振律师事务所主任 王洪
必威betway88官网点击进入 互联网资讯信息服务许可证: 61120170002 信息网络传播视听节目许可证:2706142
XML 地图 | Sitemap 地图