财新传媒
位置:博客 > 李大巍 > 牛津AI大神伍尔德里奇:面对日益关注的人工智能伦理问题,立法的重点是什么?

牛津AI大神伍尔德里奇:面对日益关注的人工智能伦理问题,立法的重点是什么?

牛津AI大神 迈克尔·伍尔德里奇

 

迈克尔·伍尔德里奇,欧洲第一人工智能权威,熟识人工智能的产、学、研整个链条,被誉为“牛津AI大神”。他1997年创办了欧洲计算领域的卓越网络AgentLink,当时堪称欧洲学术界的宠儿。2012年,他加入牛津大学,此前在利物浦大学做了12年的计算机科学教授,研究领域包括人工智能和多智能体系统(multi-agent systems)等。2015年,他当选为国际人工智能联合会议(IJCAI)主席。《人工智能研究杂志》副主编、《人工智能杂志》副主编。他曾发表过三百多篇有关智能体和多智能体系统的学术论文,曾担任《自主代理与多代理系统》杂志联合主编、《人工智能研究杂志》副主编、《人工智能杂志》副主编,并担任《应用逻辑杂志》、《逻辑和计算杂志》、《应用人工智能》、《计算智能》等杂志的编辑委员会成员。

 

“人工智能立法的重点应在于充分利用AI技术所提供的各种机遇,构建适宜的环境以激励、培育大量AI初创公司和新服务的发展,防范和应对AI技术所带来的各种潜在危害。”他山石专家、牛津AI大神迈克尔·伍尔德里奇教授日前在接受《科技日报》采访时如是表示。

 

  • 人工智能的三项重要突破

伍尔德里奇教授主要从事多智能系统研究,同时兼任国际计算机学会、美国人工智能学会及欧洲人工智能学会会员;2015年7月—2017年8月曾担任国际人工智能联合会议主席。他认为,迄今为止AI领域最重要的3项突破分别是MYCIN系统、斯坦利机器人和“阿尔法狗”(AlphaGo)。

 

MYCIN系统由美国斯坦福大学在20世纪70年代研发,它证明计算机在诊断血液疾病方面的表现超越了人类专家,也为其后研发的很多(获取与某些具体问题相关的人类专家知识)系统创建了模板,具有巨大的影响。斯坦利机器人是美国斯坦福大学2015年研发的,它在沙漠中成功地自动驾驶140余英里,证明先进AI技术能使无人驾驶汽车真正可行。其主要突破在于它需要理解车辆处于何处及周围环境是什么,这是当时无人驾驶汽车面临的最大难题。谷歌DeepMind公司2016年研发的“阿尔法狗”,在韩国首尔以4∶1击败世界围棋冠军李世石。这是一个惊人的成就——因为在计算上“Go(围棋)”是一个很难解决的问题,“阿尔法狗”使人们认为,不久的将来它将超出计算解决方案的范围,证明了新型机器学习技术有能力解决困难问题。

 

  • 人工智能立法重在挖掘机遇和防范危害

对于人们日益关注的AI伦理和立法问题,伍尔德里奇教授认为,AI技术引发的伦理问题是现有计算机伦理问题的新版本。最近发生的“剑桥分析丑闻”是借助于先进计算技术/AI技术,试图利用人们的隐私数据来操纵选举,其实质是基本数据伦理问题。英国的传统做法是,向计算技术等领域的学生教授数据伦理和各种行为规范,经过这种训练的人应该能清醒认识这些问题并做出正确决定。AI技术目前面临的难题是算法偏见,它是指故意或非故意地将某个计算机程序设计为可做出有偏见的决定。“坏程序”可能会做出有偏见的决定;但由具有偏见的人所训练的正常程序,也将会不可避免地做出具有偏见的决定。科学家需要对此进行深入研究。

 

2017年6月,英国议会成立了“人工智能委员会”,并就立法问题开展了一系列工作,伍尔德里奇教授曾应邀参加其咨询活动。在他看来,英国的AI立法将聚焦两个重要方面:首先是要准确界定英国在AI领域的国际地位,以充分利用由此提供的各种机遇;确定政府采取哪些举措才能促进AI初创公司和新服务的发展。目前英国有很多AI初创公司和新服务,政府将致力于构建适宜的环境以激励和培育其进一步发展。

 

其次是防范和应对AI技术所带来的各种潜在危害,算法偏见将会成为重点。目前采集和使用隐私数据等问题引发了很多担忧;在英国及其他国家人们对AI自主武器也有很多担忧——AI系统是否有权选择某人的生存或者死亡?这对很多人而言都是现实的问题,整个社会和政府需要严肃地思考,以塑造人们赖以生存的世界。

 

  • 中国应拓宽人工智能技术投资领域

伍尔德里奇教授非常关注中国AI技术的发展,他曾参加2016年8月在深圳举办的“全球人工智能与机器人峰会(CCF-GAIR)”,2018年3月初出席了“牛津中国论坛”的“AI与科技板块”学术活动,目前还正在培养两名中国籍博士生。他表示:“中国在AI领域已迅速崛起,并首次向美国的霸权提出了严峻挑战。我注意到在过去20年里,越来越多的中国研究人员出现在国际科学会议上。

 

如今在人工智能国际学术会议上,可以看到很有分量的中国代表团,这种改变令人印象深刻。”他提供的数据表明,美国在过去60年间一直占据AI领域的主导地位,1980年首届“人工智能促进协会”年会由美国主导,中国研究人员没有提交论文;在2018年2月的最新一届年会上,中国提交的论文数量比美国多25%。

 

在他看来,中国的迅速崛起得益于两大独特优势。一方面,中国政府制定了国家层面的宏观发展计划,且具有很强的执行力。中国应该继续充分利用这种优势,为AI技术发展创造良好环境。英美等国则不具备这种优势,通常其政府推出一项新政策都需要较长时间的辩论,如英国推动无人驾驶汽车技术的发展,要首先完成草拟新法律法规等工作,且耗时很长。

 

另一方面,中国企业在获取数据方面具有天然优势——中国拥有巨大的人口优势,阿里巴巴、腾讯等科技公司的用户数量和市值都在全球名列前茅,并且还投巨资进行AI研发,因此中国企业拥有的验算数据规模远远超过其他任何国家;而机器学习技术患有严重的“数据饥饿症”,识别人脸、翻译语言和试验无人驾驶汽车等都需要大量训练数据。

 

伍尔德里奇教授建议,目前中国的AI投资过度集中于机器学习技术领域。从国家级战略层面来看,更为重要的是放宽眼界,拓展AI投资领域,要同样重视移动技术的深度研究和移动计算系统的研究等领域;英国多年来一直致力于推动AI技术在国民保健系统(NHS)中的应用,中国也应关注此领域,这样必将惠及更多民众。

 

来源:科技日报

作者:郑焕斌

 

 

 


想邀约这位牛津AI大神迈克尔·伍尔德里奇,欢迎扫码联系他山石客服

 

他山石智库(www.tashanshi.net),国际演讲嘉宾第一品牌。植根于中国市场,助力中国科技和经济发展,链接全球顶尖前沿科技、经济金融、创新创业领域专家。创始团队来自国务院发展研究中心、阿里巴巴、财新传媒,著名财经作家吴晓波投资。他山石与30余位诺贝尔奖得主及1000余位商界领袖、科学家、名校教授、畅销书作者建立合作,涵盖数字经济、人工智能、大数据、物联网、5G、工业互联网、生物医药、大健康、新零售、经济金融、文化创意等50多个国家重点鼓励和支持的产业领域。他山石为国内众多顶级会议论坛提供国际专家,包括乌镇世界互联网大会、天津世界智能大会、重庆智博会、贵阳数博会、上海世界人工智能大会、上交会、阿里新经济智库大会、腾讯粤港澳大湾区论坛等。

他山石创始人李大巍(daweili@mit.edu),麻省理工访问学者、中央电视台评论员、出版《对话最强大脑:精英眼中的未来世界》及《中国经济的未来:10位诺奖经济学家建言中国经济》。



推荐 0