农用无人机资讯网 您当前的位置:首页 > 行业资讯 > 人物访谈

微软邓力:对话系统的分类与发展历程

时间:2017-06-17     来源:农用无人机    作者:农用无人机资讯网      点击:LOADING…
农用无人机资讯网
  【# 名家论谈】3月 18 日,由美中技术与创新协会(Association of Technology and Innovation,ATI)主办的第一届“AI NEXT”大会在西雅图召开。本次会议的主要嘉宾包括:微软首席 AI 科学家邓力,微软院士黄学东,Uber 深度学习负责人 Luming Wang 等。华人之外,还有亚马逊 Alexa 首席科学家 Nikko Strom,微软小娜架构师 Savas Parastatidis 等业内知名专家。
 
  3月18日,第一届“AI NEXT”大会在西雅图召开,大会主题是“探索 AI 的潜力,把 AI 技术应用于实用项目和服务”,对 CV、NLP、智能助手、深度学习框架均做了专题报告。其中,邓力博士以”对话系统:历史发展与现状“为题,向与会者作了 ppt 演讲报告。

  邓力在 AI NEXT 演讲现场

  注:邓老师原为加拿大滑铁卢大学教授,1999 年加入微软,2016 年起担任微软首席人工智能科学家,负责微软深度学习技术中心应用趋向的深度学习研究。
 
  邓力:很高兴能够来这里,与大家分享我的一些研究——对于该领域,我个人将其称之为”聊天机器人技术“(Bot Technology),有时也被叫做对话系统(Dialogue System),与人机交流(Human-Machine Communication)紧密相关。对该领域的研究,已经有相当长的历史。借这次机会,我想要与大家分享该技术的历史发展,以及一些时新论文研究中的前沿技术突破。
 
  当我们谈起对话系统、对话代理(Conversational Agent)、对话式交互界面(Conversational UI)或者聊天机器人,它们其实从属于同一类技术,是实现人机交互(HCI)的一种方式。今天我主要想讲讲,在过去的二三十年间,这类技术是如何发展的。就好像对于神经网络专家,今天所流行的深度学习以及各种 AI 技术,其根源都要追溯到二三十年前。过去许多有价值的研究,都被现在的年轻人忽视了。我希望大家能够回头看看这些技术的演进历程——今天的技术都不是孤立存在的,也不是科研人员用一两年时间一下子研究出来的。
 
  我先从对该技术的简单介绍开始。
 
  首先,这类技术可被分为两类:基于文字(Text-based)和基于语音(Speech-based)。大家将会从下一位演讲者 Nikko(亚马逊 Alexa 首席科学家  Nikko Strom,本次大会上他的演讲主题为 “Alexa是怎样炼成的”)那里,听到更多关于”基于语音“的东西,因此我会重点讲”基于文字“和它们之间的区别。
 
  有一种视角把口语对话系统看作是两类系统的接替(基于语音→基于文字):先是语音识别,然后,语音识别的结果变成一连串的文字,这就成了基于文字的系统。这是传统的观点。
 
  但现在看来,这两种系统可以很好的整合到一起,不再是两条分离的流水线(Pipeline)。这样可以对端到端(End-to-End)的性能进行优化。这方面有些不错的学术出版物。
 
  所以,我写的“对话系统= | ≠语音识别+基于文字的对话系统”的意思是:口语对话系统既可被看作是两种系统的接替,也可不这么看。传统的观点十分简洁,可以有两个不同的开发者社群来进行技术开发:一个是语音识别,一个是用基于文字的系统识别错误,因为语音识别会产生错误。
 
  在这里,我想指出三点:
 
  设计对话系统有两种不同方式:整合学习(Integrated learning)vs. Simply pipelined;对于基于语音的系统,它包含额外的信息:我们称之为 Para-linguistic cues,这在文字中是缺失的。若能充分利用 Para-linguistic cues,比如说话者的情绪、肢体语言,基于语音的系统会远远强大于基于文字的系统。当然,后者也有一些表达情绪的方式,比如 emoji 的使用,但和 Para-linguistic cues 相比仍然是不同的东西。这是基于语音和基于文字系统的一项主要区别。
 
  另外,取决不同的用户,语音输入可能会比文字输入更简单——或者更复杂。对我个人而言,由于对语音技术比较了解,在噪音不高的情况下,我倾向于使用语音来于小娜对话。但对于大多数人而言,他们倾向于使用基于文字的对话,因为他们不知道语音识别在什么情况下效果好,什么情况下效果不好。区别于不同用户,会有不同的人机对话行为,这是系统设计中需要考虑的、很重要的一点。
 
  另一个重要区别是:窄领域 vs 宽领域(narrow domain vs wide domain)。目前来讲,基于文字的系统一般被看作是宽领域,语音是窄领域。但这是由于目前技术所限,随着语音识别技术成熟,情况很快就可能发生变化,尤其鉴于深度学习对语音识别的改善。今天的研究人员,已经可以着手思考怎么让基于语音的系统更宽更 open。
 
  接下来,我会讲讲口语对话系统的三代发展。
 
  口语对话系统的三代发展
 
  近几年,我们经历了一轮又一轮公众对于 AI 技术的兴奋期。但现实是,相关技术的基础在 1980 年代末、1990 年代初就已经开发出来了。我会对这些技术如何从第一代发展到最新一代作个概括。
 
  第一代:基于符号规则、模板
 
  微软首席 AI 科学家邓力:对话系统的分类与发展历程 | AI NEXT
 
  首先,第一代技术从 1980 年代末开启,在流行度上面,几年前这一波技术就可以说是结束了,虽然你能够发现一些商用系统和 bot 初创企业还在使用它们。这代技术依赖于专家人工制定的语法规则和本体设计(ontological design)。这些规则很容易解释、理解,比较透明,这就是这代技术为什么能催生出一系列的成功商业应用的原因。修补漏洞很容易,系统更新也很容易。
 
  它的局限性:
 
  依赖于专家。如果没有懂得编写这类应用的专家,开发会极其困难。
 
  跨领域的扩展性不足
 
  数据用来设计规则,而不是学习
 
  早期有相当多的高校、政府机关、商业公司研发这类系统。它们可分为语音识别和语言理解系统。它们全都由符号规则组成,需要付出极大的努力来开发。
 
  由于这些局限,第一代技术只能应用于极狭窄的领域,而这也许是一件好事。有一个非常好的、关于这类技术的论文,它的研究对象是伯克利的餐厅。获知,普通餐厅反而是不行的,因为需要写的规则太多。
 
  第二代:数据驱动、浅层学习
 
  微软首席 AI 科学家邓力:对话系统的分类与发展历程 | AI NEXT
 
  第二代技术是数据驱动型的。
 
  从业者不愿意把这代技术称之为浅层学习(shallow learning),但事实如此,它们是传统的浅层学习方法。对了,用于对话规则(dialogue policy)的强化学习就是这时候研究出来的(1990 年代)。今天我们看到的强化学习高潮,在那时就打下了基础。如今深度学习的进步进一步起到了帮助。
 
  这种基于浅层学习的数据驱动方式,不容易理解和修补漏洞,但确实有学习能力。
 
  这篇论文(“POMDP-based statistical spoken dialogue systems:a review”)对第二代技术做了整体归纳,它发表的时间是 4 年前(2013),恰恰在深度学习登场之前。这篇论文是剑桥大学的成果,他们做了很多努力来把该系统商业化。
 
  第三代:数据驱动的深度学习
 
  微软首席 AI 科学家邓力:对话系统的分类与发展历程 | AI NEXT
 
  第三代技术用深度学习取代了浅层学习的部分。和第二代技术一样,数据被用来学习对话系统中的所有东西。第三代的神经模型和表示远远比前两代要强大,端到端的学习也变得可行。从两年前开始,它吸引了全世界范围内巨大的研究兴趣。但它也有许多局限性:
 
  解释、修补漏洞、更新系统仍然不容易。
 
  在神经网络学习和符号自然语言之间缺乏交互界面
 
  跨领域的扩展,但相当多的研究在想办法利用深度迁移学习和强化学习来实现
 
  尚无明确的商业成功案例。
 
  这三代技术有各自的强项,如何把这些优点整合起来,是一项主要的挑战。很多研究聚焦于此。
 
  研究前沿
 
  这里我列出了三项前沿研究领域:
 
  基于语音 vs 基于文字
 
  针对对话的深度强化学习
 
  符号-神经之间的整合
 
  原标题:微软首席 AI 科学家邓力:对话系统的分类与发展历程
 
如果您觉得文章不错,请分享
上一篇:搜狗CEO王小川:现在的人工智能都还只是套路
下一篇:张亚勤:AI研究仍处早期 科技人才流动很正常
相关阅读
 
吴甘沙:从低速切入快速实现智能驾驶商业化落地
吴甘沙:从低速切入快速实现智能驾驶商业
索托:区块链是看不见的手 体系可包容全球的人
索托:区块链是看不见的手 体系可包容全
霍学文:鼓励区块链技术发展 促进区块链规范应用
霍学文:鼓励区块链技术发展 促进区块链
搜狗CEO王小川:现在的人工智能都还只是套路
搜狗CEO王小川:现在的人工智能都还只是
薛军:未来部分律师业务可能会被人工智能取代
薛军:未来部分律师业务可能会被人工智能
张亚勤:AI研究仍处早期 科技人才流动很正常
张亚勤:AI研究仍处早期 科技人才流动很
农用无人机飞手培训相关
 
国内无人机培训市场现状 2017-08-26 13:20:58
AOPA到底是怎么样监管无人机? 2017-08-26 13:19:31
AOPA秘书长全面解读无人机驾照那点事儿 2017-08-26 13:18:51
无人机“领航”,培育紧缺人才 2017-08-26 13:17:39
资深无人机飞手月薪上万,但想当“老司机”还得懂维修 2017-08-26 13:16:37
无人机培训市场进入“三国时代” 三家机构分食“飞手”认证 2017-08-26 13:16:22
无人机“飞手”该去哪取证? 2017-08-26 13:15:02
国外哪些院校开设了无人机课程吗? 2017-08-26 13:14:39
无人机考证?越辩越明! 2017-08-26 13:13:28
国内外高校涌起开设无人机专业新热潮 2017-08-26 13:12:30
更多...    
网站推荐
 
掌握未来植保核心 植保无人机助力智慧农业 掌握未来植保核心 植保无人机助力智慧农业
浅谈农业植保无人机对作业环境的要求 浅谈农业植保无人机对作业环境的要求
新政来袭!植保无人机“受宠”,特殊政策“伺候”! 新政来袭!植保无人机“受宠”,特殊政策“伺候”!
重磅!国家空管委起草无人机管理条例,首次公开征求意见 重磅!国家空管委起草无人机管理条例,首次公开征求意见
羽人:2018年农业补贴领取难度增加,但对农民来说是好消息! 羽人:2018年农业补贴领取难度增加,但对农民来说是好消息!
羽人植保无人机进军巴西国际市场,共谱合作新篇章 羽人植保无人机进军巴西国际市场,共谱合作新篇章
猜你喜欢
 
聚焦“大数据与VR技术” VR技术前景可期
聚焦“大数据与VR技术” VR技术前景可期
企业如何打开智能机器人商业化的多样路径?
企业如何打开智能机器人商业化的多样路径?
第二届中国制造2025与工业4.0全球年会在北京召开
第二届中国制造2025与工业4.0全球年会在北京召开
最新资讯
 
珠海羽人参加茂名春耕现场会
水稻精量直播无人机 有效提升水稻生产机械化水平
插秧机已经饱和,2019年水稻直播无人机更赚钱!
珠海羽人水稻精量直播无人机助力2019珠海市春耕生产暨农业科技、放心农资 农业机械“三下乡”
珠海羽人携水稻精量直播无人机参加湖北省春季农机化生产现场推进活动
珠海羽人水稻精量直播无人机亮相全国农机展
珠海羽人水稻精量直播无人机亮相全国农机展
珠海羽人在成都植保会高调亮相,与你相约不见不散!
珠海羽人邀您共聚上海CAC2019国际农用化学品及植保展览会!
珠海羽人2019全国农业机械与零部件展览会即将开幕预告
关注我们
 
农用无人机资讯网二维码关注
 
网站首页 | 农用无人机 | 植保无人机 | 喷药无人机 | 打药无人机 | 喷粉无人机 | 播撒无人机 | 无人机手机版
农用无人机资讯网 Nongyhk.com 版权所有