谭铁牛院士谈人工智能:有些过火应降温 发展存局限性

　　来源：中国科学院自动化研究所

　　[导读]11月25日，模式识别与人工智能学科前沿研讨会在自动化所召开。会上，谭铁牛院士做“人工智能新动态”报告，回顾了近代以来历次科技革命及其广泛影响，并根据科学技术发展的客观规律解释了当前人工智能备受关注的深层原因。报告深入分析了其当前存在的局限性和面临的瓶颈问题，整理并列举了2017年人工智能的十件大事，全方位、多维度展示了人工智能所取得的最新进展。基于对这些事件的深入分析，报告总结了人工智能未来的发展趋势和值得关注的研究方向。

　　以下内容由杨红明、张煦尧根据谭铁牛院士报告整理。



　　在科学研究中，从方法论上来讲都应先见森林，再见树木。为了更好地带领大家认识人工智能的发展趋势，报告回顾了近代世界科技发展的历史进程，主要包括从16世纪到现在，世界上发生的两次科学革命与三次技术革命。

　　报告指出，这五次科技革命对人类文明进程带来了根本性的变革，也影响了整个国际格局的调整，伴随着大国兴衰。过去的五次科技革命，我们国家都没有占据主导地位甚至严重缺席，因此我们国家的GDP从曾经占全球的三分之一以上下滑到新中国建立前仅占全球大约百分之几，我们应该从这惨痛的经历中吸取教训。

　　最近的一次科技革命是一次技术革命，其开始于上世纪四十年代，以1946年计算机的出现为标志，距今已有六十多年。这六七十年中科学技术没有大的突破与进展，没有取得能够与上个世纪上半叶相提并论的科学与技术成果，谭老师将这段时间称为科技革命的空窗期。

　　报告认为，科学沉寂了大概60多年，新一轮的科技革命正处于孕育过程中并且已经曙光可见。新一轮的科技革命会是一次技术革命，而且人工智能有望引领这一轮新的技术革命。以1776年蒸汽机的发明为标志的第一次科技革命解放了人类的体力，使人类社会发展进入第一次重大飞跃，其为第一次机器革命。现在以人工智能为代表的第二次机器革命，以及以其为主要核心技术驱动的新一轮技术革命和产业变革将极大的拓展人的脑力，成为人类社会发展进程的又一次重大飞跃。相比较而言，脑力的拓展比体力的拓展更为重要。

　　报告还回顾了人工智能60多年的发展过程，并指出应该从曲折的发展过程中吸取教训，不要给人工智能设置不切实际的过高目标，尤其是在人工智能特别火爆的时候。报告指出，这两年人工智能有些过火，应降降温，回归理性。


图1人工智能发展历程

　　报告分析了人工智能的发展现状，指出现有进展主要体现在专用人工智能方面，而且现有人工智能仍存在一些局限性，将其总结为以下四点：有智能没智慧，有智商没情商，会计算不会“算计”，有专才无通才。

　　报告进一步分析并给出了造成这些局限的瓶颈问题，这些瓶颈问题主要包括：

　　（1）数据瓶颈：深度学习需要大量的数据；

　　（2）泛化瓶颈：这是模式识别、计算机视觉、人工智能方法面临的一个共同的问题，现有方法在一些实际问题中仍无法取得理想的泛化性能，或者训练好的模型用在变化的环境或领域其泛化性能明显下降；

　　（3）能耗瓶颈：人的大脑尽管是一个通用的人工智能系统但是能耗很低（只有20瓦），但现有计算机上实现的人工智能系统能耗很高；

　　（4）语义鸿沟瓶颈：目前语言服务大多为简单查询，不涉及语义推理问题，缺乏真正的语言理解能力，比如一些有歧义的自然语言句子，人很容易根据上下文或常识理解其真正含义，计算机却很难理解；

　　（5）可解释性瓶颈：现有人工智能系统都是知其然而不知其所以然，其过于依赖训练数据，缺乏深层次数据语义挖掘。报告指出，可解释性非常重要，人工智能不仅要知其然还要知其所以然，知其然只是浅层智能，知其所以然才叫深层智能；

　　（6）可靠性瓶颈：现有人工智能系统可靠性较差，有些错误识别结果会带来致命后果，比如2016.7特斯拉自动驾驶（Autopilot）功能不能正确识别反光条件下的卡车导致致命车祸。

　　报告指出，正是因为现在还有这么多瓶颈需要突破，所以人工智能还有很多局限，人工智能还有很多不能，有些事情人工智能可能永远都不能。基于此，报告列举了当前各界关于人工智能的一些炒作和误解，并对其进行了反驳与澄清，这对我们正确认清人工智能现状有重要的指导意义。

　　尽管人工智能有一些炒作和误解，但不能否认人工智能在今年又取得了巨大的进步。报告列举和解读了2017年人工智能值得关注的事件。这些事件涵盖了国家政策、学术界、产业界、社会科学领域等各个方面，全方面、多维度地为我们展现了人工智能2017年所取得的新进展。这些事件具体包括：

　　（1）中国政府发布《新一代人工智能发展规划》，这一消息不仅在国内备受关注，在国外也引发了很大关注；

　　（2）Nature发表DeepMind的围棋人工智能新成果AlphaGoZero（2017年10月，AlphaGoZero不需棋谱数据和先验知识，通过强化学习算法创新以100：0战胜AlphaGo），其探索了特定应用中不依赖领域数据，通过自我学习获得强大推理决策能力的人工智能技术发展新路线；

　　（3）Science发表概率生成模型RecursiveCortical Network，在验证码识别任务上超越了深度学习方法，其意义在于试图探寻一条非深度学习框架的通用人工智能道路，实际上也是试图从大脑的机制中寻找启发；

　　（4）Hinton提出的Capsule网络新概念，探索对传统神经网络的变革思路，该方法希望提高数据的使用效率，同时朝着建设可解释的人工智能系统来提供思路，并试图把相互关联的多模态的信息做统一的表达；

　　（5）谷歌、微软分别发布创作AI算法的AI系统AutoML和DeepCoder（谷歌CEOSundar Pichai在2017年I/O大会展示了AutoML，试图通过自动创建机器学习系统降低AI人员成本；2017年2月微软研究院与剑桥大学合作成果DeepCoder：一种能根据问题的输入输出自动编写解题程序的算法），谭老师认为如果这方面取得成功将是革命性的变化，但其取代人工智能研究者不太可能；

　　（6）Google、Microsoft、百度、IBM等科技巨头全面转型人工智能发展战略，比如2017谷歌I/O大会明确提出发展战略从“Mobilefirst”转向“AIfirst”；

　　（7）百度Apollo计划开放自动驾驶平台，提供一套完整的自动驾驶软硬件和服务的解决方案，将会对全球自动驾驶产业发展产生深远影响；

　　（8）寒武纪发布人工智能芯片和系列产品，AI芯片在华为Mate10手机得到成功应用，这对于AI芯片大规模进入消费级市场具有标志性意义；

　　（9）旷视科技等创业公司刷新人工智能融资纪录，表明人工智能技术巨大的产业发展潜力；

　　（10）《Nature》开始关注人工智能社会伦理问题，808名科研人员签署23条“阿西洛马人工智能原则”，推动人工智能健康发展。


图2简单胶囊网络CapsNet

　　通过详尽整理与深入分析人工智能领域中值得关注的热点事件，报告进一步探索和总结了人工智能发展的新动向、新趋势以及一些值得关注的研究方向。

　　报告还分享了以下内容并对其做了细致的解读，主要包括以下方面：

　　（1）从专用人工智能到通用人工智能是大势所趋，一些科技巨头包括国家机构都在布局通用人工智能的研究，比如GoogleDeepMind创始人DemisHassabis宣布朝着“创造解决世界上一切问题的通用人工智能”这一目标前进，微软成立人工智能实验室以挑战通用人工智能为主要目标；

　　（2）可解释的人工智能系统备受关注，也将成为突破统计学习瓶颈问题的一个重要方向。DARPA的报告里面把过去几十年人工智能技术的发展和创新分成几个波次，第一个波次是基于规则的，例如以专家系统为代表的系列方法和技术；第二个波次就是当前以大数据驱动为代表的统计学习；同时，他们认为第三个波次很可能是可解释的人工智能，就是人工智能要知其然还要知其所以然，以此可见人工智能可解释性的重要意义；

　　（3）小样本甚至零样本学习成为提高人工智能系统泛化能力的一个重要方向。最近提出的生成对抗网络、胶囊网络、生成模型等都是为了降低对训练数据的需求，提高人工智能系统泛化能力的有益尝试；

　　（4）非深度神经网络计算模型成为机器学习创新的一个重要方向。当前深度学习理论基础薄弱、模型结构单一、资源消耗过高、数据依赖性强，以非神经网络、资源节约型机器学习模型有望成为下一个突破口；

　　（5）脑科学与人工智能深度融合、协同发展、相得益彰，IBM的TrueNorth芯片、美国DARPA的MICRONs研究项目、以及最近Science和Nature杂志上发表的一些受脑启发的智能计算模型都是这方面的典型例子；

　　（6）人机混合智能是未来的主流智能形态。随着人工智能的发展，机器会从作为我们的工具提升成为我们的伙伴和合作者，这是一个发展趋势；

　　（7）情感计算使人工智能更有“温度”。谭老师认为情感计算方面一定会受到越来越多的关注，因为只有情感，人工智能才更有温度，更善解人意；

　　（8）人工智能产业生态系统的构建成为竞争的制高点。众多科技巨头不断相继发布他们的平台，实际上就是想构建生态和占领生态，从而为自己企业未来发展抢占先机，这是一种战略的谋划和布局；

　　（9）AI的普适应用将重塑人类经济社会的格局，因为AI带来的影响是深远的，不一定要等到通用人工智能实现的那一天，专用人工智能就已经带来了一些革命性的变化。人工智能将是未来十年最具变革性的技术，无处不在的人工智能将成为趋势；

　　（10）人工智能科技教育将面向社会大众普及，国务院《新一代人工智能发展规划》指出实施全民智能教育项目，在中小学阶段设置人工智能相关课程，逐步推广编程教育，鼓励社会力量参与寓教于乐的编程教学软件、游戏的开发和推广；

　　（11）人工智能的社会影响将会受到更加广泛的关注，人工智能社会学和伦理的研究提上议事日程。




　　《Science》2017年发表一篇新型生成式组成模型RCN，使用小样本学习在CAPTCHA验证码识别上获突破性进展，远远超过深度学习模型。





　　报告总结指出：2017年人工智能在国家规划、创新理论、技术应用、产业生态、企业融资、伦理规范等方面都取得重要进展；人工智能未来发展值得关注的方向包括通用智能、类脑智能、可解释的智能、人机混合智能、情感智能等，需要着力突破在数据、能耗、泛化性能、可解释性、可靠性等方面的瓶颈问题；现有人工智能的发展水平虽然还远不足以威胁人类的生存，但其社会影响应得到高度重视。