我们现在担忧人工智能的安全性，就如同两百年前担心要是以后有飞机了飞机坠毁怎么办一样。如果我们总是过度担心安全性，我们就不可能造出飞机。不管怎么样，我们要先造出飞机，再担心飞机的安全性。——扎克伯格

今天，AlphaGo以4:1的战绩宣布了人工智能在围棋上的胜利，人工智能威胁论又再次甚嚣尘上，当然这不是第一次也不会是最后一次。虽然也许其中很多人也把并不区分强人工智能与弱人工智能，或者把强人工智能与类人的人工智能等同起来，认为类人智能是唯一的智能形式。

人类智能其实是按照基于低能耗，低信号传递速度(化学信号)，低计算力,通过少量知识以及多种形式输入(触觉，视觉，听觉)获得更高的智能方向设计的(进化的)。因此我们有着强大的逻辑推理能力，强大的抽象能力，甚至由于有限的反应速度，我们需要足够强大的预测(预判)能力。

可是机器智能目前演进方向却是基于高计算力，高信号传递速度，从相对类型单一的海量数据中获取有价值信息获得更高智能方向演进的，因此会使得机器智能和类人智能可能会越走越远。当然这一切也不是绝对的，因此未来也很有可能会出现多种形态的强人工智能适应于不同任务，正如远古时期各种形态的人种一样，高大的海德堡人，矮小的霍比特弗洛里斯人，耐热的梭罗人等。机缘巧合使我们智人成为这个地球唯一的高智能生物，让我们傲慢的认为人类(智人)是造物主的宠儿，唯一的高智能形式，乃至我们的智能形式也应该成为智能的标准。

有一种常见的错误，是认为这些人种是呈线性发展，从“匠人”变成“直立人”，“直立人”再变成“尼安德特人”，而“尼安德特人”再变成我们。但事实是，从大约万年前到大约1万年前为止，整个世界其实同时存在多种不同人种。从整个历史来看，过去多种人种共存其实是常态，现在地球上只有“一种人”，这才是异常。——摘自《人类简史》,作者尤瓦尔·赫拉利

因此先让我们放下成见，聊聊深度神经网络的发展过程，看看这些被媒体吹得具有自我意识的神经网络到底是怎么来的。

当人类了解到智能的来源是大脑，而大脑是由神经元组成时，就有人(罗森布拉特)就据此提出了一种叫『感知机』的模型，也就是模仿单个『神经元』完成计算，甚至当时这个单个『人工神经元』可以完成一些简单的视觉处理任务，和当今一样，媒体也立马凭借丰富的想象力开始鼓吹人工智能威胁论。可是，这时一个叫『明斯基』的人工智能泰斗出来说『你们这些人就喜欢搞些大新闻，看我写本书来把你们批判一番』。在其年出版的《感知机》中证明，这个『单层神经元』模型，连最基础的『异或问题』都解决不了，还谈何智能？（举个例子，输入两个性别，然后判断这是否为异性恋，就是一个异或问题）——顺便说一句，两年后，罗森布拉特在自己生日那天划船时淹死，被认为是自杀。而明斯基，我们的人工智能的老司机，也在今年1月不幸去世了。

人工神经网络方法在被明斯基这一波暴击后冷却了近10多年，终于在年证明：

“多层前馈神经网络是普适模拟器（univrsalapproximators）。本质上，可以从数学证明多层结构使得神经网络能够在理论上执行任何函数表达，当然包括XOR（异或）问题。”

此外当时已经有了一种叫做反向传播的算法能成功训练多层神经网络，同年燕乐存(YannLCunn)用此方法训练出一个可以识别手写邮编的三层神经网络，对，也就是机器能识别人类混乱,歪曲的手写数字,即使训练库内找不到和一模一样的手写数字也可以被正确识别。(正如AlphaGo也是完全不背谱的)

你也许疑惑为什么是三层的网络？其实三层已经是当时的极限了，这套手写编码识别系统训练时间达到了三天，因此实际上是当时没有足够强大的机器性能和算法设计能够训练一个更多层神经网络。用飞机作比喻的话，没有足够强大的引擎也和气动布局设计的话也无法让一架喷气式飞机飞起来。

到这里我想强调一下由于神经网络已经开始有其实际的用途，因此它的演进方向已经开始和完全模仿人类智能的方向有了偏离，正如飞机已经可以上天后，人类考虑的不再是如何更好的模仿鸟类，而是如何『更好的飞翔』,从而开始改进引擎，改进材料，改进外形设计等，当然我们也会继续研究借鉴各种飞行生物的原理但已不是单纯模仿。(弱人工智能其实还只能算个无动力的滑翔机)

同样由于近十年的计算能力与算法设计的提升使得人类可以驾驭多层神经网络，这种方法一般称之为深度学习。在年在著名的ImagNt图像识别挑战赛中，深度学习方法吊打其他方法，正确率达到84%,比当时第二名高10.3%，而第二和第三名差距是0.06%……，这次AlphaGo的策略网络是13层，价值网络14层，而去年12月的ImagNt挑战赛中夺冠的神经网络达到了惊人的层。(当然并不是简单的层数越多越好)

即便深度学习也只是大脑结构的皮毛进行粗劣的模仿后的工程改进，却靠现有硬件强大的计算力已经在某些特定任务上如人脸识别，手写汉字识别甚至在自学玩游戏上有着超越人类的表现，但这种智能依然是弱人工智能，更称不上类人智能，它和人类智能的差距比滑翔机和飞鸟之间的更加巨大，并且深度学习或者神经网络也仅是人工智能研究中众多方向之一，正如飞行器不止有固定翼飞机，还有直升机，飞艇，四轴等等。

飞机比鸟类的飞得更快更高，但却远不如鸟类灵活优雅，而且需要大量的能源，精心设计跑道，同时产生巨大的噪声。深度神经网络亦如是，其需要海量的数据，精心设计的结构与参数，以及巨大的计算资源。(据说AlphaGo下一盘棋花费约美元)

如果现在指定围棋上某几个点不允许落子，那么AlphaGo用千万数据训练好的局面评估函数将瞬间失效,而人类我相信通过分析推理可以很快就适应。

正如我们不会再期待飞机通过像鸟一样上下挥动翅膀获得更灵活的飞翔能力，因此可能同样也不应该以未来人工智能是否能像人类一样思考判断是否具有智能（好吧，我承认我这句话某种程度上是在质疑图灵测试可否作为判断智能的标准）。

当然，人工智能专家们也非常羡慕人类通过极少量知识以及没有专家指导就能学习到相应经验的能力，这也是目前人工智能亟待解决的问题。此外，和人类对翅膀程度的了解不同的是，我们对大脑以及智能的了解极其有限，因此对大脑的模仿获得更高智能目前看来还是一个非常可行的方向，比如杰夫霍金斯(JffHawkins）所创建公司Numnta的研究的分层时空记忆（HirarchicalTmporalMmory）算法等。（有兴趣的同学可以去看他4写的书《智能时代》(OnIntllignc)(豆瓣8.9分)基本是对这个算法的科普性描述。）

总之，从目前人工智能实现和主流方向上来看，未来机器智能和类人智能差异就像飞机与飞鸟的区别一样巨大,不能说人工智能的发展不会给人类带来某种威胁，比如航空器技术发展同时也带来了空难和导弹,但人类的智能于思维方式去想象揣测当前的人工智能，甚至以此宣扬人工智能威胁论乃至『阿尔法狗会故意输』这样的阴谋论就未免太过可笑了。

最后谈一下我对AlphaGo的理解，以及对和人工智能不太了解朋友聊天时探讨的问题。

Q:一句话描述AlphaGo的原理？

A:AlphaGo本质上没有人类的推理的能力，而是通过训练出棋感+剪枝搜索，找出获胜概率更高的落子点。

Q:如何解释棋感？训练后的数据是什么形式？如何存储

A:棋感可以看做一个识别问题，通过历史高手棋盘，然后图像识别的训练方法荀兰出预测当前局面下高手会在哪个点落子的能力（预测准确率在50%多）。这不是通过数据库匹配，而是通过神经网络实现的模式识别;训练后存储的是几个神经元网络的结构(这个是训练前人工设计好的)和对应其中每个节点的权重。

Q:也就是说训练的数据其实是一种历史经验，以减小搜索的复杂度？是否可以说这个很类似人类学习、训练和对弈围棋的方式？

A:恩，不过之所以是叫感觉，就是假如下棋时遇到了和历史上局面完全一样的情形，也可能做出和高手不同的选择。这种类似人类直觉的方法和背谱的方式是完全不同的。多说一句，如果机器能每次判断会和用于训练的棋谱一模一样，机器学习上叫『过拟合』，因为这样极有可能对未见过的局面做出很差的判断，而如果机器训练后每次落子都和历史棋谱都不太一样，叫做『欠拟合』，说明机器没能从棋谱中学习到经验得到『棋感』。

Q:欠拟合能否理解为“人工智能”的一种推理?

A:广义的说我觉得是可以认为是推理。但一般来说是种错误的推理，如果训练的都是高手的棋谱，那么你能不借助搜索，仅凭『棋感』下出比高手还好的落子其实概率是比较低的。欠拟合，一般在实际应用中是非常不好的现象，需要尽可能解决。

Q:听说AlphaGo利用了大量的人类棋局训练，已经通过自我博弈提升棋力是否说明人工智能目前水平已经很高了？

A:其实恰恰相反，正是由于智能不够，或者说完全没有推理能力，所以AlphaGo只能从大量的数据中总结少量知识，其实目前人工智能进步很大程度依赖计算力的提升，比如NVIDIA反而是这次深度学习热潮最大的受益者之一。此外对于自我博弈其实就是人工智能中一种叫增强学习(RinforcmntLarning)的方法，我觉得不应该太神话这种左右互博提升棋力的方法。引用南京大学人工智能专家的周志华教授的观点

“增强学习奏效的关键，是两个模型都不错，而且有足够大的“差异”。当模型性能提升以后，其差异会显著下降，到了一定程度必然会使性能无法继续通过这种机制提升。其上限取决于高质量“有标记”样本的数量。”

Q:AlphaGo对阵李世石输了一局，但失败一次会让它从中学习从而变得更强大吧？

A:几乎不会，它需要失败一千次，一万次才能更强大，正如你所知道它学习围棋也是通过大量的数据。但AlphaGo的工程师会学习到这一局的问题，然后不停调试让它更强大。