博弈：人类与人工智能

自从去年阿尔法狗战胜李世石后，人工智能在科技领域掀起了轩然大波，人工智能仿佛一夜之间就走入了我们的生活，科幻大片中的场景即将出现。

刘宗凡：“机器觉醒”——虚惊一场的“新闻”

关注人工智能的人可能会看到近期的一个新闻：Facebook（脸书）公司的两个AI机器人，是社交网络助手，可以用来进行谈判。可是，据说这两个机器人，突然用我们无法理解的语言进行对话，“吓坏了”的工程师使出了绝招：关电源——就是停止了这个试验项目。于是，各种科技媒体慌了，国内也以类似标题：“Facebook关闭‘失控AI系统因其发展出人类无法理解的语言”进行报道，大有山雨欲来风满楼之势，甚至被当作“人工智能觉醒元年”这样的大事件。右面就是两个机器人的对话情况截图。

对于这些我们完全无法理解的对话，大家纷纷猜测，是机器人为了不让我们知道他们到底聊了什么，而发明的一种新的语言。如果是这样，那就说明机器人有意识地避开人类进行自己的某些“密谋”，让人感到非常恐慌——有自己意识的机器人这么快就出现了？

还好，很快就有相关技术人员做出了辟谣。真相是，在两个机器人聊天时，工作人员在进行系统设置时，将激励条件忘记设置为英文语法，从而导致机器人出现了语法混乱。Facebook也没有关闭这个系统，而是重新设定了正确的激励。该研究的首席作者Michael Lewis说：“没有恐慌，项目也没有关闭，我们的目标是建立可以与人交流的机器人。在一些实验中，我们发现他们没有像人们那样使用英语单词，所以我们停止了这些实验，并使用了一些额外的技术来让机器人按照我们的意愿工作。分析奖励功能和改变实验的参数不等同于‘拔掉或‘关闭AI。”

我们在松了一口气的同时，还是要考虑，人工智能，现在发展到什么阶段了？人工智能会和人如何相处？我们该怎样利用人工智能？人工智能真的会威胁到人类吗？

邱元阳：正本清源——人工智能还处于“石器时代”

实际上，对于人工智能的研究，很多还停留在概念性的初级阶段。新闻上非专业性的报道，常常会给我们一些错觉，以为现在的人工智能已经非常强大了。如果以漫长的人类社会作比喻，人工智能现在仅仅是处于人类社会的“石器时代”。

很多時候，我们需要区分一下普通程序和人工智能。拿聊天机器人来说，看似智能化程度很高，但实际上，那仅仅是程序预设的一些判断及对应策略，并没有智能可言。它既不知道我们在说什么，也不知道它自己在说什么。即使通过了图灵测试，他们也未必具备哪怕微弱的智能。图灵测试本身，还缺乏哲学层面的质疑。

不仅仅是聊天机器人，目前的所有的智能系统，都还无法做到对场景的常识理解。这种不理解会造成很多原设的判断无法进行，从而出现重大失误。在笨拙的机器人足球比赛中，我们常常可以看到机器人摔倒后爬不起来的情形。这对于无人驾驶汽车来说，可能是致命的。看起来智能化程度非常高的无人驾驶汽车，在研究人员认为已经考虑到各种因素而接近完美时，它们还是出现各种事故。因为它们无法理解场景，仅仅依靠规则和程序是远远不够的。看到一个人，我们可以知道它是要过路还是要停止，程序是做不到的，它甚至不能区分人与人像、草地与沼泽、场景与画面。

同样地，机器翻译看似可以翻译不同的语言，其实它根本无法理解自然语言的语义，如果使用了“双关”，肯定会被忽略。

以前有新闻报道说机器人与人类比赛输了，愤怒地通电电死了人类对手。我可以肯定写这篇报道的记者不懂人工智能。情感和思想是机器无法逾越的高度，对于目前的人工智能而言，让它自发产生情感实在是勉为其难，更别提具有独立思想了。

在科幻电影中，我们常常看到机器人学习人类战术、杀死人类并妄图控制人类的场景。但是在人类的生命周期中，恐怕不可能实现人工智能的思想意识了，除非将人工智能与人体结合，产生一种新的有机体。思想是生命的特征，机器的生命与生物的生命，概念是不一样的。

人工智能要想与人类的大脑媲美，还有很多困难。初级的，是经验和直觉；中级的，是情感和创新；高级的，是思维和思想。这些困难的克服，正是对人类自身大脑的挑战，过程必然漫长而曲折。虽然不可能实现，我们还是希望能够实现，哪怕它是人类的灾难。

虽然人工智能还处于混沌初开的时代，但在一些特定领域还是展露了曙光。我们来看看近年发生的一些新闻。

1.阿尔法狗（AlphaGo）击败人类顶尖围棋选手。

要说人工智能元年最重磅的新闻，当属谷歌Deep Mind团队下的作品阿尔法狗以4∶1的比分击败世界围棋冠军、人类顶尖选手之一的李世石。阿尔法狗的二代产品Master，在网络上以60连胜的姿态横扫人类，并在正式比赛中以3∶0的完美姿态击败目前围棋届的世界第一人柯洁。

我们之所以震惊于阿尔法狗取得的成就，是因为大家普遍认为人工智能征服古老的围棋，起码是10年之后的事情。围棋变化之繁复，用以前的思路来解决这个问题是不可能的。神经网络、深度学习、蒙特卡罗树等一系列思想和算法，在人工智能领域掀起了轩然大波。

2.特斯拉Autopilot将血栓病人送到医院。

和谷歌正在研发的无人驾驶技术相比，科技新贵特斯拉的Autopilot只具有半自动驾驶功能，可以调节车速，切换车道，自动刹车。

据报道，美国密苏里州的一名男子、特斯拉Model X车主约书亚·尼利（Joshua Neally）近期在上班途中突发肺栓塞。在赶往医院的20英里（约合32公里）高速公路车程中，Autopilot完成了全自动驾驶，抵达了医院附近的一个高速公路匝道口。尼利随后自行驾车抵达了医院。

在铺天盖地的无人驾驶新闻中，这桩小事可能无足挂齿，但却折射了自动驾驶正从实验室逐步走向现实中。无人驾驶的落地，将成为弱人工智能的巅峰。

3.人工智能诊断癌症。endprint

“人工智能在医疗领域取得了重大进步，”美国路易斯维尔大学网络安全实验室主任罗曼·亚普尔斯基（Roman Yampolskiy）说，“如IBM沃森就能判断医生无法判断的问题。”

IBM沃森总经理大卫·肯尼（David Kenny）在Business Insider的Ignition大会上讲了一个故事——这台认知机器竟然在日本诊断了一位之前被漏诊的白血病女患者。“从统计学上看，这种情况出现的概率约为三分之一，沃森建议再次诊断。”肯尼说。

目前阿尔法狗在围棋领域已经退出，谷歌正在准备将这套系统的方法应用在医疗领域。我们可以想象，人工智能在进行足够的深度学习以后，其水平也将比肩甚至超过世界上顶尖的医疗专家。而这一技术的普及，将惠及千千万万普通百姓。

4.中国的人工智能现状。

“人工智能”概念的提出，已经经过一个甲子了。在谷歌等一流公司的主导下，人工智能蓬勃兴起。中国目前将这项伟大的项目执行得如何呢？答案是，中国的语音识别和图像识别的应用已达到国际领先水平。

中国在图像及语音识别的基础之上，模拟神经网络的输入和输出，并通过大规模的数据进行训练，再对样本进行精准分类和预测，从而实现了“计算”之外的“思考”。这便是中国着力研究人工智能所得到的令人欣喜的结果。当然，研发中会遇到瓶颈，同时也是突破口——训练和建模逻辑的算法，但我相信，只要不懈努力，中国定能取得更多更高的科研成就。

倪俊杰：家庭生活——人工智能真的解放了家长？

前些日子，在学生家长的朋友圈里盛传着一条信息：一款名为“爱作业”的APP一下子火了。家长只要拿起手机拍照，就能够迅速检查孩子的口算作业，算术作业的成绩很快就统计出来，准确度也很高，同时还会标出算错的题目。由于该APP的推出时间和功能极佳，一经推出就收到了奇效。第一天的下载量就达到了1800，第三天飙升到24万的下载量，一周的时间总下载量达到了30万。在上线第四天的时候，“爱作业”APP就在苹果APP Store总排名第75位，在教育类APP下载排行第五。

从技术角度来说，“爱作业”APP主要运用了字符识别和机器计算等技术，其核心也是人工智能技术。从这点来说，人工智能确实解放了家长，速度也很快，节省了不少时间。但也透露出一些隐忧，有用户在留言区就评论：“连算术题都需要借助APP，家长是不是太懒了？”“APP都能解决问题了，那么要家长和老师有什么用？”以上评论虽有些偏激，但细想也并非毫无道理。现在借助技术手段，出现了很多能够帮助孩子学习的“智能软件”“智能设备”，甚至是陪读机器人。这些软件或设备的出现，看似解放了家长，但也给了家长一个借口：我反正不会，有这么好用的设备、软件，何乐而不为呢？反正人家都在用，我们要是不用，就会落伍了。有些家长还将孩子学习的场景每天发到朋友圈“打卡”。此外，高考机器人的出现，也让部分家长和学生认为，十年寒窗的学习变得不是那么必要了。至此，我们不得不重新思考这样一个问题：是不是所有的人工智能都是必要的？检查作业这些看似琐碎的工作，但却能够让孩子感受到来自家长的关注。检查过程中的亲子沟通，更能够激发孩子学习的兴趣与积极性，也能让家长更加全面地了解孩子学习过程中的实际情况，而不仅仅是答案的正确与否。如果技术成为主导，那么家长与孩子之间的连接，也会逐渐疏远。那样的话，就因小失大了。人与人之间，有些必要的联系，技术是无法替代的。

爱因斯坦曾经警告，人类作为一个种群的未来取决于我们如何使日益增长的知识与运用这些知识的智慧保持平衡。那么，技术与人性的平衡在哪里？我认为，未来智能时代的教育，还应当是一种“人性”的教育，德行和情感等人性特有的东西应当受到极大的重视。

邱元阳：自动驾驶——绕不开的“电车难题”

人工智能中一个非常火爆的方向就是自动（无人）驾驶，谷歌是其中的翘楚。从2009年开始开发自动驾驶技术，到现在谷歌的无人驾驶汽车已经在路上行驶超过322万公里。李开复在创新工场的“人工智能战略展望会”上谈到，无人驾驶将成为最会颠覆人类已有世界的技术。

在我们看起来经过简单训练就可以掌握的驾驶技术，在人工智能领域有很多难题亟待突破。从行业发展历程中可以看出，在以深度学习为突破的“人工智能时代”大风口下，自动驾驶被给予了前所未有的关注，包括互联网公司、传统车厂、新兴创业公司，各路资本争相竞逐。无人驾驶将是弱人工智能的终极场景，机器视觉识别、深度学习、增强学习、GPU、传感器技术等均在自动驾驶领域发挥着重要的作用，甚至行业发展的瓶颈主要在于这些人工智能底层技术上能否实现突破。人工智能本身越来越需要与应用场景结合才能最大限度地转化技术上的创新和突破，因此考虑到汽车行业本身的体量以及与相关行业的关联度，可以说自动驾驶是人工智能实现场景落地的最重要方向。

无人驾驶的发展，除了决定于人工智能技术的发展，还面临着严重的伦理道德问题。我们来看一下哲学领域的“电车难题（Trolley Problem）”。

电车难题最早是由哲学家Philippa Foot提出的，是伦理学领域最为知名的思想实验之一，其内容大致是：一个疯子把五个无辜的人绑在电车轨道上。一辆失控的电车朝他们驶来，并且片刻后就要碾压到他们。幸运的是，你可以拉一个拉杆，让电车开到另一条轨道上。然而问题在于，那个疯子在另一个电车轨道上也绑了一个人。考虑以上状况，你是否应拉杆？

这个著名的心理实验，在无人驾驶中将变为一个现实场景。无人驾驶虽然随着人工智能的发展将非常安全，但肯定不是百分之百能避免事故发生。我们可以想象一下，无人驾驶汽车在正常高速行驶，左边一部车失控将要撞上来，而右邊有一个无辜的行人。撞上去，两部车上的人将同归于尽；打方向变道，撞死旁边的行人，自己活下来。面临这两个选择，人工智能将以什么标准来进行自己的操作呢？当我们把生死交给冷冰冰的人工智能去裁决时，是不是会觉得非常残酷？endprint

倪俊杰：现实焦虑——人工智能会不会抢走我们的工作？

人类发明人工智能技术的目的是解放生产力，提高工作效率，做人类做不到的事情。但是，甚至连人类都想不到，人工智能正在给人类带来“反作用”。阿里巴巴集团董事局主席马云在美国底特律召开的阿里巴巴中小企业论坛会上曾经说过：“随着人工智能的逐步发展，未来30年人类每天只需要工作4小时，每周只工作4天。有更多工作被抢走，一些能顺应潮流的人将变得愈发富有和成功，而那些被时代甩在身后的人则会越来越痛苦。”事实确实如此，随着“机器换人”的兴起，未来20年内，一半的人类劳动力将会被机器和软件所取代，今后的企业将充斥着各类高效工作且易管理的机器，越来越多的工作已经转交给人工智能机器人。还有人开始担心，人工智能会威胁人类的生存。

那么，人工智能会不会抢我们的工作呢？我倒是觉得，并不是人工智能在“抢”工作，而是我们人类将已经“不适合”自己去做的工作，“明智”地转交给人工智能机器去做，人工智能帮助人类分担了大量繁琐、重复、单调的工作。俗话说，旧的不去，新的不来。只有放弃低效繁杂的活，人類才会以更高的效率向前进。人类没必要担忧，想要不被大时代趋势淘汰，就应该正视这个趋势，摆正态度，加强学习，提高自身本领。

当然，人工智能并不会抢走所有的工作。起码在三个领域，是必须有人参与的：一是创造性工作，如对科学与艺术和对未来的探索等；二是设置KPI和价值观的工作，AlphaGo围棋上战胜人类，但是它赢棋的目标是由人来设定的；三是情绪劳动，这个与爱及心理相关的概念，是由美国社会学家霍赫希尔德提出的。在短期内，像医生、厨师、驾驶员、教师这样专业性和情感性较强的工作，人工智能是无法替代的。这也从侧面说明了，人工智能和人类还是有本质区别的。

刘宗凡：“人机相恋”——终极的伦理拷问

在人类发展的历史长河中，男女相恋、结合，繁衍下一代，使得人类生生不息。如果恋爱的结果不能产生下一代，则这种“爱”会被认为是不道德的，甚至是病态的、反人类的。比如“同性恋”，直到今天大多数国家还是不承认其合法性。随着人工智能的发展，比同性恋更可怕的畸恋——“人机恋”可能发生吗？

在我们看来，目前的机器人只不过是一堆冰冷的铁块和严谨的程序的结合，机器人产生人类感情是不可能实现的。我们也无法想象，人类会和机械及代码产生什么感情。当机器人与人相伴之后，即使它没有情感，人类也是可能会对它产生情感的，这是作为生物体的人的特点。就好比我们用过的物件，我们仍然会深深怀念或赋予情感加以保护，对它倾诉和交流。情感是高级生命的特征。这样想来，那些想与机器人结婚的想法，应该跟与充气娃娃结婚的想法一样，并不能说明机器的情感，终归还是人的情感问题。

但是，有一种观点认为：人工智能基于大数据，利用深度学习来学习模仿人类的思维和行为方式，通过大量的积累便能产生一定的情感。打个形象的比喻，大数据就是我们人类的知识积累、生活经验，深度学习的算法就是我们人类思考问题过程的模型，相当于我们人类的思维。所以，人工智能可以拥有像我们一样的感情。

既然人工智能能产生感情，那么我们人类对人工智能产生感情恐怕也不会是小概率事件。当人工智能发展到具有自己思维的时候，我们也许就不能简单地把它们视为没有生命的机械，人工智能应该会成为一个新的物种。到时“人机恋”将会演变为“跨物种之恋”。这种“感情”，将成为伦理道德的终极拷问。这个时代还要多久才会降临？我们现在谁也无法预测，但“人机恋”的戏码，在科幻电影中已经多次出现。2014年的电影《机器纪元》，已经超越了简单科幻片的范畴，具有了预言价值的未来再现。可以看末世的机器人们是怎样突破人类设定的防线，进而进化为这个地球上最智能的“生物”的，以及这个进化过程中的阴谋。主角雅克因为与妻子瑞秋的意见分歧，让本已心力交瘁的他想逃离他们的家。此时雅克恰巧认识了红灯区机器美女克莉奥，在长期的惊险相处中，作为人类的雅克与作为机器的克莉奥不可避免地产生了暧昧情愫，在与待产人类妻子的婚姻与另类的“人机恋”之间，班德拉斯将如何抉择成为影片的最大悬念。

结束语

人工智能还只是刚刚露出曙光，如果我们过于相信或者高估了人工智能的水平和能力，可能会出现灾难性的后果。智能诊疗系统如果出错，谁来承担责任呢？要命的是，可能它错了我们还不知道。战争机器人杀人了，我们要谴责谁呢？它不是枪，没人帮它扣动扳机，是规则负责还是程序员负责？

人类与人工智能的博弈，才刚刚开始！endprint