拥有自我意识之后，机器人杀人的情节真的会出现吗？

美国西部时间1月30日下午，在窗外洒满橘色加州阳光的硅谷计算机博物馆，我们再次领略了一场数位硅谷前沿科技大佬带来的烧脑风暴。从人工智能、深度学习，到数字化生物、基...

去年在国内搞了6期the Big Talk的百度百家越来越高大上，将最新一期放在了大洋彼岸、气候宜人的全球IT圣地硅谷。作为百家作者的一员，小白此次也有幸一同前往。

美国西部时间1月30日下午，在窗外洒满橘色加州阳光的硅谷计算机博物馆，我们再次领略了一场数位硅谷前沿科技大佬带来的烧脑风暴。从人工智能、深度学习，到数字化生物、基于大数据的社会物理学，再到机器人，而压轴嘉宾则是人称 老顽童 的苹果公司联合创始人斯蒂夫 沃兹尼亚克，其打机关枪似根本停不下来的飞快语速，丝毫不喘的中气十足，以及丰富的肢体语言、呆萌表情，将全场引向高潮。

数位科技大佬演讲中，小白最感兴趣的要数康奈尔大学创意机器人实验室主任Hod Lipson对机器人自我意识的探讨。机器人是否像人一样具有自我意识，这也是有了机器人以来，人们普遍担心、并且充满争议的议题。

Lipson就说，现在令人激动人心的机器人技术，已经涉及到每个人的生活，但即便市场上已经有几百万的机器人无所不能，也还不够，机器人还可能有自我意识，有自我感觉、或者说有自我意识的机器人，有可能在我们的孩子这一代就大行其道。

想象自己的能力，比如想象明天能去沙滩，闻到海滩的味道；现在你们坐在台下，想象我看到你们的反应，这就是自我意识。 Lipson说，不仅是人，机器人也具有想象未来情景的能力，而这在好莱坞电影里，已经屡见不鲜。

能够生存的不是最强的物种，而是最能适应、改变的物种。因此，Lipson说他们从两年前决定不要去设计机器人，而是培养机器人，即把很多机器人的部件放到模拟器，让它进行演变。随着时间的推移，产生突变，培养它，变成机器人了。

而所谓自我意识（Emergent selfmodel），即科学家们事先没有编程，它自己也没有图像，全靠自己慢慢调整。

Lipson现场还播放了一段机器人自我调整的视频，用零部件搭建的有四条腿（每条腿有两个发动机）的机器人，它不知道周围的环境，不一定能走。其中一组行动，做了16次试验，通过四天的自身努力，它自己给自己建立了这样的图像，腿动起来了，真的学会走了。而当科学家们把它一条腿切断（意味着周围的环境发生变化），只剩下三条腿的这只机器人又经过一番挣扎（自我调整），又慢慢建立了自我的图像，站起来了，能走动了。

Why now？ 为什么是现在，来讨论机器人的自我意识？Lipson说，因为现在有两个技术正在改变世界。一是3D打印技术的成熟，由于3D打印的特点，未来机器人不会由零部件构成，会直接打印；另一方面，是深度学习的发展。该概念源于人工神经网络的研究，通过组合低层特征形成更加抽象的高层表示属性类别或特征，以发现数据的分布式特征表示。经过十几年的发展，如今很多人都在尝试深度网络，进行自我训练，这是人工智能领域的巨大突破。

谈到深度学习的进步，Lipson还介绍了一次深度学习时遭遇机器人的自我意识。一次深度网络的图像识别中，培训神经网络在一堆图片中区分猫和狗的图片，然而，其中屏幕里一个神经网络开始追踪起显示器外的两位科学家的面部了。 要知道这个网络并不是用来定义为来脸部追踪，而它慢慢学会了跟踪人脸，跟踪摄像头前面的两张人脸，这是令人惊讶惊喜的技术。

这太不可思议了！试想，有了自我意识的机器人能做些什么？不仅能帮助媒体人写简单的新闻稿，还能画画、写诗、写评论，还可以做孩子的保姆，可能会挑战到人类方方面面的生活。

我并不担心钛合金的机器人会掏出杀人，人们不要因此错过这个重大意义。 Lipson说，这正是科幻电影里经常触及的情节。显然他将具有自我意识的机器人拟人化了，将机器人分为好机器人和坏机器人，而他显然相信还是好机器人多。

这是一件与机器人讨论同样重要的关于机器人伦理的讨论。就在几个月前，特斯拉创始人马斯克再次表示了 机器人杀人 的强烈警告。他说，人工智能的发展将使机器人在不远的将来能够自主决定屠杀人类。而人们总是用机器人不得伤害人类、机器人必须服从人类命令、在不违背前两条法则情况下机器人必须保护自己的机器人三定律来安慰。

有意思的是，与Lipson同样持乐观情绪的是，今天the Big Talk第一位嘉宾的想法。去年加盟百度被任命首席科学家吴恩达演讲中称，邪恶机器人是炒作，这样的炒作已经有很长时间，主要因为美国花了200年时间从农业经济到技术取代农业，如今，农民也可训练他们的子女来做这些技术含量的事，但现在技术变得更快，需要重新训练人，这会让美国350万卡车司机重新找工作，因此，吴恩达认为邪恶机器人的炒作是劳工和政客的话题。

作为在全球人工智能和深度学习的权威科学家，吴恩达介绍，科学家进行图像识别研究前先知道了人脑中神经元工作的原理，虽然神经学家说今天仍然根本无法知道大脑是怎么工作的，甚至 神经网络好像是用卡通来画脑子 ，但深度学习也是基于神经网络的原理来训练电脑的，比如看到一幅图片，能够层层 学习 ，识别出这是一辆卡车，还是一间起居室。而百度如今已将这些技术运用到医学影像、百度试图（衣服），百度eye等项目中。

在互联网时期，很多沟通是文本的，但在移动互联网时期更多沟通是通过图像和声音，这是人工智能的机会。 吴恩达说。

在科技如此迅猛发达的今天，科学家们对机器人的设计和研发令人惊叹。有人说，电影里演的机器人正是科学家们要设计出来的，今天我们知道了，那真是机器人自己成长出来的。无论是好是坏，机器人都将深刻改变人类现有的生活。

欢迎关注小白的微信： 爱因斯坦 ，欢迎投稿和交流讨论。