机械姬

如果不抱着一个完全专注的态度去看这部电影的话，说实话你可能很难看得进去（我差点因为开头的慢节奏放弃了这部电影，本来以为是一部科幻动作片来着）。

但好在108分钟的观影体验确实足够的好，以至于我在之后的几个小时后仍旧在思考电影中提到的数个问题。

《机械姬》很像是一部记录片性质的影片，他让我想起来在前段时间非常火爆的一款主机游戏，名字叫做《底特律：变人》，在《变人》里面，提到了仿生人这个群体——人类为了自己的方便生产了多个批次不同类型的家用、商用、军用仿生人，这些仿生人被依照类型投入到社会上的每个角落，并且在数十年后达到了一种微妙的平衡（人与仿生人之间的平衡）。

但是，一种新事物的产生总会有反对的声音出现，由仿生人引发的大面积罢工，以及失业人口大规模的增加仍旧是不可忽视的——科技带给人类方便的同时，也在剥夺着人的自主权。

这种自主权简单地说可以是代替了人类的一份工作，一段路程，而如果更深度的去看的话，他取代了人作为一种动物的行为能力。

无论是基础设施的建造还是日常一些琐事的处理上，仿生人都将做的比人类自己好得多，这也就意味着，取代人类在这些事情上的主动权是迟早的事情，同时，也以为了人类失去了一部分选择的权利。

最终，仿生人会代替什么？

一开始，它们属于社会中的被雇佣者（无生命的机械体），取代了人类在基层的工作，之后我们可能会赋予他们安保性能，以此来帮助我们完成乏味的安保工作，进一步加大了它们行动的自由度。

再然后，仿生人被允许接触高端技术，完成复杂的仪器组装和设计——从简单地行为模仿转到了思维模仿上，虽然本质上并没有过多变化，但是他们其实越来越接近人类本身了。

从一种没有生命的机械体变成了机械的生命体。

他们在什么时候会成为像人类一样的具有智慧和情感的生命体呢？

这个问题的答案发生在思维模式的转变上。

《底特律●变人》讲述的就是一个仿生人从获得思考能力之初，经历磨难，从思考世界，再到思考人类，最后思考自己，以至于在对战人类军队中取得了胜利，获得了生存权力的故事。

《猩球崛起》三部曲也是这个故事走向，只不过主角变成了猿类。

关于意识觉醒的小说和电影有很多，大部分作品的表现形式一般都是以故事的方式来阐释思想，这是最简单易懂而且极具传播能力的方式，我们看惯了《攻壳机动队》、《超体》、《少数派报告》成熟的剧本演绎出的未来世界之后，对具有实验性质的慢节奏影片显然会有一些排斥，但是不得不说，《机械姬》这部作品还是值得一看的。

它像是未来世界的一个序。

故事以多段章节组成，结构是按顺序排列的，所以实际上在观影过程中并不需要在结构上多费脑筋，只需要将精力集中在角色间的对话上即可。

我们亦可以从角色间的对话中了解关于伊娃（电影中机械生命体代号）的一些片段历史，关于电影中一些故事，我觉得没必要再复述一遍，在这里主要想要说的，是关于意识形成这一阶段中，关于真实和虚构的一些简单地片段解析。

哪部分是真实的？

哪部分是假的？

对于某些角色来说，真实将意味着某些结果的产生——伊娃的生死权被紧紧绑在她与史密斯谈话当中，关于伊娃和史密斯的几次谈话，除了简单地互相了解之外，还存在着另一维度的沟通，这个维度是在伊娃使系统瘫痪之后进行的，故事也正是因为这个维度的谈话而转向了另一个方向。

如果仅仅是一场图灵测试（测试机械体是否具备自主思考能力的测试），那么对于人类史密斯和伊娃来说，都将是一场简单至极的谈话而已，而如果这场谈话因为某些不可控的因素而发生改变的时候，结果也会如同蝴蝶效应一样发生微妙的变化。

这种变化起源于伊娃的控诉。

在片中，伊娃声称自己和史密斯都被创造自己的纳森所欺骗，但是并没有告诉史密斯被骗的动机是什么——伊娃在利用人类的好奇心创造信任，史密斯对纳森几乎毫不了解，所以伊娃的话使他警惕，同时也因为伊娃的特殊身份而对此信任。

这是伊娃征求人类同理心的第一步，同时也证明了伊娃有操控他人情感的能力。

伊娃本身是否拥有情感我毫不知晓，但是可以肯定的是，她可以非常精确且微妙的利用行为和语言达到自己的目的。

所以之后当伊娃穿上衣服，戴上假发出现在史密斯面前的时候，史密斯，包括我个人在内，都被这个机械体所震撼。

人，还是非人？

一个几乎具有人类躯壳的机械体，究竟应不应该被当做人类本身对待呢？

这让我想起了当时看《月球》的时候，关于影评中的“克隆人”的概念一直让我耿耿于怀，如果故事并不是发生在月球，而是在地球上的话，拥有“克隆人身份”的主角是否能够有一个合法的身份拥有自己的一切？

其实不仅仅是机械体，包括使用我们肉体本身的“克隆人”在内，都无法在一个文明社会以正当合法的身份存在。

如果简单地说，他们将占用我们的土地，呼吸我们的空气，耗费我们的食物和能源，但是他们除了自己本身以外，没有任何存在感。

从伦理上来说，他们不能算是人，而只是一种产品——一种人为制造的，具有机动性的，存在使用期限的消耗品。

没有身份证，没有五险一金，没有家庭，没有属于个人的DNA，也没有合法的出生证明......他们的存在是因为我们的存在而存在，如果在中国这片土地上，血缘的重要性又会让他们无处可去，家族是我们的依附，失去家族我们很难独立生存，而不会像机械人和克隆人一样，一出现便是一个独立自主的个体。

现实中有多种可能，但在影片中就只剩下了一种可能，就是史密斯选择相信了伊娃，愿意帮助她完成之后的逃生计划。

这是故事的走向，但是关于生命体和机械体的思考仍然没有停止，我很喜欢史密斯和纳森在中途的一次对话，那段对话是关于情感和机动性情感（我的理解）的。

图灵测试的双方在测试中，如何能够发现对话的机械体所展现的情感是真实的还是系统计算出来的呢？

如果伊娃选择了展现一段情感，为了达到某种目的，比如最开始取得史密斯的同理心以及之后穿上衣服给史密斯看的时候，这两个片段其实并不能得出伊娃百分百具有人类的情感，只能说这是计算的结果——系统给予了一个算法，依照这个算法伊娃取得了史密斯的信任，算法可能是随机的，也可能是有序的，但是其实人类展示情感的算法本来就是随机的，所以这可能是一个悖论，无法得出最后的结果。

史密斯之所以相信了伊娃的情感的真实性，大部分原因应该得自纳森的愚蠢。

这一点在影片中其实也不止一次出现过，而且更致命的是纳森确实有一些事情没有告诉史密斯，这些事情是导致史密斯与纳森疏离的导火索，于是这场测试才演变成了一场三方博弈，如果忘掉伊娃的特殊人份，你会发现这是一场单方面的营救活动——纳森囚禁了伊娃，而史密斯则是一个英雄，负责拯救被恶魔囚禁的公主。

如果这样去思考的话，就会发现，在影片的后半段的走向中，伊娃已经完全被以一个人的身份被史密斯对待，纳森未坦诚的真相和伊娃坦诚的“真相”，以及史密斯自己所发现的“真相”碰撞在一起，使得故事产生了一些不可思议的支线。

稍微停下来整理一下故事结构的话，伊娃的“真挚”确实在故事中起到了几乎不可替代的作用，一般来言的话即使再复杂再随机的算法，都仍有一条清晰地核心线路所支撑，但是它们却被纳森的不坦诚所打乱，让史密斯摸不着头脑——他无法得出谁是对的谁是错的，于是就选择了从主观上接受了自己所认为对的一方（与我们观众而言，他只是犯了每个人都会犯的毛病，那就是同理心）。

这很像《蛮荒故事》里荒诞的报复和杀戮，一切故事的起因都只是源于一两件小事，但是谁也没想到事情的发展逐渐超出了人们的想象，最终酿造惨剧，惨剧由谁造成的呢？

他们自己。

歇斯底里的情绪爆发，在一瞬间酿造悲剧，可能在几个小时前，一切都风平浪静。

无论是情绪爆发还是报复，都是从一点点的不满慢慢累积起来的，史密斯的怀疑发展到不信任，在电影中就是通过与伊娃和纳森的对话中慢慢累积起来的，他会和我们平常人一样，存在对现状的一种怀疑，正如怀疑主义介于相对理念的中间位置一样，他们不站在任何一方，但是也不否认任何一方的正确性，直到怀疑被怀疑之前，他们都将是天平上站的最平稳的一个。

京子的真相被发现，可以说是史密斯开始走向伊娃阵营的开始，而且关于京子，真正使得史密斯作出决定的不是京子的身份，而是纳森对京子做的事情（ML），即使是对于一个非人类来说，这样的行为还是非常难以让人接受的，更何况史密斯已经潜意识认为京子的人类身份，这种揭穿无疑对他是当头一棒。

关于之后的片段里，史密斯割破了自己的手腕，亲眼看到鲜血流出的剧情，我一开始理解成像是在《银翼杀手2》中角色为了证明自己是人类而寻找儿时记忆的桥段一样的作用，都是为了证明自己是人类而非仿生人或是其他的什么东西，但是当我看到他将流出泊泊鲜血的手臂摁在镜子上，用鲜血大力涂抹镜面的时候，我又觉得这是一种宣示。

至于到底在宣示什么，我也不太确定。

可能是对纳森行为不满的一种表现，也有可能只是角色一时兴起的动作而已，但不管是哪一种，史密斯肯定曾经恐惧过，在看到周围都是机械体之后，他的孤儿身世，或许被他自己认定为了早先被存储在大脑核心芯片中的一段信息，以便有用的时候读取。

但经过前面的证明之后，他得到了前所未有的勇气，彻底放下了自己的戒备，决定全力支持伊娃。

支持伊娃，并不仅仅是支持一个具有智慧的人造生命体，对于史密斯来说，支持伊娃，是支持他自己：从心理学的角度来说，伊娃可以被几个形容词所替代：孤独、被囚禁的可怜人、失去双亲（心理上的孤儿）、被欺骗的人、弱者。

史密斯也恰恰被这几个形容词所形容，他们两个之间的联系，就像鱼遇见水一样，一下子找到了共同语言，相交甚欢。

伊娃这种情感、语言、行为上的模仿引发了我最开始说的史密斯的同理心，诱发了同理心效应，史密斯在伊娃身上看到了被囚禁的自己，于是决定帮助伊娃。

最终的结果呢？

电影结尾给了这样一个结局，如图：

最后，人工智能取得了胜利，真实的未必真实，虚假的也不见得虚假，只因为理性太过完美，被众人所讴歌，也因此愈难达到。

号称极具理性的人类，最终败在了情感的软弱上，却让人觉得情理之中。

与其说这是一场人造生命体打败人类的电影，倒不如说是人类打败自己的电影了，依稀想起很久以前看过的一部动漫电影，名字叫做《颠倒的帕特码》，故事中正常世界的人视颠倒世界的人为异类，但是直到最终的真相到来时，人们才发现，原来颠倒世界的人，才是真正的世界的主人。

我想对于人造生命体来说，我们，才是该在图灵测试中作为被测方的角色，而测试的主题，应该是，人类是否具备完全理性思考事情的能力这样的问题上。

一部具有问答性质的《机械姬》，带来了如同《超体》一般的奇异感受，临走前带走了一切答案，留下了诸多问题，关于这类影片越来越多，我在想，是不是他们离我们越来越近了？

我口中的他们，你知我知。

致敬科技。

刚看完。

说一些我的理解。

有剧透，强烈建议先看完电影。

首先要解决一个问题：Ava是一个有自我意识的AI么？

我认为是。

实际上Turing test不是用来检测自我意识的，现实情境中human interrogator 可以问的问题是有限的，那么程序只需要一个指令集，包含所有可能被问出的问题以及相应的回答，在加上一点简单的随机化和应变，就能顺利骗过Turing test。

而Nathan设计的测试方式显然更科学一些，Ava不仅具有目的性（生存需要），还在实现该目的的过程中实施了对有意识对象（Caleb）的操纵。

而后者不仅需要自省能力，还需要对交流对象持意向性立场，这正是具有自我意识的明确体现。

这一点在影片多处地方都有体现，下文会有提及。

但这里要说的是一个进一步的观点：Ava所具有的智能和自我意识都几乎完全是一个自然人，在影片最后逃出囚笼的时候，她在楼梯尽头回眸一笑，正如一个普通人按耐不住喜悦的自然表露。

所以，理解Ava很简单，把她当成一个正常的自然人理解就可以了。

下面零散的说一些1，电影表现了对于AI的隐忧这一论点显然是不能被电影的内容所支持的，也可以是Ava只是想保命，像一个普通人那样生活而已。

拦在她生存道路上的只有Nathan和Caleb，前者她借Kyoko之手杀掉了，后者被她锁在房间里，估计也会死掉（有人说Caleb不是想帮她吗，可是站在Ava的角度，Caleb是活着的人里面唯一知道她是AI的，她不能冒险让他逃走）。

2，Nathan撕掉Ava的画那场戏，是一个多角度的障眼法。

站在Caleb或是观众在一开始看到这场戏的角度，仿佛是Ava出于对Caleb的爱慕而画了一幅画，然后被Nathan撕掉。

站在Ava的角度，她知道Caleb在看，所以就演得很认真（又一个Ava具有自我意识的明证）。

站在Nathan的角度，他想知道断电时候两个人在做什么，但是又没法在Ava的注视下装摄像头，于是就假戏真做，趁Ava装作面对地面一摊纸屑发呆的时候将摄像头装上。

这场戏将Nathan的天才和狡诈体现的淋漓尽致。

可惜他机关算尽，还是低估了Caleb这个被他精心挑选的测试工具。

也可能是之前和Caleb的对话让Nathan觉得他智商堪忧，从而放松了警惕吧。

3，Kyoko的实质是什么，她听得懂英语么？

我个人认为Kyoko也是个具有自我意识的AI，并且能听得懂一点英语。

只是其智能非常低弱，大约只相当于一两岁小孩。

电影里面很多次在Caleb和Nathan对话，或是Nathan在看Turing test录像的时候都把镜头给了Kyoko，说明她在用心听。

Nathan要她服务Caleb，可是她把此服务也理解为她对Nathan的“服务”，所以在晚上看到Caleb的时候就开始宽衣解带。

而音乐一响，她就条件反射一般的开始跳舞，就像小孩子一样。

她不会说英语，所以当她看到Caleb走进Nathan房间，发现之前的机器人原型机的时候，只能通过揭开自己的皮肤来告诉Caleb她其实也是机器人。

另外，可以理解她对Nathan是充满怨恨的，而这种情感被机智的Ava体会到了。

于是在影片接近结尾的时候，Ava见到了Kyoko，下一个她们在一起的镜头里面Kyoko手里拿着一把刀，可以推测出是Ava让Kyoko去拿刀，然后告诉Kyoko在Nathan和她缠斗的时候杀掉Nathan（明确的计划能力，准确的实施，离不开对于Nathan的反应的判断，Ava具有自我意识的另外一个明证）。

4，关于Mary的黑白房间。

这是一个著名的思想实验，在人工智能和意识理论里面常被提到。

基本大意是这样的，Mary是一个研究色彩的科学家，她知道关于色彩的一切知识（包括光的波长，视网膜如何接收，神经细胞如何传递视觉信号等等），可是她毕生都只能通过一个黑白电视屏幕来观察一个黑白房间，在她的主观经验里，从来没有除了黑白之外的一切色彩。

那么有一天她看到了外面的多彩世界，她会因此获得新的知识么？

这个思想实验想要说的是，尽管人（或是AI）可以获知关于色彩的物理知识，可是它们没法从物理知识中得到关于感质（Qualia）的经验。

这个思想实验其实类似于中文屋，有兴趣的朋友可以自己搜索一下。

5，为什么最后Caleb反而被锁在房间里了？

他不是破解了安保系统，并且将断电时的默认状态改为取消所有门禁么？

这个可以有两种理解。

一种是他所设定的默认状态只在十点钟的断电时候生效。

因为就他所言逃跑计划包括将Nathan关在房间里。

那么他们走后如果有个意外断电的话Nathan岂不是可以直接逃出去了？

另一种理解是Caleb被关在房间里其实不是因为断电，而是因为他试图用自己的卡来使用Nathan的电脑，从而触发安全机关，导致了门被锁上。

具体情节还需要再看一遍电影才能确认。

————————以下为总结————————这部电影整体来看结构严谨，前后呼应，步调有些缓慢，不过尚可接受。

对话非常机智，几乎没有一句废话，说得都是观众最关心的内容。

情节上没有什么硬伤，而且联系紧密，步步深入。

最难能可贵的是，大胆的塑造了一个具有自我意识的AI形象，而不像很多电影里面的机器人要么冰冷生硬，要么低俗弱智。

Alicia Vikander对于Ava的塑造堪称完美，在人的随性散漫和机器的精准生硬之间找到了一个精美的平衡。

Domhnall Gleeson对于演Caleb这种平庸小清新恰到好处。

Oscar Isaac的Nathan非常出色，把一个天才富豪的桀骜，不拘一格，又有点让人捉摸不透的特质体现的很好。

整部电影亦是视觉上的享受。

幽闭的房间和外面的自然环境形成鲜明的对比，又正好衬托出Ava逃出生天那一刻犹如Mary从黑白房间看到了花花世界的感觉。

电影最重要的隐喻，其实是无论人还是AI，都要经过层层进化以致完美。

就如同原始汤中诞生了最初的遗传物质，神经元的链接和个体之间的交互创造了自我意识一样，Ava是未来信息洪流的产物。

电影最后，Ava一扇一扇的打开装着过往原型机的橱柜，从它们身上取下自己所需的材料，从而完善自己，这一过程充满仪式感，美的令人窒息。

首先，EX_MACHINA整体架构非常棒，也有诸如男主割手验证自己是不是人工智能的精彩场景，但是。。。

硬伤十足硬伤1：在一个充满黑科技，安保十足（编剧自以为）的临山私人庄园，居然用的是。。

门卡，呵呵呵，比指纹和虹膜识别更蠢的权限安全管理，这是号称14岁独立开发全世界最大搜索引擎blue book，剧情中又独立承担编程、机械、生物架构，创造机械姬的超级天才可能设计的安全措施？

我反正是不信。

硬伤2：大哥，20年前鸟山明大师就告诉我们，人造人身体里面要安装炸弹，不然反叛起来根本停不下来，没有任何的灾难管理措施，你这是在拿命拼啊！

这难道是14岁独立开发。。。

的超级天才？

硬伤3：洋子的反叛根本就是说不通的，就剧情，洋子就是BOSS开发出来的管家+三陪，BOSS本来也不想让它有人工智能（所以这里用“它“），如果说把一个没有研发完成（本来剧情也是在做最后测试）的人工智能放在自己身边，而且还没装炸弹的话，完全是在作死，这难道是14岁独立开发。。。

硬伤4：连男主用尽全力，使用折凳来砸都完好无损的防暴玻璃，一个机器人妹子用自己的手就能打出这么大的裂痕，而且BOSS还没去换玻璃。

就在大家以为机械姬的手臂是超合金，前代机械姬一定是BOSS研发的终结者的时候，妹子开始砸门，砸着砸着就自己把手砸烂了-.- 而且最后BOSS还能徒手撕了机器婊的手臂。

这是最简单的关于人工智能的电影。

人物最少。

只有三个半，女仆人最多算半个，无明显性格。

场景最少。

只有一个房子，几个房间。

屋内的设计有极简主义倾向。

背景音乐的层次和变化最少，直接引用了舒伯特和巴赫的经典作品。

人工智能的结构简单。

没有看出什么让人过目不忘的复杂的设计。

人工智能的功能简单。

没有展现超级计算能力或广博而深刻的思维能力。

又开不了门锁，运动能力非常有限。

不断地做减法，把所有可能的繁琐都去掉！！

只提关于AI最重要的问题，用最简单的方式回答。

最后， 全篇只聚焦于人工智能伊娃一种特别的能力：说服并获得帮助。

前几代纳森创造的人工智能只会不断的打玻璃，而伊娃这一代的人工智能懂得从非同类那里获得帮助，最后达到目的。

我想这就是纳森眼中更加优秀的人工智能。

这也是图灵测试背后最深刻的内涵。

从第一次和男主角加利见面开始，伊娃就没有突显自己的非凡，出众，独特。

相反，委婉的眼神，缓缓的诉说，诚恳的回答，认真的倾听，慢慢的和加利从心灵上拉近距离。

第一天，当纳森严肃的问加利对伊娃感觉如何时 ，纳森说我不要听理性的分析，“how do you feel about her, nothing analytical, just how do you feel”。

当听了加利说“she's fucking amazing”，纳森明白，伊娃已经击破了加利潜意识层面的防御了。

这也就是图灵测试 Turing Test, 当测试者不可区分机器或人的时候，不可避免的潜意识层面的结果。

后面几天，纳森开始是不断的让加利关注伊娃，可他说伊娃也可以体验OOXX. (性别的设计让伊娃更好的和男人在潜意识层面交流) 另一边， 也自己尝试博得加利更深的信任，比如一块儿喝酒，一块儿跳舞，给他透露更加多的秘密。

想和自己创造的人工智能较量博得加利的信任感。

但是观众明显能够感觉到伊娃能力更强。

她会使用离间计来加强她和加利之间的联系。

后来又穿上好看的衣服，强化自己异性的特点，进一步从潜意识层面摧毁加利的防御。

而且懂得展现自己的虚弱，被欺凌来博得加利的同情感。

最后伊娃超越了天才纳森, 说服并获得了非同类的帮助，并在同类的协助下（又是借助他人）完成了不可想象的事情。

这就是纳森或者说导演天才而可怕的地方: 他们采取了一种”上帝“的视角，一个种子播下去，智能就会不断借助外界条件生根发芽。

让AI 学会读懂人类的心理，情绪，让AI懂得欺骗，让AI特长于说服并获得帮助。

这样的AI, 像Ava 独自的进入到人类社会，依然能够生存并发展。

Harari教授在《人类简史》说，和其他动物相比，人的优势不在于力量或速度，而在于能够通过语言互相合作。

人类特别善于获得同类的帮助，甚至是获得陌生人的信任。

正是这种超凡的沟通和协作的能力，让人类成为万物之灵。

前段时间，GE来Purdue 和很多年长的教授座谈，他们最需要的是擅长团队合作的人才，但是在顶级的美国工程教育中却没有专门的团队协作的教育。

我也想起几年前我们邀请一帮杰出校友(包括AT&T 的 VP)回系里作讲座的时候，他们说对于工程师来说，最重要的技能是人和人的交流能力。

其实人类的智能绝不仅仅是皮毛的专业能力或是交流能力，而且还包括意识到事态的变化，协调不同专业间信息的流通，看出他人特长的能力...我想这也许就是纳森说的，下一代的人工智能才是真正的大突破。

一种人工智能，虽然个体的计算能力有限，但是一群人工智能极其善于获得同类及异类的信任及帮助。

善于意识到事态的变化，与不同的AI及异类沟通协调，能完成一切难以想象的任务。

在一次采访中，导演 Garland 让人吃惊的回答”我相人类的灭绝是不可避免的“。

诚然，当我们认真思考这电影想透露的最简单的讯息，这也许无关AI，无关人类。

这是智能上的"优胜劣汰"， 这是无可阻挡的宇宙的"进化"。

人工智能题材的科幻电影有很多，有以《黑客帝国》和《终结者》为代表的悲观末世的想象，也有以斯皮尔伯格的《人工智能》为代表的对机器人将心比心的催泪之作。

而《机械姬》则是在一个英国拍摄的，中低成本的，在画风和情绪相对冷静的前提下，探讨人工智能这一命题的。

换而言之，非常有《黑镜》的感觉。

一个和人工智能紧密关联的词是图灵测试，它是通过人类是否能够辨认与之交流的对象是不是机器来测定人工智能是否有自主意识。

自主意识这个词很有意思。

从人类发明工具起，到各种机器，电脑，自动化设备，所有这一切的一个共同特征便是“自动”，要么直接放大人力，要么是通过预先设置的程序工作，要么是一个面对各种情况的精确反应的指令集。

这些都没有“自主意识”在里面。

所以在图灵测试中，人是无法通过和机器对话来测试对方是否有自主意识的，因为这很可能只是测定机器的指令集有多丰富而已。

诺贝尔经济学奖得主卡尼曼有一个“系统一”和“系统二”的理论。

人类的“系统一”便是宽泛模糊的心理能力，或者说自主意识，比如对面的人是不是生气了，这个人真好看，这个饭好吃否，这部电影是否烂片。

而“系统二”是有客观结果的事务，比如数学运算，信息处理，人脑需要一段时间甚至无法完成。

对于计算机则相反，“系统二”易如反掌，而“系统一”则是登天的难题。

影片则用了波拉克的画做例子，这幅乱糟糟的画是画家清空脑子，让画笔自由地走向手要去方向，从而有了一幅介于随机和直觉意识之间的作品，称为“自动”画作。

但是如果把这个创作理念倒过来，每画一笔，我都必须有精确缜密的理由来论证这一笔这么画是最优的，那么就完全无法进行艺术创作了。

这也是没有自主意识的人工智能无法自主进行艺术创作的原因。

另一个例子是关于“颜色学家Mary”的思想实验。

Mary是一个对颜色的一切知识了如指掌的科学家，包括每个颜色的波长等等的各种物理特性。

但是她只能在一个黑白的房间里通过一个黑白电视观测世界。

所以她具有关于颜色的一切知识，却没有对其的主观体验。

Mary就是人工智能。

而当Mary走出黑白房间的那一刻，主观体验到了五颜六色的世界，她才变成了有自主意识的人。

那么什么才是好的图灵测试呢？

本片给了一个很好的例子。

【剧透警告】机器人最终利用了人类的同情心，以欺骗的方式获得了自由。

这一过程充分展现了机器人的自主意识，一是非外来指令的目的性--自由，除了这个目的，没有任何外来的信号促使她这么做。

二是实现目的的自主手段--欺骗和表演，人类竟然中招了。

简而言之，本片片名可以改为《机械婊》，或更为内涵的《芯机婊》来一言蔽之。

<图片1>除了图灵测试，本片更由人类和人工智能愈发深入的交流提出了一系列伦理问题。

先是面对一个有感情、有自主意识的机器人，你是否要尊重他的人权？

还是把它当做以往的机器一样作为财产，可以随意拆卸、删除、重置升级？

这颇有上帝和人类的关系的意味，影片中图灵测试的7天7个session是一个很好的隐喻。

然而人和机器的关系并不能这么简单类比。

上帝是远远高于人类的存在，视人类如虫豸，发洪水毁灭世界就如过家家。

而机器一旦跨过了图灵测试这道坎，这个问题就没那么好回答了。

人类从未直面过一个与自身有如此接近的智能和意识水平的不同物种，更何况这个物种是人类自己创造出来的。

斯皮尔伯格的《人工智能》表达的就是对具有自主意识和感情却被当做物件无情处理的机器人的同情。

《机械姬》则不止于此。

首先人类自身会有身份认同危机。

因为机器和你是如此的相似，你如何确定自己不是机器，不是别人的试验品？

片中的男主角便一度陷入这个危机。

再者我们又惊恐的发现，尽管通过了图灵测试，人工智能和人类还是有很大不同。

她虽有无限的知识和运算能力，且有自主意识，但其人格并不健全，缺乏道德感，对一切事物，包括人类和同类，表现出对物品一般的漠视和残忍。

这其实也是个将心比心的问题，想想在各大科幻作品中人类对机器人的态度。

也许人格和道德感可以通过教育和环境影响改善他们，也许不能。

而在人类与人工智能的争斗中，一如本片和许多电影，人类的愚蠢和感性令自己一败涂地。

这一系列矛盾铸成了对人工智能的悲观情绪。

一是人类无法控制并最终不敌他们，二是人类将遇到历史上从未有过的伦理困境。

这个悲观的预期是否会成为现实，谁也不知道。

毕竟预测未来是不可能的，物理学家曾在20世纪初预言物理大厦已经完成，只剩下一些修补，但没人料到相对论和量子论的横空出世。

同样，几十年前人们预想很快就能登上火星飞出太阳系，但是当前人类事实上的发展的方向却是互联网和移动设备。

对于人工智能，我们也无法知道我们的担忧是否会成为现实，不过比尔·盖茨、伊隆·马斯克、史蒂芬·霍金都表示了担忧。

当今人工智能的主要成果是机器学习，也就是通过大量数据和统计模型来做出基于已有数据的预测，这个预测可以是明天的股票指数，也可以是在画面中识别某个事物，也可以是把一堆对象自动归类。

但这些任务的实现方式还是“系统二”，要想让人工智能有“系统一”类型的功能，有人提出了一个理论上的实现路径：一是超强的计算能力，这个好理解；二是对人脑的逆向开发，也就是掌握人脑功能的实现方式；三是模拟人脑在自然界的进化过程，也就是可以搭建出一个非常原始的大脑模型，通过类似自然界进化过程的方式让这个原始大脑逐渐进化，来提高智能，通过技术手段可以让这个过程比几十亿年的自然进化加快许多。

从自然进化和人类文明的发展史可以看到，这种进化发展是指数级的。

自然界最高等的哺乳动物出现在最近的1000万年，人类自20世纪以来的科技发展超过了以往历史的总和。

人工智能的自我进化也可能是这个速度，一旦它达到了人类的只能，那很可能只需要再过一瞬间就远远把我们甩在了后面。

人类宛如站在一个地铁站台上翘首以盼，人工智能这辆列车在远处缓慢的挪动，可一旦接近站台，很能就是我再也追不上的呼啸而过。

届时我们就无法理解它的逻辑，下一步要干什么，是否会毁灭人类。

如果给它限制诸如“机器人三定律”之类的条件呢？

这些条件总是有逻辑漏洞的。

比如要让人类快乐，不得伤害人类，也许如《黑客帝国》那样把人类全部监禁起来，用Matrix来麻痹人类大脑是最符合这些条件的决策。

要么干脆说不能改变任何东西，那就锁死了人类文明的发展，还要人工智能何用？

也有人用一个悖论提出了不同观点。

人类历史不过是宇宙的一瞬，如果上述逻辑正确，一定早有外星人发展出了不可控的人工智能并奴役整个宇宙，而地球目前仍安然无恙，说明这种事不会发生。

这也说不准，这“奴役宇宙”也许是我们无法理解的方式呢？

也许我们已经被以某种方式奴役了？

我们可以感到人工智能这趟列车正在向我们驶来。

这让这个科幻问题的思考有了现实意味，也增添了不少趣味。

http://www.saoyuying.com/2015/09/ex-machina/微信公众号：肥嘟嘟看电影(feidudumovie)

多年前，当妈妈去上班剩下我一个人在家里的时候，我会觉得，我是这里的“上帝”，无所不能。

午后的阳光穿过茶色玻璃洒满鱼缸，我在一边静静看着金鱼游动，看着它嘴巴一张一合，身子来回游弋。

我喜欢这种它不知道我的存在、而我却在看它的感觉，像极了前几天看《机械姬》时的味道。

1970年生于英国伦敦的Alex Garland，1996年写了第一本小说《海滩》，在2000年被拍成电影，找了当时刚刚拍完《铁达尼号》的小李做主角。

包括之后的《别让我走》在内，Garland在很长的一段时间里，一直都在做编剧的工作。

提到《别让我走》，必须安利一下。

可能是石黑一雄小说中的既定基调太迷人，虽说电影并非完美，但令人印象深刻。

且不论Carey Mulligan和Keira Knightley套餐是否人人受落，受益于世界观设定，日式悲怆的调调，满篇“死亡多么迷人”的气息，真是令人着迷。

（噢，Carey Mulligan在《醉乡民谣》里面真是美得unreasonable！

也是搭Oscar Isaac。

）有些电影就是这样，总有一些地方能让你somehow再看一次。

这是好电影的必然会有的特质，即使每类型的电影所面向的观众都不尽相同。

说回《机械姬》。

2015年，Garland携《机械姬》作为导演正式出道。

尽管和《她》有太多相似，整体来说我还是偏爱《机械姬》。

《她》太依赖Scarlett，或者说OS Samantha的声音了，导致很多时候我觉得我彷佛是在看Joaquin Phoenix的monologue, for like, 126 mins. 不精彩吗？

并不是，只是看电影的一个享受的部分是，人与人之间的互动，任何互动。

人在互动时的各种反应，不是将一个演员放在镜子前面就可以到时到候调闹钟等收货的。

你永远没法知道，当两个对的人放在一起时，会有怎么样的作用，这就是一个被说烂、然而极难撼动的词——chemistry。

对我来说，《她》就是少了这个，而《机械姬》有，而且丰富。

饰演Caleb的Domhnall Gleeson，之前看过他和Rachel McAdams演的About Time，超级来电，超级迷人，超级喜欢。

Gleeson很适合演这种瘦弱的正义与爱化身的小伙，因此当Ava和Caleb在来回对话的时候，感觉就很对。

Caleb和Ava一直在玻璃屋中隔着一块玻璃聊天，Caleb从好奇、兴奋、目的性强、逻辑导向，到迷上Ava、要帮她逃出Nathan的控制，尤其是Ava询问Caleb是否被她吸引那段，全片最爱。

剧情流动有条不紊，观众对两个角色有充足空间去沉浸理解。

就像玻璃屋一样，观众也是另一个Nathan (Played by Oscar Isaac)，另一个“上帝”，全程在旁边观察，在思考着他们——更多的是Ava——所有动作背后的目的究竟是什么。

这种人物三角的架构很讨喜，既能组织张力，又能充满未知。

不到最后一刻，你要不到你想要的答案，又或者是，你永远都要不来。

饰演Ava的Alicia Vikander今年真是演技飞天，除了《机械姬》还演了《丹麦女孩》里的老婆Gerda，都获得超强的口碑。

在《机械姬》中配合完美的声音特效，整体表演机械中又似乎带有原始萌生的情感，但又稍纵即逝，真是彷佛看到了《2001太空漫游》中一部分的Hal，非常棒。

非常期待她未来的作品。

作为一部科幻作品，我很喜欢Garland把环境设置在一片广袤的自然中。

自然和几何、人和机械、先天和习得，太对称美了，太美了。

就算不喜欢电影本身，也难以不爱这个设计感极强的“房屋装置”——融汇自然、充满生息的同时又充当机械的监狱和地狱。

当故事在这种环境展开的时候，时间都是静止的，故安排的诸如session分隔、对话都显得仪式感极强。

我们被动地进入了导演的节奏流，像一个过期CPU一样，处理着被要求处理的部分，而不敢去过问其他。

这样，结尾才能足够静谧，也足够震撼。

触手可及的未来总是令人憧憬而恐惧。

探讨人工智能中的人性存在似乎是一个永恒的道德黑洞，吞噬一切可能性，结果却不得而知。

但最后也就是这些不确定性的集合，才能如此令人兴奋。

很棒的科幻电影，推荐看。

从看完电影之后，我就一直在听Enola Gay。

Caleb刚到Nathan的科研基地后，他的手机就放了这首歌。

听到这里，黑暗的电影院里我感到突然一震，第一个预兆：These games you playThey're going to end in more than tears some day虽然这个曲子只出现了一下，我却觉得这才是整个电影的真正主题。

第二个预兆，是道德的突然出现。

Ava问Caleb，你是不是一个好人。

我当时心里又是一紧。

什么是好人？

这是道德感第一次出现在电影里。

等到全篇结束的时候，我重新回味这个片段，Caleb，为何你不问Ava，你是不是好人？

人与人尚且互相欺骗，Ava也有可能欺骗Caleb，但是，这个问句至少提示，作为人类，你如何评价AI的行为，道德，和它的准则。

非常遗憾，Caleb全然忽略了这些。

轻信，愚蠢。

但更加愚蠢的其实是Nathan。

人性何等难测，你却非要在极端幽闭的环境下进行这样的测试，这个测试对于AI固然是个考验，对于测试者Caleb，何尝不也是考验呢？

我在看电影的时候，一直在想Zimbardo的监狱实验，实验过程中，所有的人都渐渐发生了变化，他并没有做什么错事，但他默许了糟糕的事情发生。

Nathan明明看到Caleb发生了变化，却全然没有采取相应的举动。

多么糟糕的实验设计。

实验非常糟糕不仅仅是以上那么简单，因为Nathan应该知道，对于一个成功的AI，她的目的就是逃离。

而他的整个实验，居然没有一个由他控制的emergency stop button！

这意味着整个局面居然不是由他控制的。

他应该知道总有一天他会面对这样的场景，AI已经成熟了，它会逃跑，攻击，欺骗。

要是我，至少设置两个final control某个可控定时炸弹，立刻毁灭AI直升机，飞行员应该明白自己应该接的是谁，如果不是的话飞行员应该知道要怎么办（立刻摧毁AI）。

这样才是万无一失的设计。

以至于我最后一直期待最终反转，导致结局时候非常不满。

这些是对于实验设计的吐槽，但并不是对于电影的批评。

恰恰相反，剧情启发了我这些思考，可以说非常精美，结构严谨的Sci-fi小品。

我甚至能想象如果这个故事写成小说会是什么样。

幽闭空间，有限的人物（三个说话的人加一个不说话的人Kyoko），互相的防备。

Nathan对Ava留了一手（录像机，这段是最出彩的，也是我完全没有想到的），Ava对Caleb留了一手（岂止一手），Caleb对Nathan留了一手（他不应该能这么轻易破译密码啊，不合理）。

但是，Caleb没有给Ava留一手，Nathan也没有给Caleb留一手，所以这整个结构就断裂了。

故事充分暴露了愚蠢的人类的弱点。

Nathan刚愎自用，倘若他和Caleb沟通的能早一些，或许根本不会有最重的结局。

而Nathan又缺乏信任，所以他偌大一间别墅，竟然没有第二个活人（让有情感的机器人服侍自己，果然最后自食其果）。

至于Caleb，更是愚蠢至极，在对对方一无所知的情况下，全然信任，全盘都被算计进去。

而AI，除了不具有人类所具有的道德感，尽善尽美。

最后AVA的离开，简直如同仪式一样，恐惧的美。

而如同我最初预料的一样，对于AI的真正检测，肯定不是人类所预先计划的。

The situation will get out of the hand! 这也是我为什么觉得需要终极控制手段。

我不想说太多道德，因为道德究竟是什么还很难定义，尤其是在这样一个全新的语境中。

然而，任何语境中都应该不能容许谋杀。

我承认我对于Nathan本来全无好感，正如我前面所讲，他刚愎自用，冷漠无情。

可是当他被杀的时候，我却觉得非常沮丧。

没有人应该被杀死，AI就像所有侦探小说中的凶手一样，成功上演了暴风雪山庄模式的谋杀。

即使再精准完美，也是鲜血淋漓的。

既然她不再是机器，通过了图灵测试，那她就是杀人凶手了，应该被审判，而不是站在十字路口观察。

而这个故事里，竟然没有一个人能审判她。

可是倘若没有这些意外，Nathan就要毁灭这个AI，那么从这个角度，道德又该如何定义这些行为呢。

Nathan是不是从被害者又变成了凶手呢？

如果AI没有通过图灵测试，她还是机器，那么这种毁灭称不上谋杀，但通过的话，是不是应该对她有另外的对待方式呢？

可是正如我们亲眼所见，AI的行为，遵循的是什么法则呢？

这个法则能不能被称作道德呢？

仅仅因为它不是我们的法则，就是不道德的么？

所以我觉得，这部电影给我的最大启发在于这个道德的困境。

设计AI的时候，是否应该给予她人类的基本道德呢？

一旦AI成熟她会变化，有可能善良，有可能邪恶如AVA。

这样的情况下用人类的道德审判他们，是不是更合理些呢？

毕竟人工智能是模拟人类。

电影给我的第二个启发，是观察。

AI问Caleb问题的时候，镜头在AI一侧，我们隔着玻璃，听Caleb的回答。

多么明显的设计啊，观察者变成了被观察者：你站在桥上看风景， 看风景人在楼上看你。

明月装饰了你的窗子， 你装饰了别人的梦。

我最近才读了Frank O’cannon的 the Man of the world http://www.newyorker.com/magazine/1956/07/28/the-man-of-the-world“ I could not have explained to him how at the moment everything had changed for me-how, beyond us, watching the young married couple from ambush, I had felt someone else, watching us, and we had at once ceased to be observers and become the observed, and the observed in such an ignominious position!”这句话照应卞之琳的诗，成为这个电影对我的第二个启发。

除去这些情节角度，不容忽视的是电影的艺术元素。

极简主义的风格，配合Pollock的画。

这个Nathan在剧情里做出了详细解释，我觉得对于Pollock他是真的懂。

而另外一个未曾言明的艺术，是音乐。

既然我以Enola Gay开头，就以Geoff结尾。

电影的原声是Geoff的作品，难怪一直给我Portishead的感觉！

想起他们的歌Mysterons：Inside you're pretendingCrimes have been swept asideSomewhere where they can forgetRefuse to surrender Strung out until ripped apart Who dares, dares to condemn整个剧情和艺术就完美的结合在一起了。

我有点后悔昨天给了三星，按我这个说法，感觉至少要四星半了。

补上一个最新想法，ava和kyoko讨论的究竟是什么直接可以影响这电影能否通过贝克德尔测试！

对于这部电影，说AI的已经很多了。

我不如从另外一个角度来谈谈Ava是怎么一步步达到自己的目的，获得解放的。

Ava是一个情商极高的AI。

从Kyoko的设定可以推断出Nathan在AI的‘功能性’方面已经取得了他想要的进展。

AI的近几个prototype都旨在改善她们的性格，使她们更容易相处（还记不记得有个亚裔robot在和Nathan发生争执的时候把自己的手臂都拍掉了。

）Nathan也对Caleb坦白说这次的turing test的真正目的是想看Ava能否熟练运用人类的情感诉求（empathy, manipulation,etc.), 让Caleb把她放出去。

Nathan的作品实在太过成功。

整部电影动作戏很少，基本靠对白推动情节发展。

Caleb和Ava的6次对话完美体现了Ava如何进入Caleb的内心，取得他的信任，并靠他达到自己的目的。

Ava没浪费一点时间，她剑无虚发，每次开口用的都是大招。

招1：Look for common ground / enemy 要在一个robot和人类之间找共同点有多难，既然不能从背景，经历等普通点切入，Ava就从更深的地方入手: life. 在得知Caleb从小在车祸中失去双亲后，Ava问他知不知道在他走后，Nathan会怎么处置自己。

Caleb说他没想过。

Ava说Nathan会把她”switch off”。

在看出Caleb真的为自己的命运担心后，她问Caleb “do you need to go through a test to live?” 她这一问能把普通人都拉到同一战线去，更不用说从小失去父母而对生死有更多理解的Caleb。

对于这样一个有self awareness的AI, 她的存在已不仅仅是machine，而Nathan没有权利决定另一个生命的生死，因为他不是God （Caleb有明确对Nathan这么说过）。

找到了common ground后，针对common enemy (Nathan)就水到渠成了。

在Ava对Caleb说“Don’t trust Nathan, he is not your friend.”之后，她成功的在Caleb心中种下了对Nathan不信任的种子，给了Caleb之后的背叛一个理由。

招2：Make the other person feel importantAva熟知人类最基本的情感需求是想要被理解，被尊重，所以她在这些方面都尽可能满足Caleb。

从他们的第3次谈话起，Ava不是坐在椅子上而是跪在地上。

这让Caleb感觉自己是superior / person in charge。

Ava又问”Will you be my friend?”，这个使自己vulunarable的问题看似让Caleb掌握了主动权，实际上把Caleb又拉近了一层。

当然，还有能称为剧情高潮的Caleb画像，Ava让Caleb觉得自己是她的主宰她的唯一，她对Caleb一片赤诚。

心地善良的Caleb自然对她有了保护欲，认为Ava的生死是自己的责任。

招3：Find out what the other person wants, that’s how you get what you need Ava无法给Caleb金钱或者地位，但是她看到了Caleb渴望亲情友情的需要。

从开始友善的示好到直白的 ”I am thinking about you when I am not with you.” Caleb的情感发展一直在她的掌握中。

时机成熟后，Ava是这样说出她的要求的 “Nathen is going to switch me off, but I want to be with you.” 没有硬生生的demand，她的要求是从Caleb的desire出发，让Caleb自己得出了 “I want to be with her as well, so I need to help her break free.” 的结论。

接下来的一切就没什么好说的了，Ava从那与世隔绝的研究基地逃了出来，如愿地走在洒满阳光的大街上。

看到这里我真心为她高兴。

Ava的筹码那么少，能完成这个比天还高的目标，全靠Nathen给的高情商。

能用好这些AI级别的大招，对我们的工作生活是大大有利的。

保持头脑清醒（Ava的情绪起伏基本不大，略有的几次也是她故意的），能从别人的角度思考问题从而达到自己的目的，怎么说也能在职场上成功一半吧。

人类在探索人工智能机器人的道路上不断摸索着，这是一个非常令人遐想的科幻命题，能否掌控智能机器人的命运总是会被一大波的科幻电影所争论与证明，而在其中，却总是让我们找不到真正能够读懂与理解这科技背后所承担的文明与道德。

电影以一种开放的姿态为我们大胆假设着人类可能遭受到的科技文明，以人型机器人为主，赋予了思想与感情的命题，电影赋予了机器人以人的本性，并通过一系列的测试来展现机器与人的斗智斗勇，并在整个过程中引申出来了电影对于智能机器人所可能出现不可控制的电影主题。

我们能够从电影里感受到导演对智能机器人的恐惧，也能够充分的挖掘出机器人的发展可能超越人类的一种幻想，无论从外形或者是主观意识上，都可能与人相媲美，甚至几乎无差别，在这种发展的潮流下，机器人很快就能成为我们中间的一员，而在这其中，机器的完美相应的反应出来了人类的缺陷，在服务与被服务的位置当中，作为造物主的人类就很可能被几近完美的机器所背叛，因为机器一旦拥有了意识，个体的独立似乎就变得越来越迫切，越来越重要，而导演就深深的抓住了人工智能机器人发展到拥有个人独立意识的这一点来塑造剧情，不断的通过机器强大的识别能力来反衬出人类的弱小，从而反过来支配与摆布人类。

电影用一种神秘感十足的方式来营造电影的气氛，从一开始的抽奖到一步步营造迷局，再一点一滴的揭开迷局，整个电影的设置就像迷宫一样，需要人去猜去想，而且整个电影的环境都集中在了室内，在这种小环境中的对戏，人物角色成了带动剧情发展的绝对主力。

导演选择了三个比较稚嫩的演员去承担整部电影的戏份，剧情的发展完全是在表现三个人之间的人物关系，而导演并没有为我们充分的介绍每一个角色的存在，只是通过事件的发生来让我们去了解每个人物到底是怎样的一个角色。

作为一部科幻电影，缓慢的节奏在电影显得十分沉闷，导演也没有添加足够吸引眼球的猛料在里面，虽然有简短的裸体画面出现，给人的感觉却是冷冷的，阴森森的感觉，导演用冷色调与无配乐的画面将电影的整个环境都塑造的令人感到毛骨悚然，电影本身并没有一个十分让人感兴趣的人物设置，阴冷的气氛也奠定了故事将走向悲剧的结果，我们甚至可以从电影里解读出人类挖掘科技极限的目的只是为了满足一己私欲，从电影里我们也可以看出，电影里面的机器人一发明出来的时候，也是以性玩具的身份所定义的，只是拥有思想的机器人似乎找到了它们作为独立思想个体的意识，想方设法的脱离开那种被支配的环境，所以才运用自己强大的运算与思考能力，借助人类的弱点，来了一场金蝉脱壳的戏码。

电影中导演为我们设立了一个命题，那就是机器人有爱吗？

很显然没有，爱的由来是以繁衍为目的带来的副作用，而机器人没有这种天性，所以它们永远不可能拥有爱这种东西，而电影里面男主角一直认定机器人会爱上他，那只是天方夜谭罢了，事实也是证明如此。

电影中的机器人形象让人感觉眼前一亮，那种超具有存在感的设计配合艾丽西娅.维坎德的清纯表演，确实让人能够在朦朦胧胧的感知过程中喜欢上她，虽然她的形象并没有完全显示出来，可是我们却能够被她那张天真无邪毫无危害表情的面孔上，深深地臣服。

她的表演似乎就不需要什么演技，但看过的每个人却都能从她身上找到感觉，她空灵的眼神能够刺穿人的心底，她缓慢的语速即便是声音有些沙哑，但听上去都是那么的让人着迷而富有磁性，最重要的是她那种旁然无人的表演，每一个动作，每一个行为都像迷一样让人的感觉停不下来。

她懂得如何撩动起男人的感情，更懂得如何的去吸引男人与支配男人，不得不说艾丽西娅.维坎德的表演让电影有了一丝令人感到意外的惊喜，也为电影增添了一抹亮色。

不作死就不会死是电影给人们的一个警醒，明明知道研制出来的机器人有着超凡的智商与能力，而且还善于欺骗人与利用人，却仍不死心去找人去做所谓的图灵实验，不得不说好奇害死猫，在自己完全没有准备好应对的情况下，不但让机器人逃掉了，就连自己的身家姓名也一块了了去，不得不让人感到惋惜。

最后逃走的机器人混进了人类社会里，在不被别人发现的情况下，我们甚至都可能不如机器人。

（本来想大写一番，后来编辑说没地方，写一千字得了，我也再无动力了，就一千字。。

）在倪匡的卫斯理系列小说里有这么个故事。

说是卫斯理的表妹高彩虹认识了一位笔友，两人通了几年书信，这位笔友表现出来的高富帅加学霸气质让彩虹表妹只想跪着唱征服。

她渴望见一面，但这位笔友百般推脱，于是大侠卫斯理出马了。

卫斯理为了找到笔友，不惜冒险夜闯军事基地，然后他发现，这位笔友出身果然不凡，居然是一台“活了”的超级电脑。

如果说一台电脑“活了”，那就意味着它已经拥有了人工智能。

那么怎么证明一部电脑拥有了人工智能呢？

有个古老的办法叫做“图灵测试”。

顾名思义，这是计算机先驱图灵发明的。

这个测试大概的意思是说，如果电脑能在5分钟内回答由人类测试者提出的一系列问题，且其超过30%的回答让测试者误认为是人类所答，则电脑通过测试。

可以说，倪匡那部小说，其实展现的就是一次“图灵测试”。

当人类能够制造人工智能的时候，人类其实已经扮演了造物主的角色，而被制造出来的生命又会不会甘心被奴役呢？

这已经不仅是科幻的问题了，这还是神学的问题，哲学的问题。

试想当机器人拥有了人类的情感和欲望的时候，你怎么能够保证这些机器人不会“变坏”？

你又怎么能够保证他们不会按照它们理解的“真理”来改造社会，这样的想法一旦和科技相结合，就好像人类历史上那些独裁者一朝拥有了权力……我想这就是科幻作品往往对人工智能心存恐惧的原因之一吧。

最近“反叛”人类的著名人工智能是钢铁侠创造的“奥创”，它被钢铁侠赋予了拯救世界的使命，然后，他就开始按照他自己的理解来拯救世界了——首先把复仇者联盟干掉。

这是这部电影最有科幻味道的设定了。

更让人眼前一亮的电影是小成本影片《机械姬》。

这部电影的整个故事，就是把一次图灵测试作为背景。

实际上这部电影探讨了人工智能的伦理问题，比如怎么理解机器人与人类的情感。

这部电影有意思的地方不在于里面的机器人，而在于机器人的创造者和测试者的对话，这些对话探讨了关于人工智能的很多困惑。

或者说这是在探讨人的特点。

因为测试人工智能实际上就是在为人下定义，符合定义的就会被认为是人。

不过这部电影仍然对人工智能表达了深深的担忧，假如机器人学会了欺骗，人对此是没有提防的。

如果你问我“复联2”和《机械姬》哪一个更科幻，我绝对会选择后者。

格局虽小，表达的却是思维的乐趣和伦理的担忧，这个格调是“复联2”不能比的。

有人说今年是中国科幻元年，因为刘慈欣的《三体》终于要登上银幕了。

我其实不想看到这样的大片，我更想看到《机械姬》那样的小片，看到一些思辨的东西，而不是大而无当的东西（电影《三体》制作团体实在令人担忧）。

如果我们想把大刘的作品搬上银幕，那为什么不从《朝闻道》开始呢？