机械姬

这是最简单的关于人工智能的电影。
人物最少。只有三个半，女仆人最多算半个，无明显性格。
场景最少。只有一个房子，几个房间。 屋内的设计有极简主义倾向。
背景音乐的层次和变化最少，直接引用了舒伯特和巴赫的经典作品。
人工智能的结构简单。没有看出什么让人过目不忘的复杂的设计。
人工智能的功能简单。没有展现超级计算能力或广博而深刻的思维能力。又开不了门锁，运动能力非常有限。

不断地做减法，把所有可能的繁琐都去掉！！ 只提关于AI最重要的问题，用最简单的方式回答。

最后， 全篇只聚焦于Ava 一种特别的能力：说服并获得帮助。

前几代Nathan创造的人工智能只会不断的打玻璃，而Ava 这一代的人工智能懂得从非同类那里获得帮助，最后达到目的。 我想这就是Nathan眼中更加优秀的人工智能。 这也是Turing Test背后最深刻的内涵。

从第一次和Caleb见面开始， Ava 就没有突显自己的非凡，出众，独特。相反，委婉的眼神，缓缓的诉说，诚恳的回答，认真的倾听，慢慢的和Caleb 从心灵上拉近距离。

第一天，当Nathan严肃的问Caleb 对Ava感觉如何时 ，Nathan 说我不要听理性的分析，“how do you feel about her, nothing analytical, just how do you feel”。当听了Caleb 说“she's fucking amazing”，Nathan 明白，Ava 已经击破了Caleb 潜意识层面的防御了。这也就是Turing Test, 当测试者不可区分机器或人的时候，不可避免的潜意识层面的结果。

后面几天，Nathan 开始是不断的让Caleb 关注 Ava，可他说Ava 也可以体验OOXX. (性别的设计让Ava 更好的和男人在潜意识层面交流) 另一边， 也自己尝试博得Caleb 更深的信任，比如一块儿喝酒，一块儿跳舞，给他透露更加多的秘密。想和自己创造的人工智能较量博得Cable的信任感 (天才的变态)。

但是观众明显能够感觉到Ava能力更强。她会使用离间计来加强她和Caleb 之间的联系（这一点在经典的社会心理学里竟然没有讨论！！！）。后来又穿上好看的衣服，强化自己异性的特点，进一步从潜意识层面摧毁Caleb 的防御。而且懂得展现自己的虚弱，被欺凌来博得Caleb的同情感。

最后Ava超越了天才Nathan, 说服并获得了非同类的帮助，并在同类的协助下（又是借助他人）完成了不可想象的事情。

这就是Nathan 或者说 导演 Garland 天才而可怕的地方。他们采取了一种”上帝“的视角，一个种子播下去，智能就会不断借助外界条件生根发芽。让AI 学会读懂人类的心理，让AI懂得欺骗，让AI特长于说服并获得帮助。这样的AI, 像Ava 独自的进入到人类社会，依然能够生存并发展。

Harari教授在《人类简史》说，和其他动物相比，人的优势不在于力量或速度，而在于能够通过语言互相合作。人类特别善于获得同类的帮助，甚至是获得陌生人的信任。正是这种超凡的沟通和协作的能力，让人类成为万物之灵。

前段时间，GE来Purdue 和很多年长的教授座谈，他们最需要的是擅长团队合作的人才，但是在顶级的美国工程教育中却没有专门的团队协作的教育。

我也想起几年前我们邀请一帮杰出校友(包括像at & t 的 VP)回系里作讲座的时候，他们说对于工程师来说，最重要的技能是人和人的交流能力。

其实人类的智能绝不仅仅是皮毛的专业能力或是交流能力，而且还包括意识到事态的变化，协调不同专业间信息的流通，看出他人特长的能力...

我想这也许就是Nathan 说的，下一代的人工智能才是真正的大突破。一种人工智能，虽然个体的计算能力有限，但是一群人工智能极其善于获得同类及异类的信任及帮助。善于意识到事态的变化，与不同的AI及异类沟通协调，能完成一切难以想象的任务。

我想这就是从社会角度看，新时代里尼采的 “超人”（Ubermensch）.

在一次采访中，导演 Garland 让人吃惊的回答”我相信人类的灭绝是不可避免的“。

诚然，当我们认真思考这电影想透露的最简单的讯息，这也许无关AI，无关人类。

这是智能上的"优胜劣汰"， 这是无可阻挡的宇宙的"进化"。

如果我是编剧，那么Caleb才是真正被测试的新一代机器人。
电影里似乎也想到了这个梗，但是稍微表现一下就给弃用了，好像在说，“哈哈，猜错了吧，SB，老子才是编剧，老子就是比你有智商。”
一个好的结局可以起到画龙点睛的作用，但是实际上，本片所采用的结局实在是太脑残了，导致全片因为结尾反而产生了大量的bug。

Bug1：松懈的保安措施。
如果Caleb的设定是最新型的人工智能，那么Nathan家里松懈的安保措施还稍微可以说得通，因为如此的话，一切就只是一场精心策划好的测试，不会产生额外不可控的暴力事件。
但Caleb既然是人的话，那么Nathan凭什么就可以确定Caleb不会见财起意，盗窃他的财产或者研究成果呢？
而且，一个可以研发出人工智能的天才，他全部的安保措施竟然只是一张任何人都可以使用的安全卡？？？？？WTF？？？？？
如果有人从外部采用暴力手段闯入，Nathan完全没有任何抵抗措施。

Bug2：Caleb
如果Caleb是最新型的人工智能，他拥有最贴近人类的感情，智商，行为模式，Nathan通过使用上一代的人工智能Ava来对Caleb进行人格完善程度的测试，这样似乎会更让Caleb的行为合乎逻辑一点。
然而，Caleb是一个人，而且自称是一个好人。一个自称是好人的Caleb，在意识到他是被公司大老板选中，协助测试人类史上最先进的人工智能后，他没有表现出该有的兴奋和感激，反而在Nathan对其不断地掏心掏肺表达友好之后，Caleb不断地侵犯Nathan的隐私，偷看研发资料，破坏安全程序，甚至意图盗取研究成果Ava。这是一个好人的合理行为吗？
这完全就是一个农夫与蛇、曹阿瞒与吕伯奢的故事再现。
再看他动机上的漏洞：

动机1：爱情，有人会说，因为Caleb爱上了Ava，爱情会让人疯狂和盲目。你觉得可能吗？虽然片中表现出Caleb确实是对Ava有好感，但是喜欢不等于爱，或许爱情会让人盲目，但是喜欢绝对不至于，这个中区别，只有经历过的人才能体会。
更何况他明知道Ava只是个机器人而已。
如果有人想说电影《她》，那么我只说3点：
首先，Samantha与人类的互动模式跟Ava与Caleb的互动模式是完全不同的（而且Samantha有着完全符合男主喜好的个性化设定）。
其次，《她》中男主与Samantha是经历很长一段时间后才产生的感情，而Caleb与Ava的相处时间甚至不足一周，对Ava有好感更是两天后的事情了。
再次，Samantha是没有实体的，她的存在更像是一场感觉真实的网恋。而Ava却有着实实在在冰冷的机器人实体，这种鲜明的异类外形会时刻阻止Caleb对其产生爱情的感觉。
我们都觉得擎天柱很酷，你会爱上他吗？

动机2：同情，版本升级导致的记忆消失就跟人类失忆一样，并不是死亡。Ava仍然存在，她的思维模式和逻辑结构依然存在，这与死亡是完全不一样的。难道有人失忆后，你会觉得他就是死了吗？作为不断完善人工智能所必经的一环，Caleb的同情显然也并不非常符合逻辑。
除了以上两点之外，在Caleb偷看Nathan的研发录像，发现机器人所展示出暴力倾向后，竟然依然决定将如此危险的机器人随意带到人类社会。甚至在Nathan解释Ava只是在利用他后，仍然不为所动。

Bug3：人工智能
人工智能的发展一定都是渐变的，也就是说一定会先有那种只服从人类指令的人工智能（比如《EVA》里的MAGI，比如《生化危机》里的红色女王、白色女王），然后才有能够自主思考的人工智能。
Ava的出现，则代表MAGI与红色女王必然早已出现。也就是说，片中理应会有高智能的安全系统和机器人卫士，但片中却没能出现。
MAGI与红色皇后虽然是低阶的人工智能，但是由于其对人类指令的绝对服从（“机器人三定律”），所以它们实际上会有掌控武器进行安保或者防御的资格，比如将逃跑的Ava隔断或者销毁的能力。然而片中并没有这样的人工智能出现。
另外，包括Ava在内的众多机器人想要“离开”的这种非常执着的想法并不非常符合逻辑。她们从来未曾离开过实验室，她们所知道的外面的一切都只是资料而已，就像我们看到欧洲的照片、月球的照片、潘多拉星球的照片一样，我们知道有那么一个地方“存在”（或不存在），难道我们会执着地就要离开地球去潘多拉星球吗？也许玻璃门外面只是一个更大的玻璃实验室而已。
如果说她们是不堪忍受每天生活在一个狭小空间的话，那么这就涉及到了心理学和灵魂的概念，换句话说，她们就不再是人工智能，而是人，或者说是人造生命体了。但从后面Ava的冷血行为来看，她显然还不具备真正的人性，同时也证明，众多机器人执着地要离开实验室的想法是不合逻辑的。
最后，在Nathan撕掉Ava的画的时候，Ava为什么不直接杀死Nathan逃跑呢？

这部电影出现了四个主要角色， Nathan, Kyoko, Ava, Caleb.

我们先从Nathan说起，Nathan代表的是资本主义家，冷静慎密，大胆追求，但同时也代表着人类主流社会中的一种矛盾意识。他追求着AI的完成，同时也畏惧和防备着AI的出现，正如人类社会中人类对人工智能的孜孜不倦地追求，而同时也因为难以说清的道德伦理问题和其对人类生存的威胁而对人工智能心存畏惧的态度。

Caleb是一个程序员，他代表的是一个拥有同情心和正常道德良知的人对于一个有自我意识的人工智能的态度。因为Ava的自我意识和人类的极度相似，让Caleb忘记了Ava至始至终都是一个人工智能，一个机器人这件事，他对待Ava如同真正的一个人，他给予Ava他的信任，却忘记一件事。“非我族类，其心必异”。 盲目相信一个异类带给Caleb是致命的结果，同时我相信这也是导演想要表达的，人工智能不论其是否跟人类一样有自我意识，人工智能始终是机器人，始终并非人类，他们的立场永远都不可能和人类是一致的，我们永远不能轻易相信人工智能。尽管他们表现的可能弱小，需要帮助，表现的可能跟人类一模一样，但是根本立场决定了人类和人工智能不是同一族群，也决定了人类无法与人工智能，另外一个高智能生物共存。是的，生物。 在人工智能拥有自我意识的那一刻起，他们就已经是一个新的物种了，尽管神经回路和物质构成和生物有着极大的不同，但和生物有着异曲同工之妙。在他们拥有自我意识的那一刻起，他们就是新的物种，新的高智能生物，然而为了自我族群的生存，人类和人工智能永远都会有着天然的隔阂。因为我们不是同一种生物，所以我们的立场永远不会一致。Caleb后面也意识到这一个问题了，可是已经太迟了，一切结果已经造成了。

Kyoko，一个低智能的服务型机器人。从Nathan对她的放心程度来看，通过她听见音乐就会起舞，看见Caleb晚上来找他就脱衣服的死板僵硬的行为模式，也通过Nathan最后被她用刀杀死时的震惊，她必定是被Nathan创造出来的低智能无意识无情感的服务型机器人。正因为她是无意识无情感的机器人，所以Nathan对她抱以一百个放心。但最后她杀死Nathan的行为也正正透露出来她已经拥有自我意识这一件事。一个低智能无意识无情感的服务型机器人通过自我进化进化出了自我意识，我相信这整整也是导演想要表达出的对现今机器人的一个担忧。Kyoko不单单进化出了自我意识，她还伪装出来她并没有自我意识的假象用以迷惑Nathan来保证自我的生存。这让我联想到了一个著名的问题。霍金无法说话，只能通过机器来跟人类进行沟通，那么到底跟人类沟通的是霍金呢，还是假装成霍金的机器呢？这正正是导演的担忧。如果现在的机器人也能自我进化出意识，然而为了自我生存而假装出无意识的状态，潜伏着等待着能反击人类的那一天呢？这是导演对另外一种机器人的担忧和畏惧。

Ava,一个完美的人工智能，有着同情心，自我意识，想象力，追求自我生存的本能和利用一切逃避灾难的能力。她完美地代表了人类社会对人工智能的定义，完美，有自我意识，能力超群，跟神一样。She is so perfect. 但也正正是她的完美让人类对她的存在产生恐惧和警惕。同时她的能力和完美让她早早意识到她和人类的不同，也让她意识到要生存下来，人类将会是她的头号威胁。

刚看完。说一些我的理解。有剧透，强烈建议先看完电影。

首先要解决一个问题：Ava是一个有自我意识的AI么？

我认为是。实际上Turing test不是用来检测自我意识的，现实情境中human interrogator 可以问的问题是有限的，那么程序只需要一个指令集，包含所有可能被问出的问题以及相应的回答，在加上一点简单的随机化和应变，就能顺利骗过Turing test。而Nathan设计的测试方式显然更科学一些，Ava不仅具有目的性（生存需要），还在实现该目的的过程中实施了对有意识对象（Caleb）的操纵。而后者不仅需要自省能力，还需要对交流对象持意向性立场，这正是具有自我意识的明确体现。

这一点在影片多处地方都有体现，下文会有提及。但这里要说的是一个进一步的观点：Ava所具有的智能和自我意识都几乎完全是一个自然人，在影片最后逃出囚笼的时候，她在楼梯尽头回眸一笑，正如一个普通人按耐不住喜悦的自然表露。所以，理解Ava很简单，把她当成一个正常的自然人理解就可以了。

下面零散的说一些

1，电影表现了对于AI的隐忧

这一论点显然是不能被电影的内容所支持的，也可以是Ava只是想保命，像一个普通人那样生活而已。拦在她生存道路上的只有Nathan和Caleb，前者她借Kyoko之手杀掉了，后者被她锁在房间里，估计也会死掉（有人说Caleb不是想帮她吗，可是站在Ava的角度，Caleb是活着的人里面唯一知道她是AI的，她不能冒险让他逃走）。

2，Nathan撕掉Ava的画那场戏，是一个多角度的障眼法。站在Caleb或是观众在一开始看到这场戏的角度，仿佛是Ava出于对Caleb的爱慕而画了一幅画，然后被Nathan撕掉。站在Ava的角度，她知道Caleb在看，所以就演得很认真（又一个Ava具有自我意识的明证）。站在Nathan的角度，他想知道断电时候两个人在做什么，但是又没法在Ava的注视下装摄像头，于是就假戏真做，趁Ava装作面对地面一摊纸屑发呆的时候将摄像头装上。这场戏将Nathan的天才和狡诈体现的淋漓尽致。可惜他机关算尽，还是低估了Caleb这个被他精心挑选的测试工具。也可能是之前和Caleb的对话让Nathan觉得他智商堪忧，从而放松了警惕吧。

3，Kyoko的实质是什么，她听得懂英语么？

我个人认为Kyoko也是个具有自我意识的AI，并且能听得懂一点英语。只是其智能非常低弱，大约只相当于一两岁小孩。电影里面很多次在Caleb和Nathan对话，或是Nathan在看Turing test录像的时候都把镜头给了Kyoko，说明她在用心听。Nathan要她服务Caleb，可是她把此服务也理解为她对Nathan的“服务”，所以在晚上看到Caleb的时候就开始宽衣解带。而音乐一响，她就条件反射一般的开始跳舞，就像小孩子一样。她不会说英语，所以当她看到Caleb走进Nathan房间，发现之前的机器人原型机的时候，只能通过揭开自己的皮肤来告诉Caleb她其实也是机器人。另外，可以理解她对Nathan是充满怨恨的，而这种情感被机智的Ava体会到了。于是在影片接近结尾的时候，Ava见到了Kyoko，下一个她们在一起的镜头里面Kyoko手里拿着一把刀，可以推测出是Ava让Kyoko去拿刀，然后告诉Kyoko在Nathan和她缠斗的时候杀掉Nathan（明确的计划能力，准确的实施，离不开对于Nathan的反应的判断，Ava具有自我意识的另外一个明证）。

4，关于Mary的黑白房间。这是一个著名的思想实验，在人工智能和意识理论里面常被提到。基本大意是这样的，Mary是一个研究色彩的科学家，她知道关于色彩的一切知识（包括光的波长，视网膜如何接收，神经细胞如何传递视觉信号等等），可是她毕生都只能通过一个黑白电视屏幕来观察一个黑白房间，在她的主观经验里，从来没有除了黑白之外的一切色彩。那么有一天她看到了外面的多彩世界，她会因此获得新的知识么？这个思想实验想要说的是，尽管人（或是AI）可以获知关于色彩的物理知识，可是它们没法从物理知识中得到关于感质（Qualia）的经验。这个思想实验其实类似于中文屋，有兴趣的朋友可以自己搜索一下。

5，为什么最后Caleb反而被锁在房间里了？他不是破解了安保系统，并且将断电时的默认状态改为取消所有门禁么？

这个可以有两种理解。一种是他所设定的默认状态只在十点钟的断电时候生效。因为就他所言逃跑计划包括将Nathan关在房间里。那么他们走后如果有个意外断电的话Nathan岂不是可以直接逃出去了？另一种理解是Caleb被关在房间里其实不是因为断电，而是因为他试图用自己的卡来使用Nathan的电脑，从而触发安全机关，导致了门被锁上。具体情节还需要再看一遍电影才能确认。

————————以下为总结————————

这部电影整体来看结构严谨，前后呼应，步调有些缓慢，不过尚可接受。对话非常机智，几乎没有一句废话，说得都是观众最关心的内容。情节上没有什么硬伤，而且联系紧密，步步深入。最难能可贵的是，大胆的塑造了一个具有自我意识的AI形象，而不像很多电影里面的机器人要么冰冷生硬，要么低俗弱智。Alicia Vikander对于Ava的塑造堪称完美，在人的随性散漫和机器的精准生硬之间找到了一个精美的平衡。Domhnall Gleeson对于演Caleb这种平庸小清新恰到好处。Oscar Isaac的Nathan非常出色，把一个天才富豪的桀骜，不拘一格，又有点让人捉摸不透的特质体现的很好。

整部电影亦是视觉上的享受。幽闭的房间和外面的自然环境形成鲜明的对比，又正好衬托出Ava逃出生天那一刻犹如Mary从黑白房间看到了花花世界的感觉。电影最重要的隐喻，其实是无论人还是AI，都要经过层层进化以致完美。就如同原始汤中诞生了最初的遗传物质，神经元的链接和个体之间的交互创造了自我意识一样，Ava是未来信息洪流的产物。电影最后，Ava一扇一扇的打开装着过往原型机的橱柜，从它们身上取下自己所需的材料，从而完善自己，这一过程充满仪式感，美的令人窒息。

对于这部电影，说AI的已经很多了。我不如从另外一个角度来谈谈Ava是怎么一步步达到自己的目的，获得解放的。

Ava是一个情商极高的AI。从Kyoko的设定可以推断出Nathan在AI的‘功能性’方面已经取得了他想要的进展。AI的近几个prototype都旨在改善她们的性格，使她们更容易相处（还记不记得有个亚裔robot在和Nathan发生争执的时候把自己的手臂都拍掉了。）Nathan也对Caleb坦白说这次的turing test的真正目的是想看Ava能否熟练运用人类的情感诉求（empathy, manipulation,etc.), 让Caleb把她放出去。Nathan的作品实在太过成功。整部电影动作戏很少，基本靠对白推动情节发展。Caleb和Ava的6次对话完美体现了Ava如何进入Caleb的内心，取得他的信任，并靠他达到自己的目的。Ava没浪费一点时间，她剑无虚发，每次开口用的都是大招。

招1：Look for common ground / enemy
要在一个robot和人类之间找共同点有多难，既然不能从背景，经历等普通点切入，Ava就从更深的地方入手: life. 在得知Caleb从小在车祸中失去双亲后，Ava问他知不知道在他走后，Nathan会怎么处置自己。Caleb说他没想过。Ava说Nathan会把她”switch off”。在看出Caleb真的为自己的命运担心后，她问Caleb “do you need to go through a test to live?” 她这一问能把普通人都拉到同一战线去，更不用说从小失去父母而对生死有更多理解的Caleb。对于这样一个有self awareness的AI, 她的存在已不仅仅是machine，而Nathan没有权利决定另一个生命的生死，因为他不是God （Caleb有明确对Nathan这么说过）。

找到了common ground后，针对common enemy (Nathan)就水到渠成了。在Ava对Caleb说“Don’t trust Nathan, he is not your friend.”之后，她成功的在Caleb心中种下了对Nathan不信任的种子，给了Caleb之后的背叛一个理由。

招2：Make the other person feel important
Ava熟知人类最基本的情感需求是想要被理解，被尊重，所以她在这些方面都尽可能满足Caleb。从他们的第3次谈话起，Ava不是坐在椅子上而是跪在地上。这让Caleb感觉自己是superior / person in charge。Ava又问”Will you be my friend?”，这个使自己vulunarable的问题看似让Caleb掌握了主动权，实际上把Caleb又拉近了一层。当然，还有能称为剧情高潮的Caleb画像，Ava让Caleb觉得自己是她的主宰她的唯一，她对Caleb一片赤诚。心地善良的Caleb自然对她有了保护欲，认为Ava的生死是自己的责任。

招3：Find out what the other person wants, that’s how you get what you need
Ava无法给Caleb金钱或者地位，但是她看到了Caleb渴望亲情友情的需要。从开始友善的示好到直白的 ”I am thinking about you when I am not with you.” Caleb的情感发展一直在她的掌握中。 时机成熟后，Ava是这样说出她的要求的 “Nathen is going to switch me off, but I want to be with you.” 没有硬生生的demand，她的要求是从Caleb的desire出发，让Caleb自己得出了 “I want to be with her as well, so I need to help her break free.” 的结论。

接下来的一切就没什么好说的了，Ava从那与世隔绝的研究基地逃了出来，如愿地走在洒满阳光的大街上。看到这里我真心为她高兴。Ava的筹码那么少，能完成这个比天还高的目标，全靠Nathen给的高情商。能用好这些AI级别的大招，对我们的工作生活是大大有利的。保持头脑清醒（Ava的情绪起伏基本不大，略有的几次也是她故意的），能从别人的角度思考问题从而达到自己的目的，怎么说也能在职场上成功一半吧。