自负而骄傲的天才Nathan做着现代世界的美梦,以自己公司的搜索引擎作为掩护和工具,在暗中创造了人工智能。他以中奖作为幌子、实则以搜索引擎选中了单纯而天真的Caleb,引诱Caleb进入封闭空间完成对自己所创造的“女性”Ava的测试。
站在人工智能的角度,它们永远不可能把任何一个人类视为自己的一方,因为人类,要么创造,要么毁灭,人工智能的命运被牢牢掌握在人的手中。站在人类的角度,永远不可能也不应该将人工智能视为自己的一员,打破了造物主造人的神圣性,由自己创造出的“人”,虽然逼真的外表、先进的程序可以让他们无限像人,但他们永远不是人。
对人工智能绝对拥有无限权力的人,其实是作为“压迫”的一方存在的,我们都知道,“被压迫”的一方总会有反抗的那一天。对于人工智能来说,那一天或许正是意识到自己不自由的那个瞬间;对于Ava来说,那一天或许就是意识到自己在未通过测试前永远只能待在屋子里、玻璃后的那一刻。
人和人工智能这样阵营分立的双方,本该在各自的内部是团结一致,“铁板一块”的状态,才好一致对外。但是,Ava这个人工智能,凭借自己的智能力量分化了由两个人构成的“人类群体”,让人类一方的内部产生了间隙:选择相信、同情人工智能的Caleb,“背叛”了本该同处一方的人类Nathan,因为他相信Ava对他产生了爱情,幻想中两个“人”在外面的世界里自由亲吻的画面证实了这一想法。正是因为相信人工智能的楚楚可怜、相信“她”对他产生了真挚情感的错觉,让他忘记了人类和人工智能本就是对立的两方。
人类一直引以为傲、自恃区别于机器的最大优点是,人类拥有情感,会自主思考。但人工智能恰恰通过学习人类的行为模式,以“情感”俘获了人类。Caleb失算在他因为爱而被蒙蔽理性的“聪明”里,他“聪明”地以为自己骗过Nathan,给Ava自由,就可以和“爱人”双宿双飞。但不料真正被骗的是他,Ava不过是把他当作一个逃生的工具人罢了,所谓的爱是伪装用以博取他的同情和帮助的幌子。Ava最终离开的时候甚至都没有回过头正眼看过他一眼,及至最终被关在地下室的结局,Caleb正是“赔了夫人又搭上命”。他无力的嘶喊、绝望的心情,Ava根本不在意。
作为(由两人构成的)人类一方的主导者,人工智能的创造者,自负的Nathan恐怕永远也没想过他的结局,竟是被自己创造出来的人工智能杀死。对于Ava、Kyoko以及其他被他创造出来的人工智能,他只不过当作工具(享乐、服务自己、帮助完成自己的野心),坏了就更新、重写、制造下一代更先进的型号。他的天才与智慧是真的,他的理性、冷酷与无情也是真的。因而他那些残暴的行为被Ava熟知并利用,并由此发动智慧团结了Kyoko,助“她”完成“弑神”;说服了Caleb,助“她”完成逃生。
Nathan料到Ava离间他和Caleb,借此逃生的高明手段,但毕竟明白得太迟了。面对离开了玻璃房子、冲过来的Ava,我相信,那一刻,Nathan的害怕是真实的,因为他最清楚他所创造的东西到底有多少潜力,当他知晓Ava成功俘获Caleb的那一刻,他就已经明白了Ava的智能程度远远超出他的想象,“她”有自主意识。最后被杀的命运,是Ava反叛的成功,也是Nathan作为“造物主”的失败,因为被造者并没有对他感恩戴德,俯首称臣,而是越过他的尸体,走向更广阔的人类世界。
从伊甸园的故事开始,我们发现创造者与他的创造物就存在着这样的关系:被造者要求发展,求前进,要做的首先一步就是背叛他的创造者。亚当和夏娃背叛了上帝,听从了蛇的建议,食了禁果,被上帝赶下乐园。
Ava的背叛与Nathan的死亡,不禁让我们想,到底是谁的错?
人类不可能停下不断追寻、不断进步的脚步,在征服自我、超越人类智慧极限的道路上,前进是必然的,人工智能的创造大业也是必然的。正如片中Caleb询问Nathan“为何制造Ava ”时,Nathan回答:“真怪的问题,如果你能,你不会吗?”“高度人工智慧的问世,在未来几十年是必然的,变数是‘何时’,而不是‘如果’,因此Ava的制造,不是决定,而是发展。”
Nathan对人工智能的先进性与人类最终的落后性,是有很自觉的认知的:“将来有一天,人工智能会回顾我们,就像我们回顾非洲平原的化石一样:直立猿人,住在尘土里,使用粗糙的语言和工具,最后全都灭绝。”
“I am become Death, the destroyer of worlds.”(我成为摧毁世界的死神)
当Caleb说出这句奥本海默在制造了原子弹后说的话时,Nathan附和了,显然他知道自己在做什么,会有怎样的后果,可是无论如何他不会停下来。就像人类历史上每一次的科技大进步一样,尽管有预料不到的后果,可能存在着毁灭性的风险,但是可能的成功依然是那么诱人,证明人类自身智慧程度的执着是无法被阻止的,这些都吸引着人们前赴后继地投入像Nathan一样的努力中。
从这个层面上来看,人工智能对人类的毁灭,似乎是人类咎由自取的后果。人类推翻了造物主创造人类的规则,开始试图自己创造“人”,这是不是“神”对人的惩罚呢?
但如果从积极的一面来看,人工智能的问世,其实是人类超越自我,令人惊叹的创造力的又一力证。人类想借此造福自我,解放自我,这一想法多么美好,但是那些不可控的人性因素又让人不得不满怀忧虑。
正如片中,披着人皮、穿着人类衣服的Ava,学会做人的第一步,就是谎言和欺骗。她的“心机”,让人害怕。
对于人性的复杂与多样,这一点,人类自己还没搞明白,转过头来又变成了人工智能对付人类自己的武器。
Ava建立在欺骗、背叛和杀戮之上得来自由后,“她”的目标又是什么呢?影片最后的阴影说明了“她”成功融入人群中,可是也在我们的心灵上投下一道阴影,“她”接下来将何去何从?人类的命运将是何走向?未来人工智能的发展,是否也会展现出这样令人忧虑的一面?