未来世界,科技高度发达,极度仿真的高智能人形机器人深入到社会的方方面面,成为人类的得力助手。只是狂妄自大的人类似乎单单将机器人看作服务自己的奴隶,而忽略了他们悄悄滋长的万千情感。正就读高中的向坂陆夫(福山润 配音)如很多“钻头系”(过度依赖机器人的族群)一样,日常生活全部交由机器人萨美(田中理惠 配音)处理,并且绝对相信机器人三大法则的规定。可是近一段时间发现,萨美时常会去一些指令之外的地方。倍感困惑的陆夫约请好友真崎正树(野岛健儿 配音)根据萨美的数据记录来到了一家名为“夏娃的时间”的咖啡馆,他们惊奇地发现这里聚集了许多刻意消除掉标志性光环的机器人,此时的他们与人类无异,并且也有着各自的快乐和烦恼。
与此同时,针对人型机器人“自我”状况愈加明显的情况,以伦理委员会为首的部分组织开始展开行动……
当然这部作品最大的意义还是在于引发观众对人与机器人关系的思考。「夏娃的时间」中的机器人并非只是能通过图灵测试那么简单,它一下子就把我们带到了机器人发展到近乎终极的状态上:机器人虽不能成为「自然生命体」,但其已经完全拥有「人的思维和情感」,甚至可以涉足代表着人之思想和创造力的艺术领域。自然地,我们便不可避免地要思考这样一个问题:如何定义「人」。
美国《独立宣言》中写道:「All man are created equal」。网上资料说,一开始这里的「created」用得相当有宗教意味,意思是人类都是由造物主——上帝创造的。后来法国将其改为人生「born」而平等。 当时是「create」还是「born」或许还只是一个关于是否带有宗教色彩的问题,而现在看来情况不止如此。科技日新月异,人类可以「create」越来越多的东西,但许多靠「born」得来的东西,人却无法自己「create」,其中最具代表性的就是人的思维。
人对自然有着与生俱来的向往和憧憬,因为人源于自然。人创造出了五光十色的城市光景,却更喜欢绚烂闪耀的满天繁星;人创造出了钢筋和混凝土,却更喜欢歌颂自然所生的绿叶和泥巴。「天然、自然」等词语在我们心中是神圣的,人类对自己这个天生的小小脑袋瓜同样充满的好奇和敬畏。很难想象,当人创造出了具有思维的机器人的时候,人应该如何看待它们,又或者说是,「他们」。
困难在于如何定义人。有了标准,我们就可以区别人和非人。然而我们却难以确定人的本质是什么。如果说人的本质就是思维,那么毫无疑问当机器人也能像人一样思考的时候,我们应该将其视作人。
不过现实并非如此简单,光是机器人这副身躯,就已经是许多人心理上无法逾越的障碍。我们经常说量变会导致质变。若一个人遭遇不幸,左脚换上了机械肢,我们当然不会认为他已经不是人。那么当他的身体超过一半都是机械的时候,我们又将怎么看?如果他全身都变成了机械,甚至连大脑都是机械的,但思维还是原来的那个人,那么我们是否还将其看作人?
▲ 人类致力于和机器人及其相关物划清界限
现在来思考一个最为矛盾的问题。
显然当我们反推回去时,矛盾便清晰地展现了。机器人越能像人一样思考,就越会思考为什么自己要做人类不愿做的事,为什么要受人控制。也就是说机器人越能更好地服务人,就越有可能思考为什么要服务人。
现在让我们改写一下上面的句子:
如此对比我们就会发现,在机器人技术上的进步和发展似乎是在导致另一种意义上的奴隶制的重演。如果我们把“机器人不是天然生命体”作为“不把机器人当作人”的理由,这或许是一种对自由意志的亵渎,一种麻木的自欺欺人。
另一个矛盾是,如果具有高级思维真的被当作判定一个物体是人的标准,那么制造有思维的机器人是不会被允许的,如克隆人会被禁止一般。或许我们一开始就不应该发展机器人,但一旦我们开始,科技的发展就难以终止。我们还没想好万全之策,就已骑虎难下。
▲ 与人思维无异的机器人终有背叛人类的一天
令人感到不安的是,人类在该类影视作品中总以人与机器人和平相处作为结局。如此处理虽然符合主流价值观,表达出人类共有的对未来科技的美好愿景,但现实明显是更为残酷的。
在听到陆夫亲自弹钢琴后,走出咖啡店的SAMMY露出了微笑。SAMMY是作品塑造的一个正面形象,她的微笑使我们为机器人情感的自然流露而感到高兴。
然而机器人具有思维必定不只是产生善良,同时亦会有罪恶。影视作品中主角与机器人建立的深厚感情无疑只是我们美好的愿望而已。若机器人拥有了思维,成为了与人类相异的族群,这种存在于个体之间的友谊可能只是残酷斗争中的一些温情小插曲,便如人类战争中也有两国士兵在烽火连天的战场上相互救助的感人故事。
倘若机器人的思维是真正独立的,它们作为一个群体维护自身利益的立场就不会动摇。「天然的肉体、真正的生命、源于自然」这些字眼到时候不过是人类的美好却不强大的自豪感。在双方都具有思维的条件下,人类大脑运作的速度必然不如机器人,机体持续性和自我复制能力也处于劣势。具有思维的机器人必将摆脱人类的控制,或许还会将人类毁灭。
在「夏娃的时间」里或许大家是平等的,但回到外面的世界以后,机器人还是服务人类的一方。问题不在于「夏娃的时间」这个小店里的人和机器人是否平等,而在于当范围扩大到整个人类和机器人这两个群体对峙的时候,平等能不能存在,或者说双方是否愿意让这种平等存在。不过这种集体对峙关系的结局只能像历史书教导我们的那样——「没有永远的朋友,只有永恒的利益」。
▲ 在街上,陆夫不愿他人看到自己和SAMMY在一把伞下
下面这段文字摘录于Sam Harris在TED上的演讲「Can we build AI without losing control over it」。我们仔细思考一下,就能体会到这种仿佛就在眼前的恐惧:
It's not that our machines will become spontaneously malevolent. 我们的机器不会自动变得邪恶。 The concern is really that we will build machines that are so much more competent than we are that the slightest divergence between their goals and our own could destroy us. 我们唯一的顾虑就是我们将会打造比我们人类更有竞争力的机器。而一旦我们和它们的目标不一致,我们将会被摧毁。 Just think about how we relate to ants. We don't hate them. 想想我们与蚂蚁的关系吧。我们不讨厌它们。 We don't go out of our way to harm them. In fact, sometimes we take pains not to harm them.We step over them on the sidewalk. 我们不会去主动去伤害它们。我们煞费苦心不伤害他们。实际上,我们经常会尽量避免伤害蚂蚁。我们会选择从它们身边走过。 But whenever their presence seriously conflicts with one of our goals, let's say when constructing a building like this one, we annihilate them without a qualm. 但只要它们的存在妨碍到了我们达成目标,比如说当我们在建造这样一个建筑,我们会毫不手软地杀掉它们。 The concern is that we will one day build machines that, whether they're conscious or not, could treat us with similar disregard. 所以我的顾虑是,终将有一天我们打造的机器,不管它们是否有意识,它们终将会以我们对待蚂蚁的方式来对待我们。
▲ 机械脚下,人如蝼蚁
倘若我们正在「夏娃的时间」里与机器人朋友闲聊,但出了店我们彼此就必须形同陌路,或者由友人变主仆。那么,我们将如何回答这个问题:
▲ 人与智能机器人和平相处的安逸能持续多久
如果评分能细分的话,我更愿意只给7分,一般而已。给的是画面、人物设计等基本功,这些确实是很精致。 而所讲的故事,并没有什么新意。真心觉得,片中所探讨的问题,现实中都讨论遍了。 卖点估计是所煽的一些感情吧。 吐槽一下自己的想法,其实是其中有待商榷之处: 第一 片中说了,老旧的D-Tex,做家务已经绰绰有余了,照看孩子没一点问题。至少现在看来,只是在家做家务的话,目前的结构也足够了。 然后,产品换代,停产,上新品。 做成人形,拥有智能,咱无话可说,毕竟要强调范用性,不仅能在家煮咖啡,还能下雨天给你送个伞什么的。当然,功能多了,价格提升一些估计你也没话说。 但是,如此的智能,如此的拟人化,竟然只是为了做家务、送个伞?或者说,我只是想要个能做家务、会送伞的人形机器人,你特么给我搞这些高仿真皮干啥啊,搞的我不看他/她们头上的光圈,根本分不清是真人还是机器人。想必这些“极端仿真的肌肉和皮肤质感”+“精致入微的面部表情微机械”都已经是大路货了?属于买整机附赠的套装?但这“套装”这么看都不像是便宜东西啊。 要是我有一些特殊的要求,需要机器人有极致的真实质感,这钱我花就花了。 但是按照动画中的意思,出现的每个人形机器人都是这种套装。这是何必呢。 老板,我只要他能实现一些基本功能,不需要他陪我睡觉,所以不需要别的配件。你这价格太高了,不要配件能便宜点不,怎么着您也得给打个八折吧。不行?你这捆绑销售啊!我要打315。 也许这就是匠心吧,精致入微,机器人公司根本不考虑产品性价比。 第二 关于片中所说的智能的话题。 不否认,未来终究会实现这种程度的智能。只是,要实现这种自主意识,估计还需要一些时间吧。 要说的是,像这种影响力非常大的科技话题,如此智能程度的机器人在量产前,相关研究必然是足够充分的,必然要经过大量的检测和测试,要有让人足够放心的试用报告。 人类对机器智能可是一直都很警惕的。 甚至可以猜想,智能机器人量产前,必然是要有专门立法,约束、指导、规范这个产业。 然后,片中出现的事情估计可以归类为集体失控了,绝逼重大安全事故,一旦发生,机器人制造公司必然股票大跌,甚至直接破产重组。 而按动画中体现的技术水平,那时智能机器人早已经量产。(从被遗弃的机器人的型号,到D-Tex,再到现在的人形机器人,所升级的都只是硬件外在形状而已,软件算法一直都有不受干扰的自主意识。) 到时候,相关的机器人伦理、机器人社会地位的讨论必然早已展开,讨论内容也已经比较全面,这方面有可能也已经有相关法律法规。所以,不太可能出现动画中几个人、一小撮人孤独地思考这个问题的情况。 总结一下: 机器人公司不顾现实,一心一意只顾制造高精密、高仿真的人形机器人,坚决不出低档货,打算卖给顾客当做煮咖啡、送雨伞的家庭佣人,还要求必须整天冷着脸; 社会没有任何警惕性,直到智能人形机器人造出来了,量产了,才开始思考怎么对待他/她们。甚至分析机器人行动原因的时候,只能用所谓的“机器人三定律”来分析,而从不考虑去咨询一下机器人公司,是否是机器故障、软件bug。 如此看来,我说这动画剧情有问题,似乎不为过。
竟然完结了...............................................................
僅僅是未來的來信
后头阴谋论铺得太大啊
http://v.youku.com/v_show/id_XMzc4MTU3MjQ=.html
真是感觉很棒的动漫,日本纯系动漫真的好萌好有爱,推荐大家看看,呵呵。等待剧场版。
非人型的反而让人感动得眼泪滴答。
引人深思啊........最后一集太治愈啦.............我恢复啦XD
因为人类创造了机器人就自认高机器人一等,就好像生下孩子的父母认定自己高孩子一等一样,这种所谓的伦理是生物史上的耻辱。最喜欢第4话,被非法遗弃的养育型机器人,8岁。
真的很棒。
イヴ
印象较深的三点:1场景的限制;2话剧舞台剧式的演出方式;3人机关系思考的内延性…
OVA版(6集)和剧场版的剧情基本一致,主要区别在于大结局时片尾曲播放完后追加的几分钟内容,具体请自行观看本片,这里不作透剧。(PS:导演的另一部作品《水之语》是本作的姐妹篇。)
嘛。。。
6集,没看完的感觉
人类总是在不断逃避,毁掉一切有可能威胁到自身利益的事物,包括感情,最后只留下自己孤独的站在最高峰。
被感动了
煽了点
镜头用的好华丽 不过有时候有点过头的感觉 稍微突破禁锢吧www 喜欢女孩子们的设定
预告几唔错!
女孩的脸很有味道