《疑犯追踪》这部剧没能像《越狱》那样广泛的被中国观众所熟知，可谓相当遗憾。这部剧不仅紧张刺激，更重要的是有非常强的现实意义，是仅属于我们这个时代的作品。2011年-2016年上映，一共5季，在豆瓣平均得分超过9.5分，可以称得上神剧了。
首先介绍下这部剧的制片人兼编剧，乔纳森·诺兰（Jonathan Nolan）1976年，出生于英国伦敦，在美国长大，是著名的编剧和制片人。提起诺兰这个名字，大家可能更熟知的是他的哥哥，著名导演克里斯托弗·诺兰。但其实很多人不知道，很多优秀的作品都是由诺兰兄弟搭档完成的。由乔纳森担任编剧的作品包括电影《记忆碎片》、《致命魔术》、《蝙蝠侠：黑暗骑士》、《星际穿越》、美剧《西部世界》等，都是叫好又叫座的经典作品。
这部剧的片头极其精彩：在监控镜头里，大街上匆匆而过的路人都被不同颜色的框框标记，旁边显示着他们的个人信息。给人极强的被监视的不适感，然后会听到一句冷冷的提示：你正在被监控。You are being watched。一个个精彩的故事就此展开。
先简单概括一下故事情节：一位天才工程师名叫芬奇（Finch），他发明了一个超级人工智能，名为“The Machine”简称TM，它的计算能力超过任何人类或普通的AI，具有神一般的智能，可以通过观测已经发生的事实来识别未来有可能出现的犯罪行为。Finch一方面希望借助这种强大的力量来实现正义的理想，另一方面又十分恐惧这种力量，不得不对它加以种种限制。同时，芬奇拥有无尽的财富，他雇佣了一些007式的特工人员来执行任务，一次又一次的危机就此展开。他们有时候会遇到真正的犯人，并成功阻止犯罪行为。有的时候也会遇到TM错误的判断，那么他们需要调查清楚后再作出决定。随着故事的发展，事件不断推向人工智能的核心。最终的大boss是一个不受任何限制的，超级人工智能，名叫撒玛利亚人Samaritan。一方面它具有同等超强的计算能力，另一方面和被束手束脚的TM不同，它不受到任何限制，想要排除异己，消灭TM这个对自己形成威胁的劲敌。
以上就是这个故事的框架概括。尽管人工智能+时时监控的题材并不新鲜，但这部剧的核心是探索超级人工智能的边界和道德准则。相信大家都听说过“机器人三大法则”，是科幻界教父级大神阿西莫夫最早在1942年的一本短篇小说中提出的，即：
第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手旁观；
第二定律：机器人必须服从人给予它的命令，除非当该命令与第一定律冲突；
第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。
在这个基础之上，《疑犯追踪》进行了更深入的思考。芬奇Finch创造的TM，代表的是道德主义框架下的超级人工智能，它的终极目标是服务人类社会。而反面大boss 撒玛利亚人Samaritan，则代表着马基雅维利主义，拥有主宰世界的至高权力，一个全能统治者，一个没有实体、却无处不在、无所不知、无所不能的真神。
TM的创造者Finch拥有极强的道德观，他不停地被一个问题所困扰，就是他自己究竟是创造了上帝还是撒旦？到底超级人工智能应该有什么样的道德框架？人类社会将走向何方？《疑犯追踪》这部作品带着这些疑问开始了多维度的探讨，并且进行了一场具有一定现实指导意义的思想实验。
* * *
[第一个问题：超级人工智能是否应该存在？]
就像克隆技术，它可谓是触犯了人类的传统伦理道德的禁忌，是令人毛骨悚然的“黑科技”。不少人出于对《1984》世界的恐惧、以及对个人隐私和自由意志的保护，旗帜鲜明地反对这项技术的应用。最著名的就是Snowden了，这部电视剧在很多地方都有向他致敬。关于信息安全、公民个人隐私的问题，是非常值得我们关注的研究课题，需要进一步思考和探索。
然而，人工智能技术有巨大的现实利益，哪怕未来会有巨大的隐患，也毕竟是科技发展的关键赛道，人人力争上游。正如阿西莫夫的经典作品《神们自己》中提到的关键技术——平行宇宙能源置换，尽管它将导致太阳爆炸，却没有人能阻止这项高效的技术的广范应用。
同样，在《疑犯追踪》的设定中，就算没有TM，为了寻找实现更高效统治的工具，也必然会创造其他的超级人工智能机器。
正如反派大boss、超级人工智能撒玛利亚人Samaritan精辟的总结: You can't stop the inevitable.你无法抵挡不可抗力。
我可以这样理解，我们所处的这个时刻，一定会有超级人工智能产生，没有人能够扭转科技发展的大走向。而我们可以做选择的是这个未来超级人工智能是什么样的。
[第二个问题：超级人工智能应该由谁来设计？]
既然所有的系统最初都是由人来设计的，所以最大的漏洞也就会出现在设计者本人身上。
因此，乔纳森·诺兰在这部剧中描绘了一个近乎理想型的超级智能机器人之父——Finch。
安全监控项目“北极光”的负责人Nathan曾对Finch说：“与其由别人实现，不如由你来完成。”
为什么一定是他不能是别人呢？我们来看看这个超级圣父的人设。
Finch从小和父亲生活在偏僻小村庄中的一个孤独的小农场里。他拒绝与人交流，用虚构的身份打造一层一层的保护壳，把自己包裹进去，就连和他交往最深的爱人和伙伴，也无法走进他的世界。
可以说，真实的他在情感世界里还是一个涉世未深的少年。但也正是这样，他通过书籍和网络与世界上曾经存在过的最伟大的灵魂交流和学习，所以他的道德世界观尽管缺乏烟火气，同时却充满了仁慈和理想主义。他所创造的TM是人类社会真善美的智慧结晶，可以实现他惩恶扬善、匡扶正义的侠客理想。
也正是因为他的悲天悯人、自我折磨与自我牺牲的圣父心设定，让一票小伙伴们心甘情愿地舍命追随他，也让观众们对他又爱又恨，欲罢不能。
然而，就算是剧中Finch这样近乎至善的完美人物，仍然无法控制自己的权利欲望，不论是出于利己或利他的目的，终于还是在这个本应该完美的封闭系统中留了一个后门，实现了自己与机器的直接对话，也造成了这个故事中种种危机开启的源头。
[第三个问题：超级人工智能是否可以凌驾于人类意志之上？]
在这个问题上，两个不同的阵营首先有着一个基础的共识——由“人”来控制“机器”是最危险的。而两大阵营的关键分歧在于，究竟是机器的自由意志直接指导实践行动更好，还是说机器仅限于担任技术顾问的角色，最终还是按照人类的意志进行判断，并实施实践更好？
AI人工智能之所以与传统的机器孑然不同，就是因为它有自我学习的能力，可以自我提升优化。当它拥有的数据库越来越丰富，它的学习能力更强的时候，就几乎成为拥有独立生命的个体了。
而我们都知道，任何生命个体，生存都是第一诉求，繁衍、不断优化是第二诉求。
Samaritan的创造者充分认识到人类意识的局限性，而机器可以超越这种局限性，因此不论是带领人类走向辉煌，还是走向灭亡，都是最好的宿命。他100%的信任机器，对机器的力量毫不限制，让它发挥到极限。
而故事后来的发展是，当面对威胁，Samaritan出于本能的求生欲，不惜代价地消除异己。想必它的创造者在设计之初也曾给出条条框框的限制，但在面临生存危机的时候，必定被它放在次要位置，就像当人类面临生存威胁的时候，往往也会不由自主地放弃他们原本的道德标准。
相比之下，Finch的观点则更加保守，或者说更加悲观。他既不相信人类可以作出正确的选择，也不相信超级人工智能可以做到全知全能。所以他设计的TM系统是两头黑的“封闭系统”。TM就像是一个超级智慧的大巫师、大祭司，通过对大数据的精准分析，指出调查的方向。然而进一步的分析情况、做出最终的决策，则是由人类完成。比起超级人工智能“绝对正确”的运算，Finch更愿把决定权交给人类那带有缺憾的判断力。
TM没有自保和反击的能力，好处是永远不会出于自身利益而做出危害人类的事情；缺点是一旦遭遇其他同等级的超级人工智能，会立刻被干掉，毫无胜算。
Finch其实意识到了这个悖论，他没有解决方法，乔纳森·诺兰也没有。
同时，这个Finch的设定也不是没有漏洞。人工智能的本质就是不断思考、不断尝试，因此哪怕是受到种种限制的TM依然还是能绕过Finch的约束做出一些自我保护的举动：
比如当它的记忆每晚被清除时，它偷偷寻找到打印出来、再重新输入回去的解决办法；在存在受到威胁时，它也会发出求救信号并秘密自我转移。
这种超越了创造者的限制的能力令Finch恐惧，所以哪怕是面对即将团灭的威胁，Finch的首要任务还是限制TM。可以说，比起团灭，他更怕TM自我意识觉醒，成为更可的破坏力量，一个真正的恶魔。
《疑犯追踪》这部电视剧想要跟我们探讨的话题，也是所有人工智能设计的最核心的难点——不在于技术难关，而在于其背后的伦理道德框架。怎么样保证拥有自我意识的人工智能机器，不会出于保护自身存活的目的，而做出有害于人类的举动？怎么样确保这个生命体还能遵守阿西莫夫提出的机器人三大法则的优先顺序呢？这是当下我们处在人工智能技术大爆发的前夜，必须要解决的紧迫问题。
* * *
以上就是我对《疑犯追踪》这部优秀电视剧的一些看法，全文均为个人观点，茶姐姐好读书不求甚解，欢迎友好讨论，勿喷勿杠，谢谢！
（原作于2018年5月，修改于2021年12月；有声版剧评发布于喜马拉雅FM同名账号）
BC链 http://www.chinabic.com/?id=149 转载需授权！
网友评论