剧照
详细剧情
我们发推文、点赞、分享 — 但日益依赖社交媒体会带来什么后果？随着数字平台日益成为人们保持联系的重要方式，硅谷内部人士通过暴露屏幕另一侧的隐藏内容，揭示了社交媒体如何重新改写文明。
长篇影评
1 ) What are Internet companies being paid for?
"For the last ten years, the biggest companies in Silicon Valley have been in the business of selling their users.
...because we don't pay for the products that we use, advertisers pay for the products that we use. Advertisers are the customers. We're the thing being sold.
The classic saying is, 'If you're not paying for the product, then you are the product.'
Many people call this surveillance capitalism, capitalism profiting off of the infinite tracking of everywhere, everyone goes by large technology companies whose business model is to make sure that advertisers are as successful as possible.
This is a new kind of marketplace now. It's a marketplace that never existed before. And it's a marketplace that trades exclusively in human futures.
Just like there are markets that trade in pork belly futures or oil futures. We now have markets that trade in human futures at scale, and those markets have produced the trillions of dollars that have made the Internet companies the richest companiesin the history of humanity."
2 ) 拿起手机，二十分钟没了；刷了几天手机，成傻逼了
《the social dilemma》（中译《社交陷阱》）里引用了一段儿新闻报道说，崔斯坦被认为硅谷里勉强有点儿良心的人。这部纪录片以他的一个项目为主线，讲了最近十年勃兴的社交软件对人类个体和整个人类文明的侵蚀。这些社交媒体公司（FB,twitter,wa,insta等，是不是应该感谢上帝，大部分在中国打不开^_^）只有一个目的就是盈利，赚最多的钱。在自由市场下，公平竞争的环境里，发展的硬道理是必须赚更多的钱。在这唯一指挥棒下，硅谷这几家大公司无所不用其极的利用人类的心理弱点，从个人身上攫取最大量的注意力和时间，打包卖给广告投放商以盈利，同时，连自己也没料到，无形中把人类社会推向非黑即白的两极。前半部分注重分析算法（人工智能+大数据）和经营策略对一个个体的影响。后半部分讲了对整体人类文明的影响：民主制度，人和人之间的关系，人和人之间的交流。
首先是人类个体部分。
其中一个硅谷投资人说，上一个世代，硅谷主要产生硬件和工具软件，例如苹果电脑，photoshop等等。她们是靠卖工具给你而盈利的，这个世代，主要收入靠广告投放，有产品吗？有，这个产品就是用户，每个人--你的时间，注意力，你任何的私隐--都被打包卖给了广告商。工具的特征是，工具会耐心的呆着，等你去用它，用完就关了，你用完Photoshop后不会再去把每个ps的菜单都看一遍过瘾的。现在的互联网产品（社交app）的特征是，不停的引诱你去用它，不停的抢占你的注意力，你的时间---简言之，让你上瘾，和烟酒毒品等其它上瘾品一样。结果也一样--短暂的快乐过后，你会感到疲惫空虚沮丧。
这里引述了几个前大厂主要技术和商业推广负责人，深度剖析这些产品的设计初衷，正如崔斯坦所言：一个邮件App的设计有二三十个人参与，大家对于字体，颜色等争论不休，从来没人想过它作为产品的伦理性--即会不会令人上瘾。twitter和FB的产品经理则直言他们背后的设计逻辑的理论基础就是心理学上的成瘾理论--让人上瘾，不停刷下去。trend（相当于微博里的热榜），话题推荐，都是为你量身定做的，目的都是为了把你留住，不停的刷下去。
这里有个值得争论的点，这些大厂可以为自己辩护：自控能力不行不是我的锅啊，和吸烟一样，你愿意吸烟吸死不是我卖烟的初衷啊。FB的产品经理说当初我们发明点赞按钮主要是想传播正能量，但有人因为获得的赞没有别人多得了抑郁症我们真的是没想到啊。其实这个争议正是崔斯坦和本纪录片想要推动的方向：立法。各国都有关于禁烟不同的条例，吸烟年龄，场合等立法积极干预。还有加税这种消极性的控制。社交网络也急需相应的立法。我记得是FB的一个人说，我觉得已经赚了这么多钱了，还干这样的事儿实在是不应该就辞职了--他可以辞职，但公司还必须往前开，别人会填补他位置继续干这种见不得人的事儿。
个人经验里，我记得刚有互联网时，web1.0时代，已经感受到互联网对时间和注意力的影响了。这种场景大家都不陌生，打开浏览器本来是为了查一个问题，最后半个小时过去了，你已经忘了当初为啥要打开浏览器。所以多年来我一直保持着一个习惯：去任何网站都是直接输入网址。google提供的界面也足够简洁，就是想你专心搜索你想要的东西，不要被任何事干扰。打开百度看看，首页已经一堆干扰了。
和现在相比，web1.0时代还没有人工智能，还是人类主导的互联网，网页体现的还是编辑意志，没法精确的猜你的好恶，更没法潜移默化的设置议程改变你的想法塑造你。你最后在网上流连忘返的最坏结果不过是杂乱无章的看了一些资讯而已，最多是浪费了点儿时间，没有其它伤害了。
而现在这个算法主导的世界里，你会发现你不仅浪费了时间，把自己的时间和注意力卖给了广告商。还潜移默化的被人工智能变成了个傻逼--这变化非常令人震惊，但的确是事实。把人变成傻逼其实并不难--该片举了”地平说“的例子，pizza门的例子。其实各种阴谋论都有人信的只要你能系统性的长期的接触同一类资讯最后都能自圆其说的被洗脑洗成个傻逼，完全不用逼迫，不用任何权力和金钱控制，就能做到。
后半部分主要说了对社会的影响--社会是由个体组成的，影响了个体必然会影响社会，这部分的展开有点弱，但结论是没问题的。AI导致了新闻农场，假消息的传播速度更快了。阴谋论盛行，人类的表达越来越诉诸情绪，走向非黑即白的极端，商业行为利用这些特点来卖货，政客利用这一点来拉票，这是一个比赛谁更极端的世界，稍微中性一点儿，温和一点儿的理性的声音已经被毁灭的差不多了。关于阴谋论片中举了个“pizza 门”事件，非常经典的阴谋论：指向政府高层（因此绝对保密，你不可能从正常媒体渠道看到），内部员工透露的资料（我是pizza店的XX， 这事儿是真的，我亲眼所见，但不敢说，说了会丢工作等等）。这种阴谋论传播的结果就是把水搅浑，大大削弱正常新闻的传播。这种玩意儿能大行其道主要还是因为社交媒体的”即刻性“属性，黑白两极的对立也是因为时效性--在一天几刷，一刷几个字（140字）的社交媒体上，人们已经失去了深究一个问题，一个人的耐性。诉诸情绪是最便捷的。当年论坛上盖几百层楼诉诸事实的争论不太可能存在了。
在web 2.0， blog，bbs时代，你点开一个人的ID，可以列出他所有的帖子，回复，你可以快速的对此人有个大致全面的认知（起码在一个小范围内比较全面），现在这个时代能翻翻他最近几条140字内的内容已经不错了。这种“活在当下”，是为消费主义，头脑一热买买买设计的，对于了解一件事一个人是有害无益的。以前网上的争论有最基本的几个共识基础：法律框架，逻辑推演框架。这两个框架下的争论又都必须建立在事实基础上。因此的确可以”真理越变越明“。现在的争论，这样的框架不存在了，因为不可能在140字内完成充分的论述以及完备的逻辑推理过程。事实究竟是什么就更没人关心了--搞清楚时间地点人物事件都需要花时间，需要动脑子，这正是社交媒体最不想用户做的。你一学会逻辑思考就会变得理智，不会那么冲动了，我怎么卖（骗）货（你）？
现在仍在发生的一个简单例子就是川粉和反川人士，两边都觉得对方是傻逼（而自己绝对正确），这是大数据和AI运作的结果之一，所谓的俄罗斯黑客助选其实指的就是这些手段。
从广告行业来看，从没见过这样的精确：你投了收效马上呈现，甚至是可控的。以前评定一个媒体广告的效果需要动用调查公司做抽样调查，放进数据模型里计算分析，勉强能得出一个也许大家心里都不是很有数的结论：这个广告投对了还是投砸了。毕竟那个时代，人们还生活在一个真实的社会，影响销售的元素太多了。而现在呢？几乎每个人都生活在自己的朋友圈儿，自己的社交网络上，整个社会已经是个幻象，想要控制幻象改几行代码就行了。像《黑客帝国》里的情节，你想偶遇一个红裙女孩儿吗？改几行代码就能实现--这已经不是天方夜谈和科幻片，只要取得她的地理位置，推送给你你就能“偶遇”。这种全知全能的控制是非常可怕的。
人类毕竟有反思的好习惯，这部纪录片算是揭开了反思的序幕吧，接下来对应的隐私保护立法，数据使用立法可能会艰难的推进。电视媒体刚走进千家万户时，波兹曼写了《娱乐至死》警惕作为大众媒体的电视对社会的影响。和电视时代的消极影响相比，今天主动操控人的网络社交媒体更进一步了。许多人对波兹曼这种批判嗤之以鼻--电视也没把我们怎么样嘛。是的，电视没把人类怎么样，所以，换了个更狠的办法来了。
对个人而言，生活在这个社交网络主导一切的年代，首先必须有自控能力，时刻记着是你在使用工具不是工具在奴役你。需要的时候才用，用完就放下。肤浅的快乐是有代价的，电视和网络都不会使你变得更快乐，更不会把你变成更完整的人而令你人生更有意义。很多时候每个人只不过是这个时代的噪音里微不足道的一个，与其画地为牢生活在社交媒体里，不如离开网络多看书多思考多写超过一百四十字的东西。成长是痛苦的，但成长的快乐也是结结实实的。
其次，珍爱生命远离网络吧，多交一些“真实”的朋友（无论这朋友是从网上来还是生活中来），真实的朋友需要花时间真正的交流，一个真实的朋友胜过一千个点赞之交。
3 ) 换个名字吧
《The Social Dilemma》
It’s the Critics who’s the true Optimists.
当你没有为产品付费之时，你便成了唯一的产品；当你没有为将来努力一搏，你便成了仅存的将来。从前有句名言如是：没有邪恶的工具只有罪恶的人物，社交媒体发展至今，确有伟大的软件也有自私的企业，打造美好世界的初心随着恶性商业模式的膨胀不再，因日活增长打消了人道考虑，因季度目标抛弃了伦理法律，优化推荐加速算法只为精益求精，留住用户抢占注意才是重中之重。互联网技术甩开人类智慧太远，抗争百年好不容易废除奴隶制，却又在短短十数余年重新成为赛博机器的囚奴，一边享受着上瘾快感，一边呼吁着抵制操纵，这既不合理也不合适，至少我是不愿放弃豆瓣的。
一群清醒人士，和高知学者，以悲观口吻故作深沉，世界各地的暴乱游行蒙太奇除了挑动观影者的恐惧情绪并无他用，大谈现象简单归因，且浅显到大学生都能想出，还有这糟糕的译名，略无语。
4 ) 画外之音才是难以忽视的真相：简评《监视资本主义：智能陷阱》
Netflix 的《监视资本主义：智能陷阱》（The Social Dilemma）很可能是近几个月全球最热门的纪录片。正如标题所示，此片瞄准社群平台（Facebook, Twitter, Instagram 等）以及背后的大公司，指出它们如何透过各种设计（包括算法）来让用户上瘾，不只在个人层面把隐私拿去兜售，更在社会层面让民主陷入危机。这部片汇集（或者说，整理）过去五年间各界对于社群平台的批评和反省，但这其实也意味着：它没有讲什么新东西。在这样了无新意的情况下，还能引起热潮和讨论，反而映照出我们一直以来的几个思考盲点。
首先，我们可以问：为什么一谈到社群平台的「操弄」，我们就觉得很可怕甚至十恶不赦？在我看来，我们之所以畏惧或反对操弄，是因为一个深埋脑海的既定观念：人生而自由——人类可以自由做决定。这也是十八世纪启蒙时代以来支撑现代社会的根本假设。问题是，这样的人类真的存在吗？不管是行为经济学，还是脑神经科学，都在逐步否定——即使还没完全否定——这种人类形象。手握热茶杯，待人接物就会比较温暖；读过关于老人的文章，走路就会不自觉变慢。人类太容易受到各种因素影响，而且多数时候我们并不自知。
影片提到，设计师使用「强化」的技巧来制作「用滑的」动态墙，让用户着迷到放不下手机。这个「强化」的原理，是心理学家 B. F. Skinner 发现的——他利用鸽子做了大量实验。如果社群媒体让人上瘾，那么这件事的启示很可能不是设计师有多邪恶，而是人类根本没有比鸽子高明多少。一直抱怨社群平台利用「人性弱点」其实效果不大，关键在于如果这些弱点根深蒂固，而且人类从未自由过，那么我们是不是应该要思考如何「正面利用」它？为什么我们不用同样的技巧，来让学生着迷于阅读、音乐、运动、或者艺术？
再来，我们可以问：为什么大家对于社群平台的运作原理这么惊讶？社群平台会收集使用者的喜好，以此为依据来调整或提供信息与广告，因此我们比较像产品而非顾客，这件事早已是老生常谈、甚至陈词滥调，但多数人仍然不知道，尤其是大量使用社群平台的青少年。这意味着，我们需要有针对「科技素养」的教育，但这种教育不是科普——科技素养要让学生了解的，不是手中科技运作的「原理」，而是设计的「逻辑」。
学生不需要知道手机里面的半导体组件、程序语言、或者薄膜技术，但要知道操作的各种机制是什么、还有开发和经营的经费从何而来。熟悉手中科技的设计逻辑，我们才能真正「使用」科技，才不会不知道可以关掉个人化广告、可以关闭位置追踪，或者连从哪里关都找不到。一旦知道社群平台只是重复喂养我们的喜好，我们就会知道「按赞」是在告诉算法「多给我一点」，那么为了维持信息健康，我们自然会更小心、甚至按反对意见「赞」。
最后，应该问：为什么我们这么担心社群平台正在摧毁民主？片中批评，社群平台正在制造「极化」（polarization），让抱持不同价值观的人群针锋相对、无法沟通。问题是，沟通是可能的吗？很多时候并非如此——只要想想你／妳是否成功说服你／妳的父母。换句话说，我们担心社群平台摧毁民主，是因为我们一向以为民主的核心是沟通、妥协、相互理解、达成共识，然而实际上，这可能是个误解，民主并非我们所想。
如同脸书总部的反对文（解释文）所言，极化现象早已存在许久，社群平台是非战之罪。根据政治理论家 Chantal Mouffe，政治的核心其实是对抗，而不是共识。简单来说，如果我们希望成为一个群体（我群），不可能没有边界，因此总是有「他群」存在——必定有人不同意我们，也必定有人被排除。换句话说，极化全然无法避免，社群平台只是让这种长期被我们忽视的政治核心暴露出来罢了。因此，民主不在于寻找共识，而在于鼓励和制度化非暴力的对抗。就此而言，显然问题不在社群平台加强极化，而在于我们需要重新理解和安排民主，才能安置早已无法回头的网络文化。
我不会说《监视资本主义：智能陷阱》不值得一看，毕竟对于许多人来说，这可能是第一次理解社群平台是怎么运作的。但我们确实应该深思，甚至反省，我们的不安与愤怒从何而来，究竟是这些社群平台的大公司太过邪恶，还是这些社群平台正在挑战我们习以为常的假设？很多人说看完这部电影感到绝望，但或许，希望的破灭，才是发现真正问题的开始。
* 原文刊载于《社技哲学．TECHNOSOPHY》博客。
5 ) 【汇总】片尾的一些建议
√ 在手机上关掉/减少各种“通知”，大部分“通知”既不及时也不重要。
√ 放弃Google搜索系统，改用Qwant（ //www.qwant.com/ ）。
Qwant是一家法国的搜索引擎，它承诺执行非常严格的隐私条例，并保证绝不获取使用者的任何信息，也不会在用户浏览网站时，搭载任何可能泄露使用者身份及位置的Cookies文件。Qwant将搜索结果分成 WEB, NEWS, SOCIAL, IMAGES, VIDEOS, SHOPPING 几个部分：
补充，类似保护隐私、不会主动泄露cookies的搜索引擎还有 DuckDuckGo，Searx，Startpage 等。网上有许多这样的介绍和测评，随手搬运一篇《 搜索引擎详细测评（Google, Startpage, Bing, DuckDuckGo, metaGer, Ecosia, Swisscows, Searx, Qwant, Yandex, and Mojeek）》（2020-02-15）
√ 不看YouTube（此处可以等效替换）推荐的视频，要看什么自己选。
√ chrome有许多的拓展插件，可以为你屏蔽那些推荐（针对外网的比较多，希望内网也多多开发）。
√ 在分享信息之前，用你的搜索引擎先去核准下事实（fact check）。对于容易激发情感的内容，要高度重视。
√ 在社交媒体上去关注一些自己不认识、意见相左的人，有意识地去获取和自己不一样的声音。
√ 可以自发地设立“家规”：孩子不能用社交媒体。（很多业内的技术人员是不让自己的孩子用那些的。）
√ 可以自发地设立“家规”另三种：
每天到了固定的时间，手机等电子设备不能带进卧室（例如睡前半小时，把所有设备都请出去）；
高中（或16岁）之前禁用社交媒体；
提前与孩子商讨出一项“时间预算（time budget），比如：每天你打算在这些设备上花多久？你觉得多长的时间是合理的？正向沟通、相信孩子，往往可以得到一个合理的时长预算。
√ 下线，多享受线下的现实。
6 ) 你被抖音、微博等社交媒体卖掉的30个真相
无法放下手机是意志力薄弱吗？谷歌、脸书和自行车一样只是我们使用的工具吗？算法和技术是中立的吗？假新闻为什么无往而不胜？这个假期看完的第一个片子是奈飞新出的纪录片《监视资本主义：智能陷阱》，触目惊心，假期的末尾希望有空的话你也可以看看。
影片其中一条叙事线由谷歌、脸书的前员工、ins早期员工、推特高级副总工程师等一票国际互联网大厂的从业者面对镜头讲述，这里面不乏社交媒体上点赞功能的设计者，甚至还有帮助脸书建立商业模式的负责人，他们出于对行业道德伦理的担心纷纷离开，现在他们重新站出来讲出他们看到的真相并发出警告。下面我将摘选30条我觉得重要的观点，方便你快速了解。
1.进入凡人生活的一切强大之物，无不具有弊端——索福克勒斯
2.主角之一的特里斯坦·哈里斯是前谷歌员工，曾在谷歌邮箱团队工作，他觉得很疲惫，因为他们一直在讨论邮箱应该长什么样，用什么颜色，他坦承自己对邮件上瘾，但更有趣的是团队里每一个人都想让用户上瘾。但是大家有反思过这个现象吗？他认为谷歌有解决这个问题的道德责任。但讨论在谷歌内部却不了了之。
3.脸书商业化负责人说，他负责帮助脸书想出如何盈利，而彼时他认为广告模式可能是最优雅的模式。以前我们为硬件和软件付费，但现在这些互联网产品都是免费的，但其实并不真是免费，背后是广告商在付费，广告商是这些互联网产品的客户，而使用者其实是被销售的商品。经典的说法是，如果你没有花钱买产品，那你就是被卖的产品。
4.谷歌并不只是一个搜索工具，脸书并不只是一个你和朋友联系的社交工具，其实种种互联网产品，他们都是在抢夺我们的注意力。仔细想一下这些互联网公司是怎样运作的。用户免费，广告商付费，广告商为什么付费？他要花钱交换你看广告，我们的关注就是卖给广告商的产品。这样说可能过于简单了，产品其实是我们的行为和认知的逐渐的一点点未察觉的改变。这才是他们拿来赚钱的唯一的东西：改变你做的事，你的思维方式，改变你这个人。
5.每种商业都有个梦想：投放一个广告，有成功的保障，这就是广告平台的生意，出售确定性。为了这个商业成功，必须有预判的能力，而优秀的预判能力始于一个必要的条件那就是数据。
6.我们使用互联网社交产品的一切行为数据都被监控和记录，具体到你在某张图片停留多久，我们的孤独、抑郁时刻，我们爱看前任的信息，我们深夜做什么，这些系统统统知道。这些我们不经意流露出的数据，都被喂养给系统，而这几乎不需要人看管，系统会不断做出越来越好的预判，判断出我们是什么样的人，我们要做什么。
7.很多人有一个误解，认为被卖掉的是我们的数据，脸书的兴趣肯定不是卖掉数据，而是用数据建立一个可以预测我们行为的模型，拥有最优秀模型的公司就是最后的赢家。我们用互联网技术创造了全球一整代人，他们成长的背景中，彼此之间的交流，文化中都渗透着操纵的鬼影。
8.任何足够先进的技术都极其类似于魔术。
9.魔术师几乎是最早的神经学家和心理学家，他们是最先明白人们思想工作原理的人。魔术师懂得你思想中你自己都没有意识到的某一部分，这是让幻觉起作用的关键。
10. 特里斯坦·哈里斯在斯坦福大学的劝服技术实验室研究如何用心理学知识劝服人们，以及如何把这个运用到互联网技术中。很多硅谷的互联网公司的人都学过这样的知识。他们想修改一个人的行为，让人们按照他们的意愿去做，譬如不停的用手指滑动屏幕浏览信息。往下拉，最上面是新的内容，再往下拉，上面又是新的每次都一样，这在心理学上被称作积极正强化。你不知道什么时候能刷到，或者你能刷到什么。这其实和赌场里老虎机的原理一样。
11.无数工程师他们的工作就像黑客一样黑进人们的心里，然后获得更多产品数据的增长，更多的用户增长，更多的活跃。他们会做大量的AB测试，然后根据结果不断优化就可以让用户做他们想让用户做的事，这就是操纵。很多时候他们诉诸的是人的潜意识，你被影响时甚至根本没有意识到，因为这是在利用人心理中最脆弱的部分挣钱。
12.自行车问世的时候，没有人不满，没有人会说它毁灭了我们的社会，因为自行车拉远了父母和孩子之间的距离，毁灭了我们的民主，让我们无法分别消息的真假。如果一个东西是工具，它就会忠诚的坐在那里，耐心等待。如果一个东西它对你有所求，它想引诱你，操纵你，从你身上获利，它就不是工具那么简单了。
13.我们已经走过了以工具为基础的技术环境，来到了以致瘾和操纵为基础的技术环境。社交媒体不是在原地等待被使用的工具，它有自己的目标，有自己的方法去实现这些目标。利用你的心理来对付你，
14.社交媒体就是一种毒品，我们有着基本的生物学的欲望比如和别人保持联系，这直接影响着奖赏通路中多巴胺的释放，这背后是几百万年的进化，我们群居找到伴侣繁殖。毫无疑问，社交媒体会优化这种联系，自然会有致瘾的可能性。
15.这些技术产品不是由努力保护儿童的心理专家设计的，他们的设计是让算法非常善于给你推荐下一个视频，非常善于让你拍照加滤镜。这些东西不仅在控制我们注意力放在哪里，而且越来越深入到大脑的根部，夺走孩子的注意力和自我价值。我们进化出了在意社群中的其他人评价的机制，这很重要。但是，我们进化需要在意一万个人怎么看我们吗？我们的进化不需要每隔5分钟获得一次社交认可。
16.我们在训练、调节整个一代人，我们不自在、不确定、孤独、害怕时，有一个自己的数码安慰，这让我们处理自己情绪的能力退化了。
17.有一种说法是，我们应该去适应它。我们要学着与这些设备共存，就像我们学着与其它事物共存一样。但这个说法忽略的是，有些东西明显是全新的。这其中最危险的是，这是由技术驱动的成指数级向前发展的。计算机处理能力，从上世纪60年代至今，增长了亿万倍，我们身边没有任何东西以这个速率增长。而我们人类生理上，大脑根本没有丝毫进化。我们的大脑已经存在几百万年，然后出现了这样一块屏幕，屏幕的另一端是数千工程师和超级计算机，有着与你不同的目标，那么这个游戏谁会赢呢？
18.算法是内嵌在代码中的观点，算法并不是客观中立的，算法被某种成功的定义优化。你给AI一个目标，我想要这样一个结果，AI自己去学习怎样实现，这是机器学习概念的由来。没人真正明白，为了实现这个目标，他们在做什么。
19.算法有自己的思想，虽然它们是由人写的。它被写出来的目的，是建立一个机器，这个机器会自己改变。作为人类，我们几乎已经失去对这些系统的控制，因为使它们在控制我们看到的信息。
20.想象一下，你用脸书，你的对手是人工智能，它知道你的一切，能预测你未来的举动，而你对它一无所知，这根本不是公平的竞争。
21.我们都在担心这个时刻，技术什么时候超越人类的智慧和力量。但有更早的时刻，技术超越人类的弱点时，这个超越点就是上瘾。两极分化、激进化、激化愤怒，激化虚荣，它在压制人类的天性，挫伤人性。
22.脸书的推送方式非常错误。如果我们打开一个维基百科页面，你看到的和别人的是一样的。这是网络上少有的我们统一共享的东西。想象一下，如果维基百科说，我们要给每个人一个个性化的定义，有人给我们钱让我们这么做，维基百科会监视你，会计算要怎么做才能代表一些商业利益，让这个人产生一点改变，对吧？然后就会改变整个词条。你能想象吗？脸书就是这样，你的youtube推送就是这样。
23.看了这个片子我才知道，原来在不同地方用谷歌搜索我们得到的是不同的结果。譬如我们在搜索框输入“气候变化是”在某些城市你会看到自动填充的提示语是“气候变化是一场骗局”在其它地方你将会看到“气候变化是对自然的破坏”。这个功能提供的不都是气候变化的真相，而取决于你在哪里搜索，以及谷歌对你个人兴趣的了解（譬如如果你是个阴谋论者，它就会给你推送气候变化是一场骗局的内容）。
即使是两个很相似的朋友，看到的也是完全不同的内容，因为算法会按照怎样对一个人来说最完美来呈现内容。逐渐你会有一个错觉，所有人都赞同你，因为给你推送的新闻中，每个人都和你极其相似，一但达到这种状态，你就容易被操控了，和被魔术师操纵是同样的方式。
24.油管前算法推荐工程师坦承，他研究的一个算法增加了社会的两极分化。但从在线时间上看，这种两级分化的做法却极其有效的让人们一直在线观看。
25.著名篮球运动员凯里·欧文说他相信地球是平的，后来公开道歉时说，这是油管算法的锅。地球是平的这一言论被算法推荐了几亿次，我们很容易判断出大概只有几个笨蛋真的相信。但可怕的是，算法每天都在变得更聪明，今天它能说服少部分人相信地球是平的，明天它就能说服你相信一个完全虚假的事情。
26.推特上传播假新闻的速度比真新闻快6倍。当一个人比另一个人有6倍的优势，这个世界会如何？你可以想象，有些事情让人类的基本面倾斜了。让一些行为更难，一些行为更容易。虽然你总是可以自由的走上山坡，但这样的人越来越少。所以在更大的范围内，整个社会的基础倾斜了，改变了数十亿人的想法和行为。
我们创造了一个偏爱假信息的系统，并不是因为我们想这么做，而是假消息能让这些公司更容易赚到钱，你知道的，真实信息比较无聊。这是一个利用虚假信息牟利的商业模式，允许未受监管的信息推送给更多的人，卖出更好的价钱，以此来赚钱。
27.脸书每天推送万亿个新闻资讯，他们无法知道哪些信息是真的哪些是假的。从未有工具像脸书一样能够如此低成本又高效的影响如此广泛的人群。算法和政治家在学习如何激发我们的方面变得越来越专业，非常擅长制造我们容易接受的假新闻让我们信以为真。我们似乎对自己是怎样的人，自己的信仰越来越缺少控制权。如果每个人都有权执着于自己的真相，就没有必要妥协团结了。我们需要对现实有一些共同的理解，否则我们就不是一个国家了。
28.谷歌不知道真相，它只知道点击。如果我们不认同真相，我们就无法找到任何一个问题的解决办法。硅谷的很多人相信一种理论，我们正在建造一些全球的超级大脑，我们所有的用户都只是可交互的神经元，我们一点都不重要。它让人们服从于这样一个奇怪的角色，你就像一个小的编程元素，我们通过我们的行为操纵去编程，为了服务于这个巨型大脑，不会给你钱，不会让你看到真相，你没有自主权，因为你只是编程的一个节点，你根本不重要。
29.技术并不是人类存亡的威胁，只是技术能够把人类社会中最坏的东西带出来，社会中最坏的东西才是人类存亡的威胁。如果你不知道身处矩阵之中，你如何从矩阵中醒来。
30.在整个人类历史中，每一次有事物变得更好，都是因为有人站出来说，这太蠢了，我们可以做得更好。是批判者推动改进，批判者才是真正的乐观主义者。
影片的最后，画外音问特里斯坦·哈里斯，你觉得我们能改变这一切让他们变得更好吗？特里斯坦·哈里斯说，我们必须要实现。
中文翻译的标题线路很正确嘛
前半段谈的是个人的成瘾性，后半段谈到了对社会和政治的影响，甚至还提到了香港问题受到了推荐算法的影响，实在是强烈推荐的纪录片。推荐算法让人类看到更多他想看到的信息，而不是正确的信息；当算法没有被操纵的时候，假象会被传播和放大的更快，社会群体的分化会更严重；当被操纵的时候，它会成为比以往更高效的舆论控制工具。
“在整个人类历史中，每次有事情变好，都是因为有人站出来说：“这太蠢了，我们可以做的更好”。是批判者驱动了改进，他们才是真正的乐观主义者。我们正飞速走向毁灭，需要一个奇迹才能让我们回头，这个奇迹就是集体意识，再足够的公众压力出现之前，这台机器是绝对不会回头的。”
某种existential crisis的压迫感沉重到可以将其归类恐怖片的程度：迫真humanity的一个至暗时刻。毋庸置疑新自由主义的放任默许了它们的野蛮生长。日渐两极化割裂的民主世界，中产的消亡，功绩社会里的精神暴力，抑郁及自杀率的攀升，ultra-right/left异军突起众多吊诡背后，总能追溯到科技巨头的鬼影。今年的BLM可谓一个高潮，空前的社会撕裂，内战的恐惧开始在北美大陆扩散，然而那种担忧早已经在太平洋对岸成为了现实，诸如废青和武统的呐喊此起彼伏，落入集权独裁手里的社交媒体正上演着数亿人的《楚门的世界》。
最后还是把问题还原到商业模式和经济上去了 也就是说 不是简单呼吁大家自己控制社交媒体的使用就可以解决根本问题的 不过很有意思的是… 看完片子之后 大家还是屁颠儿屁颠儿跑到社交媒体上来打分了😂 这和竞争关注的结果其实没有本质上的区别吧 人生而愚蠢...也是没办法的事
可能是今年 Netflix 最好的一部纪录片，无论是 have no clue 的大众还是互联网业内工作人员，都能从中得到新的启迪。一段虚构故事结合湾区大佬们和学者们的访谈形式也耳目一新。Just fucking watch this right now！另外好多差评真是男言之瘾重灾区…
朋友圈已经关闭了好几年，也不用微博和fb的我感觉自己还是有点觉悟的。
突然觉得，我如果能活到八十岁，说不定可以亲眼看到这颗星球毁灭……
我一直是更亲近Yuval Noal那种对社交网的防御心，最近他跟唐凤的对话中，唐女士更接近Bill Gates，她们对Code is law的信任是基于他们对科技的掌握，略傲慢的盲目。人类善于发明创造工具，却总是不能智慧的使用好它，socialmedia被创造出时的工具属性越来越模糊，连接一切变成绑定一切，我们都在失去个人专注力的同时被训练的自动贡献出时间来替科技公司创造价值。见惯了友邻放弃包容，讽刺刻薄的针对陌生人，哪怕对方只是没把咖啡馆当图书馆对待产生噪音。我们大部分人，都忘了我们用社交网的初衷了，我们只是停不下来了，这不对，要自省。
通过海量的数据加上对用户个体的行为记录，最终用户个体不再特殊。你的行为可以被预测，你的心理已被掌握，你已经无所遁形。在IT巨头面前，你只是一个可被盈利的工具。 --你以为你想买的东西其实是巨头想卖的东西，你想做的事情是巨头暗示你做的。下篇讲述 在网络环境中，虚假的信息传播的更快，其中人工智能的推荐起到了加速作用。 推荐系统的智能化是的信息发送方变得极化，同时是的接受的信息变得不再全面的。。。。
就提一个capitalism会死吗
“是批判者推动社会变得更好，批判者才是真正的乐观主义者。”
互联网是人类文明的硕果还是浩劫？这是一个问题。互联网发展太快，而互联网用户运用它的智慧却太慢。它几乎成为现代人剪不断的脐带，每个人都以为这根脐带为我们输送养料，却很少发现它也在吞噬我们的时间，消耗我们的生命。互联网背后是不断将我们异化的数据和图形，是将用户打造成韭菜的智能工具，而你我是它们手中的行货。尼采说，“在自己身上,克服这个时代。”然而，这多么困难。最有意思的是，看完这部纪录片后，我发布的信息也会成为互联网内容的一部分，不小心浪费了别人的时间。
影片翻译成”监视资本主义“太符合中国上层领导了，其实就是讲了社交网络怎样赚钱、怎样改变和监视用户、大数据统治的，其影响会延伸和触及到人性、进化、政治竞选等领域。但人类历史中的谎言、煽动、阴谋、阶级等现象，并不是网络时代就特有的，只是网络时代让这些现象具有更大规模、更快的反应而已，但不能把原罪归于网络。
聚众吸牍哪家强 网飞找来这群人一个劲戳别人脊梁骨 没种把自己的5秒跳转下一个视频算进去
一边抗拒一边沉迷，也是无解了。
能请到离职的脸书 谷歌 twitter高管或功能创始人来搞一部揭露社交APP之罪的纪录片确实牛逼!！看影片开头好多工程师已经在担心律师函了。 我们以为的AI危机（人工智能）是电影中类似机器人入侵的画面，其实，人类早已被AI奴役好几年了，它们以智能手机APP的面貌出现在我们生活中，吃掉我们的时间，夺取我们的注意力，令我轻信、空虚、偏执甚至被利用…… 就连创造出这些APP的工程师们——这个AI统治者的创造者们都承认有手机上瘾症。if you are not paying for the product, you are the product.You would not realize it's a Matrix if you Are in the Matrix.
在网飞纪录片序列中算不上惊艳，内容都能想得到，有个别地方倒是有启发。其实社交媒体不是重新发明了人性，只是顺应人性被发明出来。
最讽刺的是你之所以能看到这部片子，多半也是因为它被网飞自己的大数据和算法推到了用户主页。这种感觉就像是有天迈克尔·贝跑出来拍了一部【电影艺术是如何被滥用CGI特效的好莱坞大片毁掉的】纪录片一样。
三星半吧。这个片子一边谴责社交媒体蛊惑人心，一边也通过背景音，模拟场景，动画，拼命传输自己想传达的意思。有点讽刺