来源：新闻界

编者荐语：

谷歌、脸书的前员工、ins早期员工、推特高级副总工程师等一票国际互联网大厂的从业者面对镜头讲述。他们出于对行业道德伦理的担心纷纷离开，现在他们重新站出来讲出他们看到的真相并发出警告。

以下文章来源于素履之往往 ，作者岸光

无法放下手机是意志力薄弱吗？谷歌、脸书和自行车一样只是我们使用的工具吗？算法和技术是中立的吗？假新闻为什么无往而不胜？这个假期看完的第一个片子是奈飞新出的纪录片《监视资本主义：智能陷阱》，触目惊心，假期的末尾希望有空的话你也可以看看。

影片其中一条叙事线由谷歌、脸书的前员工、ins早期员工、推特高级副总工程师等一票国际互联网大厂的从业者面对镜头讲述，这里面不乏社交媒体上点赞功能的设计者，甚至还有帮助脸书建立商业模式的负责人，他们出于对行业道德伦理的担心纷纷离开，现在他们重新站出来讲出他们看到的真相并发出警告。下面我将摘选30条我觉得重要的观点，方便你快速了解。

1.进入凡人生活的一切强大之物，无不具有弊端——索福克勒斯

2.主角之一的特里斯坦·哈里斯是前谷歌员工，曾在谷歌邮箱团队工作，他觉得很疲惫，因为他们一直在讨论邮箱应该长什么样，用什么颜色，他坦承自己对邮件上瘾，但更有趣的是团队里每一个人都想让用户上瘾。但是大家有反思过这个现象吗？他认为谷歌有解决这个问题的道德责任。但讨论在谷歌内部却不了了之。

3.脸书商业化负责人说，他负责帮助脸书想出如何盈利，而彼时他认为广告模式可能是最优雅的模式。以前我们为硬件和软件付费，但现在这些互联网产品都是免费的，但其实并不真是免费，背后是广告商在付费，广告商是这些互联网产品的客户，而使用者其实是被销售的商品。经典的说法是，如果你没有花钱买产品，那你就是被卖的产品。

4.谷歌并不只是一个搜索工具，脸书并不只是一个你和朋友联系的社交工具，其实种种互联网产品，他们都是在抢夺我们的注意力。仔细想一下这些互联网公司是怎样运作的。用户免费，广告商付费，广告商为什么付费？他要花钱交换你看广告，我们的关注就是卖给广告商的产品。这样说可能过于简单了，产品其实是我们的行为和认知的逐渐的一点点未察觉的改变。这才是他们拿来赚钱的唯一的东西：改变你做的事，你的思维方式，改变你这个人。

5.每种商业都有个梦想：投放一个广告，有成功的保障，这就是广告平台的生意，出售确定性。为了这个商业成功，必须有预判的能力，而优秀的预判能力始于一个必要的条件那就是数据。

6.我们使用互联网社交产品的一切行为数据都被监控和记录，具体到你在某张图片停留多久，我们的孤独、抑郁时刻，我们爱看前任的信息，我们深夜做什么，这些系统统统知道。这些我们不经意流露出的数据，都被喂养给系统，而这几乎不需要人看管，系统会不断做出越来越好的预判，判断出我们是什么样的人，我们要做什么。

7.很多人有一个误解，认为被卖掉的是我们的数据，脸书的兴趣肯定不是卖掉数据，而是用数据建立一个可以预测我们行为的模型，拥有最优秀模型的公司就是最后的赢家。我们用互联网技术创造了全球一整代人，他们成长的背景中，彼此之间的交流，文化中都渗透着操纵的鬼影。

8.任何足够先进的技术都极其类似于魔术。

9.魔术师几乎是最早的神经学家和心理学家，他们是最先明白人们思想工作原理的人。魔术师懂得你思想中你自己都没有意识到的某一部分，这是让幻觉起作用的关键。

10. 特里斯坦·哈里斯在斯坦福大学的劝服技术实验室研究如何用心理学知识劝服人们，以及如何把这个运用到互联网技术中。很多硅谷的互联网公司的人都学过这样的知识。他们想修改一个人的行为，让人们按照他们的意愿去做，譬如不停的用手指滑动屏幕浏览信息。往下拉，最上面是新的内容，再往下拉，上面又是新的每次都一样，这在心理学上被称作积极正强化。你不知道什么时候能刷到，或者你能刷到什么。这其实和赌场里老虎机的原理一样。

11.无数工程师他们的工作就像黑客一样黑进人们的心里，然后获得更多产品数据的增长，更多的用户增长，更多的活跃。他们会做大量的AB测试，然后根据结果不断优化就可以让用户做他们想让用户做的事，这就是操纵。很多时候他们诉诸的是人的潜意识，你被影响时甚至根本没有意识到，因为这是在利用人心理中最脆弱的部分挣钱。

12.自行车问世的时候，没有人不满，没有人会说它毁灭了我们的社会，因为自行车拉远了父母和孩子之间的距离，毁灭了我们的民主，让我们无法分别消息的真假。如果一个东西是工具，它就会忠诚的坐在那里，耐心等待。如果一个东西它对你有所求，它想引诱你，操纵你，从你身上获利，它就不是工具那么简单了。

13.我们已经走过了以工具为基础的技术环境，来到了以致瘾和操纵为基础的技术环境。社交媒体不是在原地等待被使用的工具，它有自己的目标，有自己的方法去实现这些目标。利用你的心理来对付你，

14.社交媒体就是一种毒品，我们有着基本的生物学的欲望比如和别人保持联系，这直接影响着奖赏通路中多巴胺的释放，这背后是几百万年的进化，我们群居找到伴侣繁殖。毫无疑问，社交媒体会优化这种联系，自然会有致瘾的可能性。

15.这些技术产品不是由努力保护儿童的心理专家设计的，他们的设计是让算法非常善于给你推荐下一个视频，非常善于让你拍照加滤镜。这些东西不仅在控制我们注意力放在哪里，而且越来越深入到大脑的根部，夺走孩子的注意力和自我价值。我们进化出了在意社群中的其他人评价的机制，这很重要。但是，我们进化需要在意一万个人怎么看我们吗？我们的进化不需要每隔5分钟获得一次社交认可。

16.我们在训练、调节整个一代人，我们不自在、不确定、孤独、害怕时，有一个自己的数码安慰，这让我们处理自己情绪的能力退化了。

17.有一种说法是，我们应该去适应它。我们要学着与这些设备共存，就像我们学着与其它事物共存一样。但这个说法忽略的是，有些东西明显是全新的。这其中最危险的是，这是由技术驱动的成指数级向前发展的。计算机处理能力，从上世纪60年代至今，增长了亿万倍，我们身边没有任何东西以这个速率增长。而我们人类生理上，大脑根本没有丝毫进化。我们的大脑已经存在几百万年，然后出现了这样一块屏幕，屏幕的另一端是数千工程师和超级计算机，有着与你不同的目标，那么这个游戏谁会赢呢？

18.算法是内嵌在代码中的观点，算法并不是客观中立的，算法被某种成功的定义优化。你给AI一个目标，我想要这样一个结果，AI自己去学习怎样实现，这是机器学习概念的由来。没人真正明白，为了实现这个目标，他们在做什么。

19.算法有自己的思想，虽然它们是由人写的。它被写出来的目的，是建立一个机器，这个机器会自己改变。作为人类，我们几乎已经失去对这些系统的控制，因为使它们在控制我们看到的信息。

20.想象一下，你用脸书，你的对手是人工智能，它知道你的一切，能预测你未来的举动，而你对它一无所知，这根本不是公平的竞争。

21.我们都在担心这个时刻，技术什么时候超越人类的智慧和力量。但有更早的时刻，技术超越人类的弱点时，这个超越点就是上瘾。两极分化、激进化、激化愤怒，激化虚荣，它在压制人类的天性，挫伤人性。

22.脸书的推送方式非常错误。如果我们打开一个维基百科页面，你看到的和别人的是一样的。这是网络上少有的我们统一共享的东西。想象一下，如果维基百科说，我们要给每个人一个个性化的定义，有人给我们钱让我们这么做，维基百科会监视你，会计算要怎么做才能代表一些商业利益，让这个人产生一点改变，对吧？然后就会改变整个词条。你能想象吗？脸书就是这样，你的youtube推送就是这样。

23.看了这个片子我才知道，原来在不同地方用谷歌搜索我们得到的是不同的结果。譬如我们在搜索框输入“气候变化是”在某些城市你会看到自动填充的提示语是“气候变化是一场骗局”在其它地方你将会看到“气候变化是对自然的破坏”。这个功能提供的不都是气候变化的真相，而取决于你在哪里搜索，以及谷歌对你个人兴趣的了解（譬如如果你是个阴谋论者，它就会给你推送气候变化是一场骗局的内容）。

即使是两个很相似的朋友，看到的也是完全不同的内容，因为算法会按照怎样对一个人来说最完美来呈现内容。逐渐你会有一个错觉，所有人都赞同你，因为给你推送的新闻中，每个人都和你极其相似，一但达到这种状态，你就容易被操控了，和被魔术师操纵是同样的方式。

24.油管前算法推荐工程师坦承，他研究的一个算法增加了社会的两极分化。但从在线时间上看，这种两级分化的做法却极其有效的让人们一直在线观看。

25.著名篮球运动员凯里·欧文说他相信地球是平的，后来公开道歉时说，这是油管算法的锅。地球是平的这一言论被算法推荐了几亿次，我们很容易判断出大概只有几个笨蛋真的相信。但可怕的是，算法每天都在变得更聪明，今天它能说服少部分人相信地球是平的，明天它就能说服你相信一个完全虚假的事情。

26.推特上传播假新闻的速度比真新闻快6倍。当一个人比另一个人有6倍的优势，这个世界会如何？你可以想象，有些事情让人类的基本面倾斜了。让一些行为更难，一些行为更容易。虽然你总是可以自由的走上山坡，但这样的人越来越少。所以在更大的范围内，整个社会的基础倾斜了，改变了数十亿人的想法和行为。

我们创造了一个偏爱假信息的系统，并不是因为我们想这么做，而是假消息能让这些公司更容易赚到钱，你知道的，真实信息比较无聊。这是一个利用虚假信息牟利的商业模式，允许未受监管的信息推送给更多的人，卖出更好的价钱，以此来赚钱。

27.脸书每天推送万亿个新闻资讯，他们无法知道哪些信息是真的哪些是假的。从未有工具像脸书一样能够如此低成本又高效的影响如此广泛的人群。算法和政治家在学习如何激发我们的方面变得越来越专业，非常擅长制造我们容易接受的假新闻让我们信以为真。我们似乎对自己是怎样的人，自己的信仰越来越缺少控制权。如果每个人都有权执着于自己的真相，就没有必要妥协团结了。我们需要对现实有一些共同的理解，否则我们就不是一个国家了。

28.谷歌不知道真相，它只知道点击。如果我们不认同真相，我们就无法找到任何一个问题的解决办法。硅谷的很多人相信一种理论，我们正在建造一些全球的超级大脑，我们所有的用户都只是可交互的神经元，我们一点都不重要。它让人们服从于这样一个奇怪的角色，你就像一个小的编程元素，我们通过我们的行为操纵去编程，为了服务于这个巨型大脑，不会给你钱，不会让你看到真相，你没有自主权，因为你只是编程的一个节点，你根本不重要。

29.技术并不是人类存亡的威胁，只是技术能够把人类社会中最坏的东西带出来，社会中最坏的东西才是人类存亡的威胁。如果你不知道身处矩阵之中，你如何从矩阵中醒来。

30.在整个人类历史中，每一次有事物变得更好，都是因为有人站出来说，这太蠢了，我们可以做得更好。是批判者推动改进，批判者才是真正的乐观主义者。

影片的最后，画外音问特里斯坦·哈里斯，你觉得我们能改变这一切让他们变得更好吗？特里斯坦·哈里斯说，我们必须要实现。