本周，“数据门”事件持续发酵。虽然扎克伯格发了一篇长文解释原因，但大众并不买账。昨天，谷歌主要作者、研究员Fran发表了一系列推文，批评AI驱动将很快成为“极权循环监狱”，成为权贵监控公众的工具。
弗兰最出名的是“深度学习框架的主要作者”。自2015年8月以来，弗兰一直是谷歌的软件工程师和人工智能研究员，专注于深度学习研究。可以说，弗朗索瓦一直处于技术进步的洪流中，他对这一事件的看法值得深思。
在这一系列推文中，弗朗索瓦强调，AI的进步，尤其是在深度学习领域的进步，可能会导致脸书采取“破坏性”的心理攻击策略，进行“大规模人口控制”。Chollet表示，随着人工智能和深度学习的不断进步，这种威胁会越来越严重。
弗朗索瓦乔莱特的推文翻译如下：
在脸书事件中，问题不仅在于你隐私的丧失，还在于你的隐私可能被用作极权主义的“循环监狱”。在我看来，更令人担忧的问题是，数字信息消费被用作心理控制的媒介。
世界受到两个长期趋势的巨大影响：首先，我们的生活正在变得非物质化，包括工作和家庭中的信息消费和信息生成。其次，AI越来越智能化。
在影响我们如何消费数字内容的算法层面，这两种趋势是重叠的。不透明的社交媒体算法正越来越多地决定我们阅读哪些文章、与谁保持联系、阅读谁的观点以及获得谁的反馈。
经过多年的曝光，算法对我们消耗的信息的处理，使得这些系统在我们的生活中拥有相当大的权利，这决定了我们成为什么样的人。由于我们的生活已经在很大程度上转向了数字领域，我们变得非常容易受到AI算法的影响。
在时间这么多年，如果脸书能决定让你看到哪些新闻(真实新闻还是假新闻)，让你看到谁的政治地位在提高，让谁看到你的动态，那么脸书实际上已经控制了你的政治信仰和世界观。
这不是什么新鲜事。至少从2013年开始，脸书进行了一系列实验。通过调整新闻提要的内容，他们成功地控制了毫无戒心的用户的情绪和决策，并能预测用户未来的决策。
简而言之，脸书可以同时窥视我们的一切，并控制我们消费的信息。当你可以同时触摸感知和动作时，你会看到一个AI问题。你可以开始为人类行为建立一个优化周期。RL循环。
在这个循环中，您可以观察目标的当前状态，并不断调整提供给它的信息，直到您观察到所需的结果和行为。
人工智能的很大一部分研究领域(尤其是脸书一直投入巨资的领域)是开发尽可能有效地解决这类优化问题的算法，从而闭合这个循环，实现对其处理的现象的完全控制。在这次事件中，完全被控制的是“我们”。
因为人类的思维很容易受到简单的社会操纵模式的影响，所以变得更容易。在思考这些问题的时候，我整理了一个心理攻击模式的短列表，会非常有效。
其中一些攻击模式在广告中使用了长时间(如正面/负面的社会强化)，但它们非常弱，没有针对性。从信息安全的角度来看，你可以称之为“漏洞”:一个可以用来控制系统的已知漏洞。
就人类思维而言，这些漏洞永远无法修补，因为它们是我们思维的工作方式。它们存在于我们的基因中。它们是我们的心理。就个人而言，我们没有实际的方法来防御他们。
人类思维是一个静态的、易受攻击的系统，会受到越来越多的智能AI算法的攻击。这些算法同时观察我们做的和相信的一切，完全控制我们接触到的信息。
更可怕的是，把AI算法放到我们的信息消费中产生的大规模人口控制——，尤其是政治控制——，并不需要非常先进的人工智能。这不需要机器自我感知，也不需要超级智能的AI，这是一个可怕的威胁。
那么，如果今天的大规模人口控制已经成为可能，——理论上是这样，那为什么世界还没有结束呢？我觉得这是因为我们的AI还是很差。但这种情况即将改变。你看，世界末日的瓶颈是我们的技术能力。
2015年之前，全行业所有的广告定位算法都只运行在logistic回归上。事实上，这在今天的很大程度上仍然是真的。只有——中最大的玩家才会转向更高级的型号。
这就是为什么你在网上看到这么多广告，但它们与你无关。因为这些广告算法还没那么成熟。同样，一些用来影响舆论的社交媒体机器人几乎没有AI。它们都非常原始。暂时的。
人工智能近年来发展迅速，这些发展刚刚开始部署在面向目标的算法和社交媒体机器人中。直到2016年左右，深度学习才开始进入新闻推送和广告网络。脸书在这个领域投入了大量资金。
谁知道接下来会发生什么？脸书在AI研发上投入了大量资金，其明确目标是成为该领域的领导者。这是什么意思？当你的产品是新闻流，你会用AI/RL做什么？
我们所见证的是一个强大的实体，它建立了20多亿人的精细心理特征，并进行了大规模的行为操控实验。它的目的是开发世界上最好的人工智能技术。就我个人而言，这真的让我害怕。
如果你在做人工智能，
的，请不要帮助他们。不要玩他们的游戏。不要参与他们的研究生态系统。请表现出一些良知。相关报道：【扎克伯格最黑暗的一周】Keras作者炮轰：Facebook将沦为极权主义监狱
网友评论
当前共有3条评论