我们的思维方式懂得了很多的事情，甚至更奇怪的事情也发生在世界各地。我们开始相信一切都是可计算的，并且可以通过应用新技术来解决。但这些技术并非中立的促进者：它们体现了我们的政治和偏见，它们超越了国家和法律管辖范围，甚至超越了对其创作者的理解。因此，我们对世界的理解越来越少，因为这些强大的技术可以更好地控制我们的日常生活。
在科学和社会，政治和教育，战争和商业中，新技术不仅仅是在增强我们的能力，它们正在积极地塑造和指导它们，无论好坏。如果我们不了解复杂的技术如何运作，那么他们的潜力就更容易被自私的精英和企业捕获。我们每天遇到的系统的复杂不透明性与不平等，暴力，民粹主义和原教旨主义等全球性问题之间存在因果关系。
启蒙运动更广泛地传播更多信息的理想并没有使我们获得更多的理解和日益增长的和平，而是似乎在促进社会分裂，不信任，阴谋论和事后政治。要了解正在发生的事情，有必要了解我们的技术是如何形成的，以及我们如何对它们产生如此多的信任。
在20世纪50年代，一个新的符号开始渗透到电气工程师绘制的图表中，以描述他们建立的系统：模糊圈，或思想泡泡。最终，它的形式变成了云的形状。无论工程师在做什么，它都可以连接到这个云，这就是你需要知道的全部内容。另一个云可以是电力系统，或数据交换，或另一个计算机网络。随心所欲。云是降低复杂性的一种方式，它使您可以专注于手头的问题。随着时间的推移，随着网络变得越来越大，互联互通，云变得越来越重要。它成为了商业流行语和卖点。
今天，云是互联网的核心隐喻：一个拥有巨大力量和能量的全球系统，但仍然保留了一些任何内容，几乎无法掌握的光环。我们在其中工作，我们存储和检索它的东西，这是我们一直没有真正理解它是什么的经历。但这个比喻存在一个问题：云不是一个神奇的遥远的地方，由水蒸气和无线电波组成，一切正常。它是一个物理基础设施，包括电话线，光纤，卫星，海底电缆以及装满电脑的大型仓库，这些仓库消耗大量的水和能源。吸收到云中的是许多以前重要的公民领域的建筑：我们购物，银行，社交，借书和投票的地方。
Google的数据中心之一，位于美国爱荷华州。照片：KeystoneUSA-ZUMA / Rex功能
在过去的几十年里，世界各地的交易大厅已经沉寂，因为人们被自动交易的电脑银行所取代。数字化意味着股票交易所内部和之间的交易可以更快，更快地进行。随着交易进入机器手中，几乎可以立即做出反应。高频交易（HFT）算法由前物理博士学生设计，利用毫秒优势，进入市场，交易者给他们命名如The Knife。这些算法能够在每次交易中获得几分之一的分数，而且他们每天可以做数百万次。
计算越来越分散在我们生活中的每一个对象中，并且隐藏在其中，随着它的扩展，不透明度和不可预测性增加。三星2015年“智能冰箱”系列的一个受欢迎的好处之一是它们与谷歌的日历服务集成，允许所有者安排厨房的杂货配送。这也意味着获得访问权限不够安全的计算机的黑客可以读取其所有者的Gmail密码。德国的研究人员发现了一种方法，可以将恶意代码插入飞利浦支持wifi的Hue灯泡中，这种灯泡可以在整个建筑物甚至城市中从夹具扩散到灯具，快速打开和关闭灯光。这是Thomas Pynchon的Byron the Bulb所青睐的方法重力的彩虹，小机器反对他们制造者的暴政的大反抗行为。物联网正在实现技术暴力的虚构可能性。
在金斯坦利罗宾逊的小说“ 极光”中，一个智能太空船将人类从地球带到一颗遥远的恒星。这段旅程将需要多个生命周期，因此该船的一项工作是确保人类照顾自己。当他们脆弱的社会崩溃，遇到威胁任务时，船舶将安全系统作为一种控制手段：它能够通过传感器随意看到，随意打开或密封门，通过其通信设备大声说话，导致身体疼痛，并使用灭火系统来降低特定空间的氧气水平。
这与现在可用的操作大致相同 Google Home及其合作伙伴：用于家庭安全的互联网摄像头网络，门上的智能门锁，能够升高和降低个别房间温度的恒温器，以及火灾和火灾。入侵者检测系统发出刺穿紧急警报。
在驳回科幻作家的发烧梦之前，再次考虑证券交易所的流氓算法。这些不是孤立的事件，而是复杂系统中的日常事件。那么问题就变成了，在更广泛的现实中，流氓算法或闪存崩溃会是什么样子？
例如，它看起来像是Mirai，这是一款在2016年10月21日将大部分互联网连续几个小时瘫痪的软件。当研究人员挖掘Mirai时，他们发现它的目标是连接不良的互联网连接设备，从安全摄像机到数字视频录像机，并将它们变成机器人军队。在短短几周内，Mirai感染了50万台设备，只需10％的容量即可将主要网络瘫痪数小时。
事实上，Mirai看起来就像Stuxnet一样，是2010年在水电站和工厂装配线的工业控制系统中发现的另一种病毒.Stuxnet是一种军用级别的网络武器; 在解剖时，发现它专门针对西门子离心机，并且当它遇到具有特定数量的这种机器的设施时被设计为熄灭。这个数字与一个特定的设施相对应：伊朗的纳坦兹核设施。激活后，该程序将悄然降解离心机的关键部件，导致它们分解并破坏伊朗浓缩计划。
这次袭击显然是部分成功，但对其他受感染设施的影响尚不清楚。直到今天，尽管有明显的怀疑，没有人知道Stuxnet来自哪里，或者是谁。没有人确切知道是谁开发了Mirai，或者它的下一次迭代可能来自哪里，它现在可能在哪里，或可在办公室的CCTV摄像机繁殖。
游戏开发者进入无限循环的更新和由A / B测试界面指导的应用内购买以及对玩家行为的实时监控。他们对产生多巴胺的神经通路有着如此精细的把握，青少年在计算机前死于疲惫，无法将自己撕裂。
我们能够通过将技术附加到我们身体的表面来记录我们日常生活的方方面面，说服我们我们也可以像我们的设备一样进行优化和升级。智能手环和智能手机应用程序集成了计步器和电流皮肤响应监视器，不仅可以跟踪我们的位置，还可以跟踪每一次呼吸和心跳，甚至是我们脑波的模式。鼓励用户在晚上将手机放在床边，以便记录他们的睡眠模式。所有这些数据在哪里，谁拥有它，什么时候出来？关于我们的的数据，我们无意识的自我的实质内容，变成了无情和难以理解的系统的更多燃料。
或许现实中的闪电崩溃看起来就像我们现在正在经历的一切：经济不平等加剧，民族国家崩溃和边界军事化，全球监管和个人自由受到限制，跨国公司的胜利和神经认知资本主义，极右组织和本土主义意识形态的兴起，以及自然环境的退化。这些都不是新技术的直接结果，但所有这些都是普遍无法感知由于不透明的，技术上增加的复杂性而加速的个人和企业行动的更广泛的网络效应的产物。
在1997年的纽约，世界象棋冠军加里·卡斯帕罗夫第二次面对这一台由IBM特别设计的击败他的电脑。当他输了，他声称它的一些动作是如此聪明和有创意，以至于认为一定是人为干预的结果。但我们理解为什么Deep Blue采取了这些措施：选择它们的过程最终是一种蛮力，一种由14,000个定制设计的国际象棋芯片组成的大规模并行架构，能够分析每秒200米的电路板位置。卡斯帕罗夫没有被打败，只是出局了。
到谷歌脑动力AlphaGo的时候软件在2016年迎接韩国职业围棋选手Lee Sedol时，情况发生了变化。在五场比赛中的第二场比赛中，AlphaGo采取了让Sedol震惊的举动，将其中一块石头放在了板子的另一边。“这是一个非常奇怪的举动，”一位评论员说。“我认为这是一个错误，”另一个说。范辉是一位经验丰富的围棋队员，他是六个月前第一位输给这台机器的专业队员，他说：“这不是人为举动。我从来没有见过人类玩这个动作。“
AlphaGo继续赢得比赛和系列赛。AlphaGo的工程师通过向专业的Go玩家提供数百万次移动的神经网络开发其软件，然后使其自身发挥数百万倍的速度，制定超越人类玩家的策略。但它自己对这些策略的表述是难以辨认的：我们可以看到它所做的动作，但不能看出它是如何决定的。
已故的Iain M Banks称这些动作发生在“无限乐趣空间”的地方。在班克斯的SF小说中，他的文化文明由仁慈的，超级智能的AIs管理，简称为Minds。虽然思想最初是由人类创造的，但他们早已重新设计并重建自己并变得无所不能。在控制船只和行星，指挥战争和照顾数十亿人类之间，思想也会占据自己的乐趣。能够在他们的想象中模拟整个宇宙，一些思想永远退回到无限娱乐空间，这是一个元数学可能性的领域，只有超人类人工智能才能进入。
我们中的许多人都熟悉使用统计语言推理技术于2006年推出的Google Translate。该系统不是试图理解语言实际上是如何工作的，而是吸收了大量现有翻译语料库：具有不同语言相同内容的并行文本。通过简单地将单词映射到彼此，它从等式中消除了人类的理解，并用数据驱动的相关性取而代之。
Translate因其幽默错误而闻名，但在2016年，该系统开始使用由Google Brain开发的神经网络，其能力呈指数级增长。网络不是简单地交叉引用大量文本，而是构建自己的世界模型，结果不是单词之间的一组二维连接，而是整个领域的地图。在这种新的体系结构中，单词是通过它们在意义网格中彼此之间的距离来编码的，只有计算机才能理解的网格。
机器学习使生活成为一个不可见的空间。除了那些我们无法想象的东西之外，我们甚至无法理解。
同年，Google Brain的其他研究人员建立了三个名为Alice，Bob和Eve的网络。他们的任务是学习如何加密信息。爱丽丝和鲍勃都知道一个数字，一个密码，用加密术语，夏娃不知道。Alice会对一串文本执行一些操作，然后将其发送给Bob和Eve。如果Bob可以解码该消息，则Alice的分数会增加; 但如果夏娃可以，爱丽丝的分数会下降。
经过数千次迭代，Alice和Bob学会了在没有Eve破坏他们的代码的情况下进行通信：他们开发了一种私有形式的加密，就像今天在私人电子邮件中使用的一样。但至关重要的是，我们不了解这种加密的工作原理。它的操作被网络的深层遮挡。从夏娃隐藏的东西对我们来说也是隐藏的。机器正在学习如何保守秘密。
'我们不能不考虑网络; 我们只能思考并在其中思考。照片：Alamy股票照片
我们如何理解和思考我们在世界上的位置，以及我们彼此之间以及与机器之间的关系，最终将决定我们的技术将带我们走向何方。我们不能不考虑网络，我们只能通过它来思考。通知和塑造我们目前对现实的看法的技术不会消失。我们目前的生命支持系统在一个拥有75亿人口且不断增长的星球上依赖于它们。我们对这些系统以及我们在设计中做出的有意识选择的理解完全在我们的能力范围内。我们不是无能为力，不是没有代理。我们只需要思考，再思考，并继续思考。网络：我们和我们的机器以及我们共同思考和发现的事物，需要它。
计算系统作为工具，强调人类最强大的方面之一：我们在世界上有效行动并根据我们的愿望塑造它的能力。但揭露和阐明这些欲望，并确保它们不会降低，否定，抹杀或抹去他人的欲望，仍然是我们的特权。
当卡斯帕罗夫在1997年被击败时，他没有放弃比赛。一年后，他以一种新格式重返竞技比赛：高级或半人马，国际象棋。在高级国际象棋中，人类与机器合作而不是竞争。很快就发现这种方法带来了一些非常有趣的东西。虽然现在即使是中级国际象棋电脑也可以与大多数大师擦拭地板，但普通电脑与普通电脑搭配能够击败最复杂的超级计算机，而这种思维方式组合带来的游戏彻底改变了游戏规则。现在正在开发的各种复杂机器和治理系统是否可以，或将允许合作仍有待观察，我们的技术是我们自己的扩展，在机器和基础设施中，在知识和行动的框架中编纂。计算机不是在这里给我们所有的答案，而是让我们以新的方式向宇宙提出新的问题。
