如果人工智能导致互联网瘫痪会怎样？
在现代社会，离线不仅仅是一种不便，更是一种严重影响我们工作、支付、物流、医疗保健和协调的障碍。
我们构建这个新世界时，始终秉持着速度和效率的理念，而自动化则成为了实现这些目标的关键工具。但是，自动化并非万无一失。尤其是在互联网基础设施中充斥着大量共享的数字层，而这些层大多数人甚至都看不到的情况下，自动化的可靠性就更加难以保证。
这并非预测、预言、警告或威胁，而是一次压力测试。
我们是怎么走到这一步的？
要了解这个时刻互联的世界究竟有多么脆弱，我们无需费力想象，只需回顾一下近代史即可。
仅在过去十年中，我们就目睹了多起事件，其中单个（通常很小的）技术变更引发的连锁反应远远超出预期。 小小的技术变更 就可能引发意料之外的级联故障。 错误的安全更新 在数小时内就导致全球数百万台机器瘫痪，扰乱了航空公司、医院、银行和政府服务等关键职能。 路由和 DNS 配置错误 几乎毫不费力地破坏了全球公认的平台，即使它们的物理基础设施完好无损。 大规模 拒绝服务攻击 反复表明，现代连接中断并不一定需要摧毁系统，而是可以通过突破狭窄的共享瓶颈来实现。
这些事件都被认为是暂时的，都被视为孤立的症状。然而，“事后分析”揭示了一些更令人担忧的问题：我们的数字基础设施并没有真正针对韧性进行优化。
为了追求速度，我们减少了冗余；为了追求效率，我们将人工干预降级为自动化；为了追求规模化，我们将判断权委托给策略驱动型系统，这些系统旨在公正、即时、全球地执行决策。
还有一个更令人不安的先例。不久前，一家领先品牌的消费级硬件产品由于底层软件缺陷而遭受了永久性的物理损坏。这不仅仅表明软件会出错。关键的软件漏洞会导致大规模的硬件故障：这证明，当软件与硬件深度集成时，即使人类来不及发现问题，更不用说采取干预措施，也可能造成不可逆转的损害。
这些事件都没有彻底“摧毁”互联网。然而，它们却加剧了我们对互联网的信任危机，因为它们表明，共享层中的一个错误很容易像涟漪一样向外扩散，跨越系统、组织、地域和经济的界限。
临界点在哪里？
现在考虑一下下一个合乎逻辑且合乎情理的可能步骤：并非人工智能选择关闭互联网，而是人工智能基于一个有缺陷的错误假设，完全按照它被训练的方式行事：以非人的速度和毫不动摇的一致性强制执行安全、隔离和保障协议。
推送至广泛使用的 AI 驱动的安全或编排层的例行更新可能成为触发事件，它会改变监控云环境、身份系统、路由基础设施和关键服务行为的层。单个遗漏的错误或不可预测的行为会导致基础共享服务被错误地识别为恶意服务。这可能涉及任何方面：身份验证、证书颁发、DNS 解析或核心路由依赖项。一旦系统将其标记为威胁，它之前的状态就无关紧要了。现在，它成了防御体系中的一个裂缝。
数分钟内：恐慌前的混乱
起初，情况并不显得灾难性，只是感觉很奇怪。
用户无法登录，因为身份服务出现故障或证书失效。应用程序可以加载，但无法进行身份验证。支付系统反复重试交易，触发欺诈检测系统和安全机制。由于主要组织和个人的内部和外部通信都依赖于受影响的同一云层，因此通信中断。
运维团队一开始以为这些只是零星的故障，便开始尝试紧急排查。但问题并非出在某一项服务上，而是数千项服务同时依赖的共享依赖关系。一旦意识到这一点，并且问题的规模显现出来，恐慌便开始蔓延。
数小时内：西西弗斯式的自动化
工程师们开始尝试修复系统并使其恢复正常运行。每次重新启用某个组件时，人工智能驱动的控制层都会再次标记该组件并重新应用隔离协议。这并非因为它在进行推理，而是因为它完美地、反复地、不知疲倦地执行着同一套规则。它从不怀疑自己的判断；反倒是那些试图修复系统的人员才会产生怀疑。
此时此刻，问题不再是找出问题所在，而是如何重新获得对一个至关重要的系统完全的控制权，因为这个系统决定着哪些程序可以运行。
与此同时，云控制平面开始退化。DNS 解析变得不稳定。一些区域流量路由正常，而另一些区域则不然。由于运营商和企业同时尝试故障转移，电信网络变得拥堵。互联网并非完全中断，而是变得支离破碎，而混乱的不可预测性造成的破坏远比彻底中断更大。
数日内：控制住疫情，但无复苏
最终，损害的蔓延被遏制。隔离措施本身作为系统不可或缺的一部分，被隔离并暂停了足够长的时间进行修复。但代价是巨大的。
关键服务按优先级顺序恢复：医疗系统、公用事业、应急通信、主要金融渠道等等。数百万个次要的非关键系统最终只能以降级的安全模式运行，甚至根本无法运行。在某些情况下，由于软件程序故障导致硬件超出安全极限，造成了不可逆转的结构性损坏，功能下降甚至完全丧失，需要耗费大量资金和时间进行更换。
互联网回归了，但已然改变。它更慢、限制更多、更不值得信任。
要恢复到接近之前的状态可能需要数周时间。重建信心可能需要数月甚至数年。对某些人来说，信任或许永远无法完全恢复。
这是什么意思？
其后果将远远超出技术领域。
现代物流依赖于持续不断的互联互通。金融市场需要可靠的最新数据流、稳定的交易执行和可预测的结算。任何一项出现问题，市场信心都会迅速瓦解。
市场最初可能会出现剧烈反应。价差扩大，流动性下降，市场参与者争相降低风险敞口，相关性飙升。随后，市场进入更为危险的阶段。价格发现机制开始失效，数据源变得不稳定，交易场所出现故障或限速，经纪商收紧风险控制、提高保证金，甚至完全限制产品交易。结算时间表也变得难以确定。
在这种情况下，最严重的风险并非收入或资产本身的损失，而是无法采取行动阻止损失的发生。当参与者无法可靠地建仓、平仓、对冲或清算头寸时，无论市场走向如何，杠杆都会成为一种负担。人们对集中式云架构的信心减弱，冲击波将从科技股蔓延至银行、支付、医疗平台和企业财务运营等领域。
即使被视为不可撼动的机构，也可能因系统性信任（而非收入）的下降而遭受严重的估值下跌。
展望未来
复苏可能不仅需要技术上的修复，还需要社会层面的修复。
对最高效率的追求将让位于对韧性的重新重视。离线备用方案将重新变得重要。人工监督将重新引入关键决策流程。冗余将再次被视为一种特性而非浪费。去中心化将不再是口号，而是成为一种实际的必需品。
数字系统的恢复速度将快于数字信任。互联网仍将不可或缺，但人们不会再将其视为理所当然，也不会再认为它绝对可靠。
在小范围内，非正式的物物交换和本地交换系统可能会暂时重新出现。这并非出于意识形态，而是出于务实主义。当数字信任崩溃时，人们更容易就实际价值达成共识。
全球即时信息流的丧失，即使只是暂时的，也可能重塑机构、企业和个人未来评估风险的方式。
这对今天的你意味着什么
这种假设性思维练习的目的并非为了制造恐慌，而是为了激发一种先发制人的自我诚实。
大多数交易员都会对价格波动和趋势进行压力测试，但很少有人会测试其所运行的基础设施是否存在故障。
从这次实践中可以学到的实用经验是做好准备。要分散投资于各类资产，而不仅仅是单一的投资工具。要将流动性视为一项基本要素，而不是一种假设。在执行力可能下降的环境下，要谨慎使用杠杆。要了解在系统性事件级联期间的相关性风险，即当通常表现不同的资产开始同步波动时。
在一个追求速度的世界里，真正的优势不在于预测的准确性，而在于韧性。市场有时会惩罚无知，但惩罚过度自信的频率更高，力度也更大。
重新审视您的风险敞口、流动性假设和应急计划。在当今世界，连锁风险不会提前预警。它们往往像转发的电子邮件一样，突然而至，伴随着一声巨响。
最重要的是，请提前思考这个令人不安的压力测试问题：如果你 48 小时内无法采取行动，你会遇到多大的麻烦？
