CDN 架构详解：多级缓存是如何工作的

在内容分发的世界里，速度就是一切。但内容分发网络（CDN）究竟是如何实现如此高的速度的呢？秘密在于它们的缓存架构。

三级缓存策略

我们的 CDN 引擎采用了一套精密的三级缓存机制，以确保热点数据和冷数据都能获得最佳性能。

• L1 (内存): 为最热门的内容提供极速访问。
• L2 (SSD): 为热点数据提供高速存储。
• L3 (HDD): 为长尾内容提供海量存储容量。

请求合并 (SingleFlight)

在高并发场景下，同一个热门文件（如热点视频或突发新闻图片）可能会在瞬间产生数千个并发请求。如果没有保护机制，这些请求会穿透缓存层，直接压垮源站，这种现象被称为“缓存击穿”。

CDN Engine 引入了 SingleFlight 机制。当多个请求同时访问同一个尚未缓存的资源时，系统会将它们合并为一个回源请求。第一个请求获取数据并写入缓存后，所有等待的请求将同时从缓存中获得数据。这能将数千次的回源请求降低为 1 次，极大地保护了源站。

切片缓存技术

对于 GB 级别的大文件（如安装包、高清视频），传统的整体缓存方式效率低下且容易占用过多磁盘空间。我们采用了切片缓存技术，将大文件分割成固定大小的块（例如 1MB 或 4MB）。

• 按需回源：用户播放视频跳跃时，不仅加载所需片段。
• 并行下载：边缘节点可以并行向源站请求不同的分片，加速回源速度。
• 存储优化：淘汰不常被访问的片段，而不是整个大文件。

这种分层与切片结合的方法，使我们能够有效地平衡成本和性能，确保您的用户始终获得最快的响应时间，同时最大化存储效率。