1.iOS本地缓存方案之YYCache源码解析
2.④优雅的缓存缓存缓存框架：SpringCache之多级缓存
3.开源即时通讯GGTalk源码剖析之：客户端全局缓存及本地存储
4.golang本地缓存(bigcache/freecache/fastcache等)选型对比及原理总结
5.Chromium源码剖析：HTTP缓存策略与架构
6.简单概括Linux内核源码高速缓存原理（图例解析）
iOS本地缓存方案之YYCache源码解析
简单列举一下，iOS的源码源码本地缓存方案有挺多，各有各的大全大全适用场景：
本文主要聊聊YYCache的优秀设计。高性能的下载线程安全方案是YYCache比较核心的一个设计目标，很多代码逻辑都是缓存缓存围绕性能这个点来做的。与TMMemoryCache方案相比，源码源码海洋江湖6源码YYCache在同步接口的大全大全设计上采用了自旋锁来保证线程安全，但仍然在当前线程去执行读操作，下载这样就可以节省线程切换带来的缓存缓存开销。而TMCache在同步接口里面通过信号量来阻塞当前线程，源码源码然后切换到其他线程去执行读取操作，大全大全主要的下载性能损耗在这个线程切换操作上，同步接口没必要去切换线程执行。缓存缓存此外，源码源码使用dispatch_sync实现同步的大全大全方案也可以做到节省线程切换的开销，与加锁串行的方案相比，性能如何还需要进一步测试验证。除了高性能的本地存储方案，YYCache在本地持久化提高性能方面采取了策略，对于大于k的数据采取直接存储文件，然后在sqlite中存元信息；对于小于k的数据则直接存储在sqlite中。数据完整性保障方面，YYCache在存储文件时，存在数据库的元信息和实际文件的存储必须保障原子性。此外，YYCache还新增了实用功能，比如LRU算法，基于存储时长、数量、大小的缓存控制策略等。这些设计和功能使得YYCache在iOS本地缓存方案中具有较高的竞争力和实用性。
④优雅的缓存框架：SpringCache之多级缓存
多级缓存策略能够显著提升系统响应速度并减轻二级缓存压力。本文采用Redis作为二级缓存，Caffeine作为一级缓存，通过多级缓存的设计实现优化。
首先，进行多级缓存业务流程图的声明，并通过LocalCache注解对一级缓存进行管理。具体源码地址如下。瑞哺恩菁珀溯源码在哪里
其次，自定义CaffeineRedisCache，进一步优化缓存性能。相关源码地址提供如下。
为了确保缓存机制的正确执行，自定义CacheResolver并将其注册为默认的cacheResolver。具体实现细节可参考以下源码链接。
在实际应用中，通过上述自定义缓存机制，能够有效地提升系统性能和用户体验。为了验证多级缓存优化效果，我们提供实战应用案例和源码。相关实战案例和源码如下链接。
实现多级缓存策略的完整源码如下：
后端代码：<a href="github.com/L1yp/van-tem...
前端代码：<a href="github.com/L1yp/van-tem...
欲加入交流群讨论更多技术内容，点击链接加入群聊： Van交流群
开源即时通讯GGTalk源码剖析之：客户端全局缓存及本地存储
继上篇详细介绍了 GGTalk 内置的虚拟数据库，本文将深入探讨 GGTalk 客户端的全局缓存及本地存储机制。对于还没有获取GGTalk源码的朋友，文章底部附有下载链接。
一. GGTalk 客户端缓存设计
核心在于ClientGlobalCache类，它在内存中保存用户和群组数据。此类接受泛型参数TUser和TGroup，且限定TUser和TGroup需实现特定接口，还继承自BaseGlobalCache类。三个私有字段分别用于存储用户、群组和缓存信息。
构造函数接收五个参数，用于初始化私有字段，并调用父类BaseGlobalCache的Initialize方法，实现缓存初始化逻辑。
二. GGTalk 客户端本地持久化存储
BaseGlobalCache类中，originUserLocalPersistence字段负责本地文件存储。它包含四个属性，代表好友列表、群组列表、快捷回复列表和最近联系人/群列表。
Load和Save方法用于读写本地文件，将数据存入或从文件加载。在了解本地缓存的易语言cf一键找基址源码核心概念后，回到Initialize方法，读取本地文件数据，缓存到内存中。
三. 更新本地缓存
在用户登录或断线重连时，系统会比较本地缓存与服务器数据，更新缺失或过时的信息。当缓存中只有用户自己时，会从服务器加载所有联系人；当存在其他数据时，会更新本地缓存以反映服务器最新状态。
四. 总结
GGTalk客户端缓存流程包括读取本地缓存、从服务器加载更新数据，以及在窗口关闭时将当前用户数据缓存。下篇将解析消息收发及处理机制。
敬请期待：《GGTalk 开源即时通讯系统源码剖析之：消息收发及处理》。底部链接提供下载GGTalk源码。
golang本地缓存(bigcache/freecache/fastcache等)选型对比及原理总结
以下内容来自腾讯后台研发工程师jayden
导语：提到本地缓存大家都不陌生，只要是个有点经验的后台开发人员，都知道缓存的作用和弊端。本篇文章我们就来简单聊聊在golang做业务开发的过程中，本地缓存的一些可选的开源方案，分析它们的特点，以及内部的实现原理。
1.本地缓存需求分析
首先来梳理一下业务开发过程中经常面临的本地缓存的一些需求。我们一般做缓存就是为了能提高系统的读写性能，缓存的命中率越高，也就意味着缓存的效果越好。其次本地缓存一般都受限于本地内存的大小，所有全量的数据一般存不下。那基于这样的场景一方面是想缓存的数据越多，则命中率理论上也会随着缓存数据的增多而提高；另外一方面是想，既然所有的数据存不下那就想办法利用有限的内存存储有限的数据。这些有限的数据需要是经常访问的，同时有一定时效性(不会频繁改变)的。基于这两个点展开，我们一般对本地缓存会要求其满足支持过期时间、支持淘汰策略。最后再使用自动管理内存的语言例如golang等开发时，还需要考虑在加入本地缓存后引发的抖音卡片链接生成器 源码GC问题。
分析完我们日常本地缓存的诉求，再结合我们日常开发用到的golang语言，我们可以提炼得到golang本地缓存组件必须具备以下几个能力：
分析清楚了我们的需求，也明确了我们需要的能力。那自然优先考虑golang内置的标准库中是否存在这样的组件可以直接使用呢？很遗憾，没有。golang中内置的可以直接用来做本地缓存的无非就是map和sync.Map。而这两者中，map是非并发安全的数据结构，在使用时需要加锁；而sync.Map虽然是线程安全的。但是需要在并发读写时加锁。此外二者均无法支持数据的过期和淘汰，同时在存储大量数据时，又会产生比较频繁的GC问题，更严重的情况下导致线上服务无法稳定运行。
既然标准库中没有我们满足上述需求的本地缓存组件，那我们就想只有两种解决方案了
那首先面临的第一个问题就是方案的调研和选型，没有合适的方案时自己再来动手构建。下面我们就来给大家介绍下golang中哪些可以直接来使用的本地缓存组件吧。
2.golang本地缓存组件概览
golang中本地缓存方案可选的有如下一些：
下面通过笔者一段时间的调研和研究，将golang可选的开源本地缓存组件汇总为下表，方便大家在方案选型时作参考。
在上述方案中，freecache、bigcache、fastcache、ristretto、groupcache这几个大家根据实际的业务场景首选，offheap有定制需求时可考虑。
通过上表的总结，个人想再此再谈几点关于本地缓存组件的理解：
（1）上述本地缓存组件中，实现零GC的方案主要就两种：
a.无GC：分配堆外内存(Mmap)
b.避免GC：map非指针优化(map[uint]uint)或者采用slice实现一套无指针的map
c.避免GC：数据存入[]byte slice(可考虑底层采用环形队列封装循环使用空间)
（2）实现高性能的关键在于：
a.数据分片(降低锁的粒度)
3. 主流缓存组件实现原理剖析
在本节中我们会重点分析下freecache、bigcache、fastcache、offheap这几个组件内部的实现原理。
3.1 freecache实现原理
首先分析下freecache的内部实现原理。在freecache中它通过segment来进行对数据分片，freecache内部包含个segment，疫情溯源码怎么打印不出来每个segment维护一把互斥锁，每一条kv数据进来后首先会根据k进行计算其hash值，然后根据hash值决定当前的这条数据落入到哪个segment中。
对于每个segment而言，它由索引、数据两部分构成。
索引：其中索引最简单的方式采用map来维护，例如map[uint]uint这种。而freecache并没有采用这种做法，而是通过采用slice来底层实现一套无指针的map，以此避免GC扫描。
数据：数据采用环形缓冲区来循环使用，底层采用[]byte进行封装实现。数据写入环形缓冲区后，记录写入的位置index作为索引，读取时首先读取数据header信息，然后再读取kv数据。
在freecache中数据的传递过程是：freecache->segment->(slot,ringbuffer) 下图是freecache的内部实现框架图。
总结： freecache通过利用数据分片减小锁的粒度，然后再存储时索引并没有采用内置的map来维护而是采用自建map减少指针来避免GC，同时数据存储时采用预先分配内存然后后边循环使用。通过上述两种方法保证了在堆上分配内存同时减少GC对系统性能的影响。
3.2 bigcache实现原理
bigcache和freecache类似，也是一个零GC、高性能的cache组件，但是它的实现和freecache还是有些差异，这儿有篇 英文博客介绍bigcache设计原理的，内容稍长感兴趣的可以阅读下，下面我们介绍一下bigcache的实现原理。
bigcache同样是采用分片的方式构成，一个bigcache对象包含2^n 个cacheShard对象，默认是个。每个cacheShard对象维护着一把sync.RWLock锁(读写锁)。所有的数据会分散到不同的cacheShard中。
每个cacheShard同样由索引和数据构成。索引采用map[uint]uint来存储，数据采用entry([]byte)环形队列存储。索引中存储的是该条数据在entryBuffer写入的位置pos。每条kv数据按照TLV的格式写入队列。
不过值得注意的是，和bigcache和freecache不同的一点在于它的环形队列可以自动扩容。同时bigcache中数据的过期是通过全局的时间窗口维护的，每个单独的kv无法设置不同的过期时间。
下面是bigcache的内容实现原理框架图。
总结：bigcache思路和freecache大体相同，只不过在索引存储时更为巧妙，直接采用内置的map结构加上基础数据类型来实现。同时底层存储数据的队列也可以根据空间大小来决定是否扩容。唯一的缺陷是无法针对每个key进行设置不同的过期时间。这个个人认为如果想用bigcache同时想要这个特性，可以进行二次开发一下。
通过 性能测试数据来看，bigcache性能要比freecache稍微好一点。大家可以思考下他们性能的差异可能会在哪里呢？
3.3 fastcache实现原理
本节介绍下fastcache的实现原理，根据fastcache官方文档介绍，它的灵感来自于bigcache。所以整体的思路和bigcache很类似，数据通过bucket进行分片。fastcache由个bucket构成。每个bucket维护一把读写锁。在bucket内部数据同理是索引、数据两部分构成。索引用map[uint]uint存储。数据采用chunks二维的切片(二维数组)存储。不过值得注意的是fastcache有一个很大的特性是，它的内存分配是在堆外分配的，而不是在堆上分配的。堆外分配的内存。这样做也就避免了golang GC的影响。下图是fastcache内部实现框架图。
总结： fastcache一方面充分利用了分片来降低锁的粒度，另一方面在索引存储时采用了对map的优化，同时在分配内存时，直接从堆外申请内存，自己实现了分配和释放内存的逻辑。通过上述手段使得GC的影响降到了最低。fastcache唯一的缺陷是官方提供的版本没有提供针对kv数据的过期时间这个特性。所以如果需要这个特性的话，需要自己动手二次开发。整体从性能上来看是比bigcache和freecache都更优。
3.4 offheap实现原理
本节介绍下offheap的相关内容，offheap其实功能就比较简单了，就是一个基于堆外内存构建的哈希表。它通过直接调用系统调用函数来分配内存。然后在内部通过数组来实现哈希表。实现过程中当发生哈希冲突时，它是采用探测法来解决。由于是在堆外分配的内存上构建的哈希表。导致它的GC开销非常的小。下图是offheap的内部实现框架图。
总结：offheap内部由于是采用探测法解决哈希冲突的，所以当哈希冲突严重时数据删除、查询都会带来非常复杂的处理流程。而且性能也会有一些损耗。可以作为学习和研究的项目还是非常不错的。
4.总结
本文主要从日常需求出发，分析了日常业务过程中对本地缓存的需求，再调研了业界可选的一些组件并进行了对比，希望对本地缓存选型上起到一些参考和帮助。最后再对其中比较重要的几个组件如freecache、bigcache、fastcache、offheap等做了内部实现的简单介绍。上述内容只是从架构层面展开介绍，后续有时间再从源码层面做一些分析。由于篇幅限制本篇内容并未对map、sync.Map、go-cache、groupcache进行介绍。感兴趣的读者可以自行搜索资料进行阅读。如果大致理解了上述原理的童鞋也可以自己动手实践起来，造个轮子看看。
5.参考资料
欢迎点赞分享，关注 @鹅厂架构师，一起探索更多业界领先产品技术。
Chromium源码剖析：HTTP缓存策略与架构
Chromium的HTTP缓存策略与架构涉及到多个关键点，从浏览器的多进程架构出发，直至深入HTTP协议的实现，以及针对基于HTTP协议的网络应用的优化。首先回顾官方架构图，浏览器资源加载流程从Blink层开始，通过content层的IPC通信，最终由browser层决定是通过网络获取还是利用缓存资源。本文主要聚焦于browser层的代码，特别是与HTTP缓存策略相关的类和架构。
在HTTP协议基础中，关键字段如`Cache-Control`、`Expires`、`ETag`等对缓存控制至关重要，它们影响着缓存的有效性和策略。对于HTTP请求与响应中常用字段的解释，有助于理解如何根据这些字段决定资源加载路径。HTTP协议中的分片请求与浏览器的分片缓存策略相结合，支持在线播放、滑动进度条等操作，对于多媒体资源的加载尤其关键。
在设计中，HTTP缓存策略通过`ResourceFetcher`类开始，逐渐向上到`HttpCache`与`HttpCache::Transaction`类的实现。`HttpCache::Transaction`构建了一个状态机框架，描述了在Chromium缓存处理中遇到的多种状态转移模式，涵盖了本地缓存与远程服务器通信的不同情况。状态机的转移逻辑展示了资源如何在缓存系统中流动，以及在不同阶段可能涉及的同步与异步处理。
预取机制是Chromium的一个重要特性，通过提前获取文档中的链接或资源文件清单，浏览器可以在后台缓存或处理它们，以减少稍后加载所需的时间。预取的时机与场景，尽管本文并未详细探究，但读者可自行研究，欢迎讨论。
Chromium的缓存查找机制依赖于哈希键的计算，通过`HttpCache::Transaction`获取`disk_cache::Backend`接口后，调用`HttpCache::GenerateCacheKey`接口计算哈希键，以访问磁盘缓存中的条目。内存缓存则由Blink引擎实现，提供大小为8M的缓存空间，用于存储资源，当资源条目留存时间小于1秒时，系统会选择换出资源以腾出空间。
Chromium的HTTP缓存系统涉及复杂类之间的交互与状态转移，以及内存与磁盘缓存的管理。虽然系统设计复杂，但其背后的逻辑与机制具有研究价值。预取、内存缓存的换入换出策略、Disk Cache系统等都是值得深入探讨的话题。理解这些机制有助于优化网络应用的性能与用户体验。
简单概括Linux内核源码高速缓存原理（图例解析）
高速缓存(cache)概念和原理涉及在处理器附近增加一个小容量快速存储器(cache)，基于SRAM，由硬件自动管理。其基本思想为将频繁访问的数据块存储在cache中，CPU首先在cache中查找想访问的数据，而不是直接访问主存，以期数据存放在cache中。
Cache的基本概念包括块（block），CPU从内存中读取数据到Cache的时候是以块（CPU Line）为单位进行的，这一块块的数据被称为CPU Line，是CPU从内存读取数据到Cache的单位。
在访问某个不在cache中的block b时，从内存中取出block b并将block b放置在cache中。放置策略决定block b将被放置在哪里，而替换策略则决定哪个block将被替换。
Cache层次结构中，Intel Core i7提供一个例子。cache包含dCache（数据缓存）和iCache（指令缓存），解决关键问题包括判断数据在cache中的位置，数据查找(Data Identification)，地址映射(Address Mapping)，替换策略(Placement Policy)，以及保证cache与memory一致性的问题，即写入策略(Write Policy)。
主存与Cache的地址映射通过某种方法或规则将主存块定位到cache。映射方法包括直接(mapped)、全相联(fully-associated)、一对多映射等。直接映射优点是地址变换速度快，一对一映射，替换算法简单，但缺点是容易冲突，cache利用率低，命中率低。全相联映射的优点是提高命中率，缺点是硬件开销增加，相应替换算法复杂。组相联映射是一种特例，优点是提高cache利用率，缺点是替换算法复杂。
cache的容量决定了映射方式的选取。小容量cache采用组相联或全相联映射，大容量cache采用直接映射方式，查找速度快，但命中率相对较低。cache的访问速度取决于映射方式，要求高的场合采用直接映射，要求低的场合采用组相联或全相联映射。
Cache伪共享问题发生在多核心CPU中，两个不同线程同时访问和修改同一cache line中的不同变量时，会导致cache失效。解决伪共享的方法是避免数据正好位于同一cache line，或者使用特定宏定义如__cacheline_aligned_in_smp。Java并发框架Disruptor通过字节填充+继承的方式，避免伪共享，RingBuffer类中的RingBufferPad类和RingBufferFields类设计确保了cache line的连续性和稳定性，从而避免了伪共享问题。
