前言:
此刻朋友们对“android缓存算法”大致比较关注,你们都想要学习一些“android缓存算法”的相关资讯。那么小编也在网络上收集了一些关于“android缓存算法””的相关知识,希望我们能喜欢,咱们快快来学习一下吧!背景
在自媒体的时代,音视频播放 俨然已成为内容类型 APP 最基础的能力,对于 Android 开发者而言,无论是 Google 开源的 ExoPlayer ,还是 Bilibili 开源的 ijkplayer , 都是构建应用音视频播放能力时优秀的选择。
虽然上述的三方播放器都自带完善的缓存功能,但对于内容和形式都日新月异的一众互联网产品来说,想要打造完美契合自家产品的用户体验,播放器自身的缓存机制已逐渐无法满足需求。
最具代表性的产品是 抖音。 在播放短视频内容时,保证浏览、上下切换时 无缝链接 般丝滑的用户体验,可以说是重中之重的性能要求,而这对于传统的播放器缓存机制而言是远远满足不了要求的。
因此,构建自定义音视频缓存机制势在必行。
本文将针对 Android 音视频缓存解决方案中,先驱级别的 AndroidVideoCache 库进行深入的剖析,读者不应关注具体的代码细节,而应关注整体的设计思想及流程实现。
文章整体结构如下:
现有方案对比1、文件整体缓存
这是最简单的缓存方案,即 先下再播 ,只有文件完整下载完毕,才能进行播放。
严格来说,在某些特殊的业务场景,这种方案简单、粗暴但却 有效 ,比如微信聊天中的小视频,经过限制时长以及高效的压缩算法,视频整体被压缩的非常小,对于 4G 早已覆盖的用户群体而言,加载、播放视频整个流程中几乎不受影响。
在其他下载成本略高的场景,诸如短视频、播放音乐,这种方案就不太适合,更不论电视剧、电影这类更重的应用场景了。
2、基于源码修改
第二个方案,是基于播放器源码进行修改,优势在于简洁直接,能够以较低开发成本满足业务需求,但缺点有二:
首先,当播放器为三方SDK时,源码修改成本变高,同时,当需要替换播放器SDK时,需针对缓存机制重新开发。
其次,缓存机制不可避免会涉及实际业务,这会提升业务层与底层播放能力之间的耦合。
3、音视频缓存代理方案
由此可见,我们更期望能够在 业务层 和 播放器层 之间搭建一个中间商,由这个新的角色 代理 与业务层的通信,然后 分发 与 执行 播放器层的音视频缓存任务。
4、更多优势
从长远来看,针对现有的架构设计,额外定义一个 缓存层 是很有必要的,这意味着容易实现和扩展 更多细节性的需求;比如同时针对多个音视频进行缓存、针对不同优先级缓存任务速度的限制策略等等,对于月活千万或上亿的头部应用而言,这些都是保证极致用户体验的必要实现。
整体设计
如何构建音视频缓存的代理?首先,我们需要了解 APP 音视频的常规缓存模式及其弊端:
如图所示,常规方式中,缓存相关逻辑是由播放器本身提供的,开发者仅需将视频地址的url交给播放器,播放器会自动进行加载播放。
这种方式下,想要自定义缓存就必须深入播放器源码,对于开源播放器而言,虽然源码上手成本较高,但至少是可针对源码进行定制,但对于部分非开源的播放器而言,开发者几乎无法直接触达内部缓存机制。
【相关学习资料推荐,点击下方链接免费报名,报名后会弹出学习资料免费领取地址~】
【免费】FFmpeg/WebRTC/RTMP/NDK/Android音视频流媒体高级开发-学习视频教程-腾讯课堂
C++音视频更多学习资料:点击莬费领取→音视频开发(资料文档+视频教程+面试题)(FFmpeg+WebRTC+RTMP+RTSP+HLS+RTP)
我们更希望,无论播放器本身是否开源,都能够在 不涉及理解和修改播放器源码 的情况下,完全控制音视频的缓存机制——我们先将这个中间角色称为 CacheService,整体流程如下:
如图所示,播放器层的播放和加载流程都委托给 CacheService,后者内部实现了包括文件下载、文件读写等一系列的相关逻辑,最终转交给播放器进行播放。
需要注意的是,由于 CacheService 完全是由我们自己定义的,因此我们也可以监听到音视频文件的整个缓存流程,并直接回调通知给最上层的 APP(上图中onCacheStart()等回调),且整个过程完全是 响应式 的。
读者应该理解,之所以 直接回调通知最上层 ,是有这个前提——我们希望整个缓存流程都不会涉及到播放器层的改动,比如 Android 系统的 MediaPlayer,我们无法也不应该修改它。
具体实现1、逻辑冲突
设计的伊始谈到,为了保证解耦, 我们希望缓存机制 不能修改播放器源码 ,但 MediaPlayer 如何在不改源码的情况下,将自身的缓存加载逻辑交给我们的 CacheService 呢?
如下述代码中所展示的,这种实现似乎无法避免:
public class MyMediaPlayer extends MediaPlayer { public final CacheService mProxy; @Override public void setDataSource(String url) { // super.setDataSource(url); mProxy.setDataSource(url); }}
必须承认,这也是一种与播放器的耦合,不能修改播放器源码 的设定似乎并不符合常理。
这里体现出了作者本身优秀的创造力,通过创建一个设备的本地代理服务 CacheService,在将视频资源的url交给播放器之前,先进行本地的一次转换,并将初始的url作为参数,拼接在本地代理的url上:
1.建立本地代理:比如
2.拿到要缓存的视频地址,比如
3.拼接为新的地址:
拿到新的 url 并交给任意播放器后,播放器的加载都指向本地服务的新地址——即通过 Socket 连接建立的本地服务 CacheService,后者通过解析出请求中真正的 地址,创建对应的下载任务,并从下载的文件缓存中,读取 buffer 返回给播放器;同时,监控整个流程的 CacheService 响应式地回调过程中所有大大小小的事件。
经过这样设计,整个流程的调用变得非常简单:
public class MainActivity extends Activity { public final MediaPlayer mPlayer; @Override public void playVideo(String url) { final String proxyUrl = VideoUtils.getProxyUrl(url); // url = // proxyUrl = mPlayer.setDataSource(proxyUrl); }}2、创建代理服务器
接下来,笔者通过伪代码的形式,简单阐述下创建本地代理连接的过程。
上文提到的本地服务 CacheService在创建时,会自动初始化一个本地代理服务器,配置ip和自动分配端口号,这之后,服务完成初步建立,并立即开启一个线程,等待接收客户端的后续连接。
// 实际类名 HttpProxyCacheServer.javapublic final class CacheService { private CacheService(Config config) { // 初始化ip和端口号 InetAddress inetAddress = InetAddress.getByName("127.0.0.1"); this.serverSocket = new ServerSocket(0, 8, inetAddress); this.port = serverSocket.getLocalPort(); // 开启新的线程,等待后续接收客户端的连接 this.waitConnectionThread = new Thread(new WaitRequestsRunnable()); this.waitConnectionThread.start(); }}3、处理缓存请求
本地服务建立完毕,当用户尝试播放音视频时,播放器实际上访问类似 的地址,这时我们的 CacheService 中接到了对应的消息。
针对每一次请求,我们都能解析到真实音视频文件的地址(),为了提高复用性,我们声明一个HttpProxyCache类,为每一个音视频配置一个对应的 HttpProxyCache 以进行管理:
class HttpProxyCache extends ProxyCache { // 视频资源的url地址 private final HttpUrlSource source; // 视频资源的本地文件信息 private final FileCache cache;}
实际上还不够,我们还需要针对每个音视频缓存过程的回调进行管理,因此,基于此再封装一层,使用 HttpProxyCacheServerClients 管理一个音视频资源:
final class HttpProxyCacheServerClients { private final String url; // 视频资源url private volatile HttpProxyCache proxyCache; // 缓存信息 private final List<CacheListener> listeners = new CopyOnWriteArrayList<>(); // 缓存监听}
简单概括一下,针对一次新的音视频资源加载,会构建一个新的 HttpProxyCacheServerClients,内部除了相关信息的成员,还包含了 HttpProxyCache 对象用于读取和加载缓存。
4、远程加载流程
抽象地看待音视频的源,分为 远程音视频资源 和 本地音视频资源,当不使用缓存时,必然会从远程进行下载,并不断将音视频的流通过 Socket 向播放器传输。
这里我们将 源 抽象为 Source:
public interface Source { // 建立打开资源 void open(long offset) throws ProxyCacheException; // 获取音视频的长度 long length() throws ProxyCacheException; // 不断读取音视频数据 int read(byte[] buffer) throws ProxyCacheException; // 关闭释放资源 void close() throws ProxyCacheException;}
对于远程加载的完整流程,本质上就是建立、打开、读取和关闭一个远程连接 HttpURLConnection的过程,核心代码如下:
public class HttpUrlSource implements Source { @Override public void open(long offset){ HttpURLConnection connection = openConnection(offset, -1); } @Override public int read(byte[] buffer){ return inputStream.read(buffer, 0, buffer.length); } // ...}
【相关学习资料推荐,点击下方链接免费报名,报名后会弹出学习资料免费领取地址~】
【免费】FFmpeg/WebRTC/RTMP/NDK/Android音视频流媒体高级开发-学习视频教程-腾讯课堂
C++音视频更多学习资料:点击莬费领取→音视频开发(资料文档+视频教程+面试题)(FFmpeg+WebRTC+RTMP+RTSP+HLS+RTP)
5、缓存加载流程
更多的时候,无论音视频资源是否已下载,我们都希望通过缓存统一加载管理:
1、文件已下载:直接读取本地文件,将数据通过Socket不断传回给播放器;
2、文件未下载:新建一个本地文件,并开启远程下载任务,下载过程中,数据流不断涌入本地文件,本地文件大小、下载进度的变更都会响应式通知上层;除此之外,新的音视频流数据会通过Socket不断传回给播放器,播放器也会不断的推进播放进度。
由此可见,无论文件是否下载,缓存流程都是围绕 本地缓存文件 进行的,这也符合软件开发中的 唯一可信源 的概念。
接下来针对部分细节问题进行探讨。
6、自定义缓存策略
缓存所占用的空间往往会成为迫使用户卸载应用的最后一根稻草。
开发者不能无上限对音视频资源进行缓存,通常的维护手法是通过 限制空间大小,比如,用户通常可以接受视频类应用有 1G 左右的缓存空间,即时通信类应用也许会更大些。
因此我们的缓存库也需要提供这样的能力,可通过实现DiskUsage接口,实现不同的缓存策略。
// 缓存空间管理类public interface DiskUsage { void touch(File file) throws IOException;}
可以预设一些缓存策略供开发选择:
TotalCountLruDiskUsage:限制缓存数量TotalSizeLruDiskUsage:限制缓存大小UnlimitedDiskUsage:没有缓存限制
对于这样的诉求,通用的解决方案仍然是经典的 LruCache,通过最近最少算法,缓存达到上限时,清理掉最久远的缓存文件。
7、缓存文件生成策略
类似的还有缓存文件的文件名生成策略,默认是使用的 MD5 方式生成 key,考虑到一些业务逻辑,我们也可以自定义一个 FileNameGenerator 来实现自己的策略:
public interface FileNameGenerator { String generate(String url);}
展望 & 更多问题
看起来,目前 AndroidVideoCache 库已经非常全面——这也正是目前 GitHub 上源码中提供现有的全部功能。
实际上,对于市面上复杂的音视频产品而言,部分功能还有所欠缺,简单列举几条如下:
1、视频文件类型支持不够
针对体量较小的产品系统而言,针对 mp3、mp4 这种简单的音视频文件的缓存完全够用,但对于复杂庞大的系统,更多类型的音视频资源一旦涌入,现有实现变得捉襟见肘。
m3u8 格式视频的缓存是典型的场景,由于是切片的数据,因此需要特殊的处理方式,缓存需要考虑切片索引以及视频文件的拼接。
2、Seek功能的缓存支持
缓存加载流程 一节中,笔者针对 文件已下载 和 文件未下载 进行了简单的概括。
事实上,用户真实的交互非常复杂,Seek操作是一个典型的操作:当用户播放时长10分钟的视频时,当缓存预加载到第4分钟时,用户直接操作进度条,从第1分钟切到了第8分钟。
此时,由于缓存尚未预加载到指定的位置,而目前的实现仅仅对一个本地文件进行读和写的操作,因此我们不能直接在现有的缓存文件上(第4分钟)直接追加断裂的(第8分钟)数据。
因此现有实现的方式是,针对这种情况,直接结束缓存过程,直接加载远程数据——即切换到 远程加载流程,不再写入和读取本地缓存文件。
这就导致一个额外的后果,当用户下一次点击播放这个视频,本地的缓存文件中只有4分钟的缓存,用户依然要浪费相当一部分的流量。
3、多任务缓存 & 限速策略
文章开始我们说到,针对部分业务场景,产品需要提供 多任务同时缓存 的能力,依然以 抖音 为例,在播放第一个短视频时,同时针对后续的 1-3 条短视频进行 预加载 是完全有必要的。
除此之外,我们还需要针对不同类型的缓存任务设置不同的 缓存优先级,通过维护一个 任务队列,保证任务能够按需分配,按优先级及时执行。
最后,针对不同优先级的缓存任务,还需要分配不同的 限速策略,保证多个 多任务同时缓存 时,前台的视频不会被后台的任务影响,保证用户的视听体验。
阶段性小结
当然,即使 AndroidVideoCache 目前的实现还有一些不足,我们依然无法否定它在 Android 音视频缓存领域做出的巨大贡献。
换句话说,AndroidVideoCache 现有的实现已经为我们提供了通用性的解决方案,对于 小型项目完全可以直接使用;而对于大型项目,我们只需在现有的基础上,对自身业务进行补充,也完全可以达到 产品化 的目的。
同时,这种 建立本地代理服务 、 响应式的缓存机制 的思想是非常优秀的,即使是若干年后 Google 推出的 Jetpack Paging 分页组件,也隐约可以看到这种思想的影子,读者可仔细理解这种设计理念,并尝试应用到更多的业务架构设计上去。
如果你对音视频开发感兴趣,觉得文章对您有帮助,别忘了点赞、收藏哦!或者对本文的一些阐述有自己的看法,有任何问题,欢迎在下方评论区与我讨论!
标签: #android缓存算法