您当前的位置:首页 > 电脑百科 > 程序开发 > 移动端 > Android

Android系统服务DropBoxManagerService详解与实践应用

时间:2023-03-23 12:25:40  来源:  作者:vivo互联网技术

 

一、背景

随着公司应用的逐渐增多,需要集中收集公司部分应用线上运行的一些崩溃数据和日志来进行分析处理,在此实践过程中了解到系统data/system/dropbox目录会生成所有应用的相关日志文件。

这个目录是由Android系统服务之一DropBoxManagerService来管理,所以由此详细阅读了DropBoxManagerService相关的源码,以下简称DBMS。

DBMS可能是Android系统服务源码较少的一个,所以阅读起来相对比较简单,阅读之后发现,其实这就是一个简易的日志文件管理服务。

我们在对应用本地的部分日志文件进行记录和管理的时候,恰巧可以借鉴DBMS源码对于文件管理的设计方案。

假设不读源码,如果我们自己设计日志文件管理系统,应该需要考虑哪些?

除了最基础的获取各类日志文件的方案,我们针对文件管理可以提出几个需要考虑的点:

  1. 存取日志采用何种策略
  2. 设计哪些防呆策略
  3. 是否需要对外提供接口,提供哪些接口
  4. 如何保证性能
  5. 多进程的问题如何解决
  6. 文件丢失该如何处理
  7. 文件变化如何通知使用方

我们带着以上问题来对DBMS进行一个了解

二、DropBoxManagerService简介

DropBoxManagerService是Android系统的服务之一,采用C/S结构:

  • Client端:DropboxManager,用于对应用层提供接口。
  • Server端:DropBoxManagerService,管理系统目录(data/system/dropbox)的系统服务。
  • 系统Setting数据库:负责管理DBMS的一些配置信息。

整体架构关系如下图所示:

图片

2.1 DropBox目录简介

这个目录的目录结构如下图所示:

图片

里面存放的都是系统的一些日志文件,针对不同类型的文件,文件名称和后缀也有所不同。

2.1.1 文件格式

tag@timeStampMillis.extentions

  • tag:代表日志类型,常见的tag:data_App_anr,system_app_crash,data_app_nativecrash,其中data_app表示普通应用,system_app表示系统应用
  • timeStampMillis:日志的时间戳,一般情况下等于崩溃的时间,有些情况下系统会做一些调整
  • extentions:后缀名,常见的文件后缀名:.txt,.lost,.txt.gz,.tmp,一般的日志文件都是.txt或者.txt.gz,文件被删除后的记录会以.lost命名

这种文件命名方式优点是可以一眼看出这是什么类型的文件。

2.1.2 常见的文件

  1. JE文件:
    data_app_crash@175423252525.txt.gz
  2. NE文件:
    data_app_native_crash@123478923458923.txt.gz
  3. ANR文件:
    data_app_anr@175423252525.txt.gz

还包括一些系统其它的错误日志,内存,重启相关的等等。

2.2 提供的接口

2.2.1 添加文件

addData/addFile/addEntry

2.2.2 获取文件

getNextEntry,根据tag和时间戳来获取想要的文件。

2.2.3 dump目录信息

获取DropBox目录的一些信息:文件个数,文件列表,文件详细信息等,可以通过命令行操作(dumpsys dropbox)。

$ dumpsys dropbox
Drop box contents: 131 entries
Max entries: 1000
// 以下省略......

2.2.4 其它CMD命令

提供其他一些CMD操作的命令,如set-rate-limit,add-low-priority等等。

2.3 目录管控配置

2.3.1 默认基础配置及文件清除策略

这些配置存在系统的setting数据库里面,可以通过settings.global来访问配置。

文件存储的配置主要包括以下几个维度:

  1. 文件存活时长(默认3天);
  2. 最大存储文件数量(默认1000个);
  3. 低内存情况下最大文件数量(默认300个);
  4. DropBox目录所能使用的空间(默认10MB);
  5. DropBox目录最多占可用存储(可用存储=系统可用存储-系统总存储*预留比例)的比例(10%);
  6. DropBox使用需要预留的存储占总存储的比例(10%);
  7. 清除空间时扫描磁盘空间的时间间隔;
  8. 需要压缩的最小文件大小。

根据以上配置,我们可以知道该目录下的日志文件清除策略,触发配置上限后会及时的删除文件。

在以下三种情况会执行文件清除策略,防止DropBox占用太多的空间:

  1. 设备低内存;
  2. setting配置发生变更;
  3. 添加文件。

同时在添加文件的时候,超过配置的可占用空间,会被丢弃。

/**
 * Trims the files on disk to make sure they aren't using too much space.
 * @return the overall quota for storage (in bytes)
 */
private synchronized long trimToFit() throws IOException {
    return mCachedQuotaBlocks * mBlockSize;
}

2.3.2 文件删除及标记处理策略

在上述策略不满足后,部分文件会被删除,删除后,会在DropBox添加一个.lost的空文件标记被删除的文件。

2.3.3 文件类型管控

DropBoxMangerService对于可存储的文件类型也有控制,主要是对于TAG的控制。

public boolean isTagEnabled(String tag) {}

2.3.4 权限管控

使用DropBox需要READ_LOGS权限和PACKAGE_USAGE_STATS两个权限。

2.4 读写策略

这块涉及到DBMS几个关键方法和属性,主要涉及到初始化(init),添加文件(addEntry),获取文件(getNextEntry),文件类型(EntryFile)。

DBMS作为系统服务会由SystemServer启动,添加文件(addEntry)和获取文件(getNextEntry)在调用时会先进行初始化(init)。

其中每个文件都会转换成一个EntryFile类来管理,关系见下图:

图片

下面了解一下初始化,EntryFile,添加文件和获取文件的具体内容:

2.4.1 初始化

初始化会将DropBox文件列表缓存到内存中。

/** If never run before, scans disk contents to build in-memory tracking data. */
private synchronized void init() throws IOException {
    // 省略代码......
     File[] files = mDropBoxDir.listFiles(); // 列出所有文件
     for (File file : files) {
          EntryFile entry = new EntryFile(file, mBlockSize); // 一个日志文件对应一个EntryFile对象
          enrollEntry(entry); // 加入到mAllFiles
    }
}

初始化的时机:

  • 设备存储容量低广播回调 
  • 设置配置项修改
  • 添加日志文件
  • 获取日志文件
  • dump 命令行列出DropBox的一些内容

2.4.2 EntryFile文件属性

每个文件对应一个EntryFile,用block数来统计大小,DBMS涉及的读写都是根据磁盘的blockSize来进行,效率会更高。

static final class EntryFile implements Comparable<EntryFile> {
        public final String tag; // 日志文件的tag,类型
        public final long timestampMillis; // 日志文件的时间戳
        public final int flags; // 日志文件的flag,标志TEXT,EMPTY,GZIPPED
        public final int blocks; // 存放文件的块数
}

2.4.3 添加文件

添加一个日志文件,常见的在Ams中的addErrorToDropBox方法调用。

添加文件管控策略

① .lost的文件格式不允许添加。

// 如果添加.lost的文件,抛异常
if ((flags & DropBoxManager.IS_EMPTY) != 0) throw new IllegalArgumentException();

② 配置不允许记录的TAG,不会被添加。

// 从设置里面读取这个tag是否被允许记录
if (!isTagEnabled(tag)) return;

③ 根据系统设置的磁盘块大小进行写入,提高写入效率。

int bufferSize = mBlockSize;

④ 异常时间戳文件矫正:写入文件前会将超过当前时间10s的文件修改时间后重新命名并加入到缓存文件列表中。

// 找出当前时间10s之后的所有文件
SortedSet<EntryFile> tail = mAllFiles.contents.tailSet(new EntryFile(t + 10000));
EntryFile[] future = null;
if (!tail.isEmpty()) {
    future = tail.toArray(new EntryFile[tail.size()]);
    tail.clear();  // 从文件列表中mAllFiles清除掉超过当前时间的
}
// 省略代码......
for (EntryFile late : future) {
    if ((late.flags & DropBoxManager.IS_EMPTY) == 0) { // 将这些超过当前时间的文件重命名,时间戳依次+1,并且重新加入到mAllFiles中
        enrollEntry(new EntryFile());
    }
}

⑤ 添加文件的顺序,先创建临时文件,然后使用文件的rename方法,rename方法是原子操作,保证并发操作的安全。

// 通过rename方法保存文件,保证并发操作的安全
temp.renameTo(file))

⑥ 文件添加完成之后通过发送广播通知,广播分为实时广播和延迟广播,延迟广播用来通知优先级较低的文件。

//低优先级的可以发送延时广播
mHandler.maybeDeferBroadcast(tag, time);
//高优先级的发送实时广播
mHandler.sendBroadcast(tag, time);

2.4.4 获取文件

DBMS获取文件的逻辑比较简单,根据方法名getNextEntry(String tag, long millis,...)我们可以见名知意,主要根据使用者传入的时间戳,找出这个时间戳往后的第一个文件。

for (EntryFile entry : list.contents.tailSet(new EntryFile(millis + 1))) {
         return new DropBoxManager.Entry(entry.tag, entry.timestampMillis, file, entry.flags);
}

2.5 源码阅读总结

2.5.1 回答我们阅读前提出的问题

① 存取日志的策略

  • 会在低存储,添加获取文件等时机将文件列表初始化到内存中。

② 设计哪些防呆策略

  • 提供了文件大小,存储占比等限制。
  • 会在低存储,配置更改的时候清除文件。
  • 配置保存在setting中,然后通过ContentObserver来监听配置变化。

③ 对外提供哪些接口

  • 提供添加获取,以及cmd命令相关的接口,开发调试都能兼顾。

④ 如何保证性能

  • 从源码的注解可以看出,目前每个Entry无论大小都对应一个文件效率是比较低,源码也列出了TODO,考虑用单文件队列来优化。
// TODO: This implementation currently uses one file per entry, which is
// inefficient for smallish entries -- consider using a single queue file
// per tag (or even globally) instead.
  • 采用文件系统块大小来读写来提高效率。

⑤ 多进程的问题如何解决

  • 文件操作都是先写temp,然后采用rename的方案来保证原子操作从而保证并发操作的安全。
  • addEntry和getNextEntry都做了加锁处理。

⑥ 文件丢失该如何处理

  • 文件被删除后,会用一个同名的空文件来替代,从而标记有文件被删除了。

⑦ 文件变化如何通知使用方

  • 通过发广播的方式来通知外界,针对不同优先级的文件又设置实时和延时广播。

2.5.2 其它点

  1. 文件存储不光限制大小,也会限制文件类型
  2. 文件不是全部压缩的,超过一定大小的文件会进行压缩
  3. 文件命名有讲究,包含了应用类型,崩溃信息,发生时间等相关信息
  4. 文件获取是根据时间戳先后来获取的,对于时间戳异常的文件会进行时间上的调整

2.5.3 作为使用者的看法

当然,我在使用源码的过程中,也发现我个人觉得可以优化的点。

  1. 在使用中,部分文件命名应该加上包名,类似应用产生的崩溃文件,可以按包名区分文件,对使用更友好,当然这个设计的初衷是给系统统一使用,可能不对外开放。
  2. 权限管控过于单一,对于业务本身的一些异常日志,应当支持自由查看。
  3. 这些文件的信息应该用数据库维护起来更好,方便使用者用,当然可能设计可能会变得更复杂,不够简约。

三、源码阅读应用–日志文件管理&上报设计

3.1 概述

背景:

部分应用希望上报应用运行时的一些日志,包括运行时log,崩溃log,Hprof内存快照,捕获异常等等

需求:

需要设计一套客户端的日志文件收集、管理及上报一个功能

参考:

  1. 日志保存管理方案可以参考DBMS中的一些策略
  2. 日志上传方案参考业内已有的一些优秀模型

3.2 方案

整体方案方案采用生产者-消费者模型,其中几个关键节点

  1. 生产者:应用的多个进程,他们可能会生成不同类型的日志,并写入到指定的文件目录
  2. 临时文件目录:根据文件类型、优先级设置不同目录来存放临时文件
  3. 上报数据目录:临时文件目录中的文件会通过rename方案写到上报数据目录
  4. 消费者:上报进程,上报进程会通过FileObserver监听变化,从而来上报文件

整体的流程图如下:

图片

3.3 确定对外接口

  1. 获取文件的接口
  2. 存文件的接口
  3. 统计文件(类型,数量)的接口
  4. 更改部分配置策略的接口
  5. 主动上报的接口
  6. 其它自定义参数的接口

3.4 确定收集管控策略

  1. 是否允许收集:该配置关闭后,本地不会执行任何收集行为
  2. 日志存储目录:私有目录固化出一个空间
  3. 文件命名方式:参照DBMS,进程名_日志类型_前后台@时间戳.txt.gz
  4. 日志类型开关:每个日志类型设置是否允许手机
  5. 收集日志类型:崩溃日志,运行时日志,内存快照,捕获日志,其它自定义日志等
  6. 日志存活时长:参照DBMS,超过一定时间,则删除文件
  7. 日志存储空间:参照DBMS,设置一个手机可用存储的比例·
  8. 日志文件数量:超过指定数量,则删除部分文件;参照DBMS,当可用存储较低的情况,应该存储更少的文件数量
  9. 其余初始化的一些时机,同样参考DBMS

3.5 确定上报管控策略

  1. 是否允许上报,该配置关闭后,不允许上报行为
  2. 是否允许在流量情况下上报,该配置设置不允许后,只允许在wifi情况下上报
  3. 流量情况下单次、单日、单月最多可上报的文件大小,该配置控制流量情况下,应用在上报时可以上报的文件大小
  4. wifi情况下单次、单日、单月最多可上报的文件大小,该配置控制wifi情况下,应用在上报时可以上报的文件大小
  5. 上报间隔时间,该配置控制低优先级的文件上报时间间隔
  6. 上报失败次数限制,该配置控制在失败一定次数以后,不再允许上报
  7. 上报优先级(低优先级的日志无需频繁上报)
  8. 弱网络情况本次上报的文件大小
  9. 单次、单日、单月允许使用的流量大小,该配置控制应用在上报时可以使用的流量大小
  10. 可上报的最低电量限制,该配置控制上报情况下最小电量限制

3.6 收集日志方案

  • DropBox日志:先读取到本地,然后存储上报
  • 运行时日志:利用adb logcat命令输出日志到本地储存上
  • 内存快照:dump Hprof文件,然后进行一些裁剪,以便于能够以更小的体积上传
  • 其它日志:实时输出记录到本地,按需上报

以上具体方案不作为本次重点,不再详述。

3.7 写入日志方案

图片

通过网络课程的学习,了解到mmap的性能非常高,所以最终采用“多进程写+mmap”的方案,并且避免了跨进程的调用堆积,效率很高

3.8 上报日志方案

参照DBMS添加文件的实时和延时通知方案,上报也分为实时上报和延时上报

  • 实时上报:出现一份日志,就直接上报,针对重要性较高的日志
  • 延时上报:达到一定数量,或者达到一定时间进行上报

图片

3.9 数据监控

3.9.1 质量监控

图片

 

3.9.2 容灾监控

图片

 

四、总结

本文主要讲了两块内容:

1、DropBoxManagerService源码阅读与解析,包括接口设计、文件存储的管控机制和策略,多进程的处理,异常防呆机制

2、应用日志收集与上报方案,主要参考DropBoxManagerService源码的设计

我们经常强调源码阅读,源码究竟能给我们带来什么呢?我认为主要有以下几点:

  • 编码技术的提升
  • 分析问题的思路
  • 解决方案的设计
  • 设计模式的应用

本文抛砖引玉,借助以上案例简单地讲了一下DBMS源码以及源码阅读的应用,希望在源码阅读方面能够带给大家一些启发,同时对Android系统一些不常见的服务有一个了解。



Tags:Android   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,不构成投资建议。投资者据此操作,风险自担。如有任何标注错误或版权侵犯请与我们联系,我们将及时更正、删除。
▌相关推荐
Android Emulator黑屏怎么办 Android模拟器黑屏解决方法
Android Emulator黑屏问题困扰了非常多的玩家,Android Emulator作为一款安卓模拟器,可以让你在电脑上运行和浏览安卓应用程序,但是程序本身不是很稳定,很容易会出现黑屏,启动不了...【详细内容】
2024-03-04  Search: Android  点击:(37)  评论:(0)  加入收藏
Android 谷歌三件套:解锁谷歌生态!
大家是不是遇到这个情况?当我们需要下载一些国外的游戏或者软件的时候,需要在手机里面安装Google Play商店,然后通过Google Play商店下载国外软件!为了帮助大家使用上各种好用的...【详细内容】
2024-01-02  Search: Android  点击:(113)  评论:(0)  加入收藏
Android开发中常见的Hook技术有哪些?
Hook技术介绍Hook技术是一种在软件开发中常见的技术,它允许开发者在特定的事件发生时插入自定义的代码逻辑。常见的应用场景包括在函数调用前后执行特定的操作,或者在特定的事...【详细内容】
2023-12-25  Search: Android  点击:(85)  评论:(0)  加入收藏
在Android应用开发中使用NFC功能
NFC介绍NFC是指“近场通讯”(Near Field Communication),它是一种短距离无线通信技术,允许设备在非接触或极短距离内进行通信。NFC通常用于移动支付、门禁系统、智能标签和其他...【详细内容】
2023-12-22  Search: Android  点击:(102)  评论:(0)  加入收藏
关于Android图像Bitmap类,你要知道的一切
Bitmap介绍Bitmap是一种图像文件格式,它由像素阵列组成,每个像素都有自己的颜色信息。在计算机图形学中,Bitmap图像可以被描述为一个二维的矩阵,其中每个元素代表一个像素的颜色...【详细内容】
2023-12-19  Search: Android  点击:(99)  评论:(0)  加入收藏
Android开发中如何进行单元测试?
单元测试介绍单元测试是软件开发中的一种测试方法,用于验证代码中的最小可测试单元(通常是函数或方法)是否按预期工作。单元测试通常由开发人员编写,旨在隔离和测试代码的特定部...【详细内容】
2023-12-11  Search: Android  点击:(167)  评论:(0)  加入收藏
我的手机我做主,如何为Android手机应用换图标?
作为一名Android用户,你是否曾经为自己的手机桌面感到单调而乏味?虽然Android系统的桌面定制性已经非常强大,但有时候我们还是希望能够在细节上做出一些改变,尤其是对于那些每天...【详细内容】
2023-12-10  Search: Android  点击:(61)  评论:(0)  加入收藏
了解Android系统架构中的HAL硬件抽象层
在Android系统中,HAL的存在使得不同厂商的硬件可以统一被上层的应用程序调用,从而提高了系统的兼容性和可移植性。HAL还可以帮助开发者更方便地开发应用程序,因为他们不需要为...【详细内容】
2023-12-06  Search: Android  点击:(203)  评论:(0)  加入收藏
谷歌 CEO 皮查伊建议 Android 用户不要侧载应用,称非常危险
iOS和Android的一个显著差异是,Android支持用户从第三方渠道安装应用程序(即“侧载”)。然而,谷歌似乎并不希望用户这样做。最近,在与Epic Store的法律诉讼中,谷歌首席执行官桑达...【详细内容】
2023-11-20  Search: Android  点击:(167)  评论:(0)  加入收藏
Android数据对象序列化原理与应用
序列化与反序列化「序列化」是将对象转换为可以存储或传输的格式的过程。在计算机科学中,对象通常是指内存中的数据结构,如数组、列表、字典等。通过序列化,可以将这些对象转换...【详细内容】
2023-11-14  Search: Android  点击:(273)  评论:(0)  加入收藏
▌简易百科推荐
Android Emulator黑屏怎么办 Android模拟器黑屏解决方法
Android Emulator黑屏问题困扰了非常多的玩家,Android Emulator作为一款安卓模拟器,可以让你在电脑上运行和浏览安卓应用程序,但是程序本身不是很稳定,很容易会出现黑屏,启动不了...【详细内容】
2024-03-04  18183游戏网    Tags:Android Emulator   点击:(37)  评论:(0)  加入收藏
Android开发中常见的Hook技术有哪些?
Hook技术介绍Hook技术是一种在软件开发中常见的技术,它允许开发者在特定的事件发生时插入自定义的代码逻辑。常见的应用场景包括在函数调用前后执行特定的操作,或者在特定的事...【详细内容】
2023-12-25  沐雨花飞蝶  微信公众号  Tags:Android   点击:(85)  评论:(0)  加入收藏
在Android应用开发中使用NFC功能
NFC介绍NFC是指“近场通讯”(Near Field Communication),它是一种短距离无线通信技术,允许设备在非接触或极短距离内进行通信。NFC通常用于移动支付、门禁系统、智能标签和其他...【详细内容】
2023-12-22  沐雨花飞蝶  微信公众号  Tags:Android   点击:(102)  评论:(0)  加入收藏
关于Android图像Bitmap类,你要知道的一切
Bitmap介绍Bitmap是一种图像文件格式,它由像素阵列组成,每个像素都有自己的颜色信息。在计算机图形学中,Bitmap图像可以被描述为一个二维的矩阵,其中每个元素代表一个像素的颜色...【详细内容】
2023-12-19  沐雨花飞蝶  微信公众号  Tags:Android   点击:(99)  评论:(0)  加入收藏
Android开发中如何进行单元测试?
单元测试介绍单元测试是软件开发中的一种测试方法,用于验证代码中的最小可测试单元(通常是函数或方法)是否按预期工作。单元测试通常由开发人员编写,旨在隔离和测试代码的特定部...【详细内容】
2023-12-11  沐雨花飞蝶  微信公众号  Tags:Android   点击:(167)  评论:(0)  加入收藏
一篇聊聊Jetpack Room实现数据存储持久性
Room介绍Room 是 Android Jetpack 组件库中的一部分,它是用于在 Android 应用中进行本地数据库访问和管理的库。Room 提供了一个抽象层,使开发者能够更轻松地访问 SQLite 数据...【详细内容】
2023-12-08  沐雨花飞蝶  微信公众号  Tags:Jetpack   点击:(143)  评论:(0)  加入收藏
了解Android系统架构中的HAL硬件抽象层
在Android系统中,HAL的存在使得不同厂商的硬件可以统一被上层的应用程序调用,从而提高了系统的兼容性和可移植性。HAL还可以帮助开发者更方便地开发应用程序,因为他们不需要为...【详细内容】
2023-12-06  沐雨花飞蝶  微信公众号  Tags:Android   点击:(203)  评论:(0)  加入收藏
我们一起聊聊 IntentService 与 Service 的区别?
Service介绍Service组件是Android应用开发中的四大组件之一,用于在后台执行长时间运行的操作或处理远程请求。它可以在没有用户界面的情况下执行任务,并且可以与其他应用组件...【详细内容】
2023-12-06  沐雨花飞蝶  微信公众号  Tags:IntentService   点击:(170)  评论:(0)  加入收藏
Android数据对象序列化原理与应用
序列化与反序列化「序列化」是将对象转换为可以存储或传输的格式的过程。在计算机科学中,对象通常是指内存中的数据结构,如数组、列表、字典等。通过序列化,可以将这些对象转换...【详细内容】
2023-11-14  沐雨花飞蝶  微信公众号  Tags:Android   点击:(273)  评论:(0)  加入收藏
你了解Android中的SELinux吗?
SELinux介绍SELinux(Security-Enhanced Linux)是一种安全增强的Linux操作系统,它通过强制访问控制(MAC)机制来提供更高级别的系统安全保护。相比于传统的Linux访问控制机制(DAC),SEL...【详细内容】
2023-11-09  沐雨花飞蝶  微信公众号  Tags:Android   点击:(264)  评论:(0)  加入收藏
站内最新
站内热门
站内头条