您当前的位置:首页 > 电脑百科 > 程序开发 > 编程百科

监控系统如何做埋点,监控数据库和HTTP请求

时间:2019-10-21 13:56:22  来源:  作者:

JDBC做过JAVA开发的都知道JDBC是干什么的,RestApi其实就是http的调用,http的调用就是调用第三方的服务的时候,第三方的服务并不是在自己的系统范围内,如果出现不稳定挂掉,对自身来说是不可控了,所以第三方服务而言对我们而言是非常的明感的。JDBC和RestApi的监控对系统来讲意义很大,数据库得多重要,在系统的内部进行监控更能良好的反应sql的执行性能。

源码:https://github.com/limingIOS/netFuture/tree/master/源码/『互联网架构』调⽤链系统工程结构(111)

 

监控系统如何做埋点,监控数据库和HTTP请求

 

 

(一)JDBC调用拦截

  • JDBC插桩目的

哪些监控怼开发运维来说最有用的。

  1. SQL语句、SQL参数、用了多长时间、SQL类型、结果集大小、返回字段、规范、Join次数
  2. 拦截监听SQL语句
  3. 找出慢查询语句
  • 模型结构

字段类型描述sqltextsql语句paramsjson参数resultSizeint结果大小urlvarchar数据库连接路径userNamevarchar数据库用户名errortext异常堆栈useTimeint用时

  • JDBC插桩位置

这些user,框架,连接池,驱动都依赖jdbc,jdbc是一个什么东西?jdbc是一种规范,一堆接口组成的规范j2se,由驱动来实现的。servlet也是一种接口规范,是j2ee的规范,由Tomcat,jetty等容器实现的。任任何一层都可以做为插桩的切入点,但是选用User 层、框架层、连接池&数据源层、驱动层其实现是多样的,无法做到普适性。所以在此选用JDBC 作为插桩切入 点。

 

监控系统如何做埋点,监控数据库和HTTP请求

 

 

  • JDBC插桩机制
  •  
监控系统如何做埋点,监控数据库和HTTP请求

 

  •  

从上图可以分析出JDBC执行过程

1.从驱动获取连接(Connection)

2.基于连接构建预处理对象(prepareStatement)

3.执行SQL

4.读取结果集(ResultSet)

5.关闭释放连接。

其中涉及对象构建逻辑如下:

Driver==》Connection==》prepareStatement==》ResultSet

 

监控系统如何做埋点,监控数据库和HTTP请求

 

 

(二)Http调用拦截

  • Http埋点目的

很多时候我们会调用第三方API。比如:消息推送、短信发送、第三方支付接口等,因为服务是第三方提供,如果服务出现性能或可用性问题对于我方而言不可控,所以这类接口的稳定性是我们需要重点关注的对象。

通常这类接口会基于Http协议实现,所对Htpp协议监控,即实现了对第三方接口的监控。

  • Http埋点位置

 

监控系统如何做埋点,监控数据库和HTTP请求

 

 

1.user层:无法判断User具体执行方法,基于配置又做不到普适性。

2.Http协议层:能找到具体方法,也能做到普适性。需要对Http协议进行全面解析,而且Http协议为文本协议,解析难度更大,实现成本居高。

3.专有SDK、与自定义封装的Http工具包,跟具体业务偶合同样无法做到普适应。

4.java net URL 与 HttpClient 都是Http client 基于二者实现可以在一定程度上达成我们的目标。

  • Http埋点机制(java.net.URL)

URL常用写法:

URL url = new URL("https://www.baidu.com");
URLConnection conn = url.openConnection();
conn.setDoInput(true);
conn.setDoOutput(true);
conn.connect();
OutputStream output = conn.getOutputStream();
output.write("a=c&b=1".getBytes());
InputStream input = conn.getInputStream();
byte[] bytes = IOUtils.readFully(input, -1, false);
System.out.println(new String(bytes));

URL 装载执行过程:

  1. URL 基于protocol 构建对应 UrlStreamHandler
  2. UrlStreamHandler.openConnection() 打开连接,返回URlConnection
  3. URlConnection 设置连接属性
  4. URlConnection 打开 outPutStream 写入参数
  5. URlConnection 打开 inPutStream读取结果

其中涉及对象构建逻辑如下:

URL==》URLStreamHandler==》URLConnection==》outPutStream、InputStream。

如果上述过程加一层<u>静态代理</u>即可监控这些对象所有的执行过程从而得到所需监控数据:

URL==》Proxy(URLStreamHandler)==》Proxy(URLConnection)==》Proxy(outPutStream)、Proxy(InputStream)。

  • URL的类结构

 

监控系统如何做埋点,监控数据库和HTTP请求

 

 

怎么样才能加上这层代理呢?其关键方法在于 通过静态代理的方式。 <u>java.net.URL#setURLStreamHandlerFactory。</u>该方法允许用户自定义URL协议实现.

 

监控系统如何做埋点,监控数据库和HTTP请求

 

 

PS:太复杂了,看源码debug看比较好,jdbc和restApi通过的proxy代理的方式。



Tags:监控系统   点击:()  评论:()
声明:本站部分内容及图片来自互联网,转载是出于传递更多信息之目的,内容观点仅代表作者本人,如有任何标注错误或版权侵犯请与我们联系(Email:2595517585@qq.com),我们将及时更正、删除,谢谢。
▌相关推荐
监控系统硬盘怎么选择?常见的有绿盘、蓝盘、紫盘、黑盘、红盘分别代表了什么?有哪些不同呢?今天我们就来聊聊这个话题。在监控安装过程中,录像存储大多都是采用监控硬盘存储的。...【详细内容】
2021-09-22  Tags: 监控系统  点击:(181)  评论:(0)  加入收藏
Prometheus 是一款基于时序数据库的开源监控告警系统,说起 Prometheus 则不得不提 SoundCloud,这是一个在线音乐分享的平台,类似于做视频分享的 YouTube,由于他们在微服务架构的...【详细内容】
2021-08-26  Tags: 监控系统  点击:(60)  评论:(0)  加入收藏
一、手机APP远程监控PLC的意义: 随着网络技术和智能手机快速发展,远程通过手机APP对设备系统的控制单元PLC的运行进行远程预警监控的技术已经非常成熟。基于手机APP的PLC远程...【详细内容】
2021-08-25  Tags: 监控系统  点击:(116)  评论:(0)  加入收藏
监控系统在这里特指对数据中心的监控,主要针对数据中心内的硬件和软件进行监控和告警。企业的 IT 架构逐步从传统的物理服务器,迁移到以虚拟机为主导的 IaaS 云。无论基础架构...【详细内容】
2021-07-12  Tags: 监控系统  点击:(183)  评论:(0)  加入收藏
前言在GitHub上发现一个好玩的项目,不用安装其它任何依赖包,只要运行一个Python脚本就可以在局域网构建一个视频监控系统。果断试了一下,确实挺好玩的,现在分享给大家。 搭建方...【详细内容】
2021-03-16  Tags: 监控系统  点击:(172)  评论:(0)  加入收藏
WGCLOUD-v3.3.0更新说明,2021-01-261.新增,进程管理新增流量(读取/写入)指标2.新增,主机所有网卡流量(接收/发送)指标3.新增,数据源连接恢复后,发送恢复通知4.新增,win监控主机支...【详细内容】
2021-01-28  Tags: 监控系统  点击:(187)  评论:(0)  加入收藏
一、LibreNMS简单介绍LibreNMS是一款开源的,功能强大且功能丰富的自动发现的网络监控系统,基于PHP,使用SNMP协议。它支持广泛的操作系统,包括Linux,FreeBSD以及思科,Juniper,Broca...【详细内容】
2021-01-12  Tags: 监控系统  点击:(389)  评论:(0)  加入收藏
前言:大家好,我是薛哥。最近有很多读者咨询我,关于监控系统中IP地址如何选择?如何分配的问题,今天给一些刚入行的新人来讲解一些这方面的问题,分为三种情况,分包为小型的监控系统、...【详细内容】
2020-10-28  Tags: 监控系统  点击:(122)  评论:(0)  加入收藏
web项目性能很重要,开发迭代过程中难免会有所忽视,性能会伴随产品的迭代而有所衰减。特别在移动端,网络一直是一个很大的瓶颈,而页面却越来越大,功能越来越复杂。并没有简单的几...【详细内容】
2020-08-26  Tags: 监控系统  点击:(691)  评论:(0)  加入收藏
在DevOps和SRE流行的今天,在开发可靠性或实施DevOps实践时,企业决策的核心是统计数据。而企业数据信息中最重要的一环就是线上业务的监控信息,如果没有业务运行时间,网络负载和...【详细内容】
2020-08-10  Tags: 监控系统  点击:(54)  评论:(0)  加入收藏
▌简易百科推荐
本文分为三个等级自顶向下地分析了glibc中内存分配与回收的过程。本文不过度关注细节,因此只是分别从arena层次、bin层次、chunk层次进行图解,而不涉及有关指针的具体操作。前...【详细内容】
2021-12-28  linux技术栈    Tags:glibc   点击:(3)  评论:(0)  加入收藏
摘 要 (OF作品展示)OF之前介绍了用python实现数据可视化、数据分析及一些小项目,但基本都是后端的知识。想要做一个好看的可视化大屏,我们还要学一些前端的知识(vue),网上有很多比...【详细内容】
2021-12-27  项目与数据管理    Tags:Vue   点击:(2)  评论:(0)  加入收藏
程序是如何被执行的&emsp;&emsp;程序是如何被执行的?许多开发者可能也没法回答这个问题,大多数人更注重的是如何编写程序,却不会太注意编写好的程序是如何被运行,这并不是一个好...【详细内容】
2021-12-23  IT学习日记    Tags:程序   点击:(9)  评论:(0)  加入收藏
阅读收获✔️1. 了解单点登录实现原理✔️2. 掌握快速使用xxl-sso接入单点登录功能一、早期的多系统登录解决方案 单系统登录解决方案的核心是cookie,cookie携带会话id在浏览器...【详细内容】
2021-12-23  程序yuan    Tags:单点登录(   点击:(8)  评论:(0)  加入收藏
下载Eclipse RCP IDE如果你电脑上还没有安装Eclipse,那么请到这里下载对应版本的软件进行安装。具体的安装步骤就不在这赘述了。创建第一个标准Eclipse RCP应用(总共分为六步)1...【详细内容】
2021-12-22  阿福ChrisYuan    Tags:RCP应用   点击:(7)  评论:(0)  加入收藏
今天想简单聊一聊 Token 的 Value Capture,就是币的价值问题。首先说明啊,这个话题包含的内容非常之光,Token 的经济学设计也可以包含诸多问题,所以几乎不可能把这个问题说的清...【详细内容】
2021-12-21  唐少华TSH    Tags:Token   点击:(10)  评论:(0)  加入收藏
实现效果:假如有10条数据,分组展示,默认在当前页面展示4个,点击换一批,从第5个开始继续展示,到最后一组,再重新返回到第一组 data() { return { qList: [], //处理后...【详细内容】
2021-12-17  Mason程    Tags:VUE   点击:(14)  评论:(0)  加入收藏
什么是性能调优?(what) 为什么需要性能调优?(why) 什么时候需要性能调优?(when) 什么地方需要性能调优?(where) 什么时候来进行性能调优?(who) 怎么样进行性能调优?(How) 硬件配...【详细内容】
2021-12-16  软件测试小p    Tags:性能调优   点击:(20)  评论:(0)  加入收藏
Tasker 是一款适用于 Android 设备的高级自动化应用,它可以通过脚本让重复性的操作自动运行,提高效率。 不知道从哪里听说的抖音 app 会导致 OLED 屏幕烧屏。于是就现学现卖,自...【详细内容】
2021-12-15  ITBang    Tags:抖音防烧屏   点击:(25)  评论:(0)  加入收藏
11 月 23 日,Rust Moderation Team(审核团队)在 GitHub 上发布了辞职公告,即刻生效。根据公告,审核团队集体辞职是为了抗议 Rust 核心团队(Core team)在执行社区行为准则和标准上...【详细内容】
2021-12-15  InfoQ    Tags:Rust   点击:(25)  评论:(0)  加入收藏
最新更新
栏目热门
栏目头条