可观察性 #
背景 #
如何观测集群的运行状态,使运维人员可以快速掌握当前系统现状,并进行进一步的维护工作,是分布式系统的全新挑战。登录到具体服务器的点对点运维方式,无法适用于面向大量分布式服务器的场景。通过对可系统观察性数据的遥测是分布式系统推荐的运维方式。Tracing(链路跟踪)、Metrics(指标监控)和 Logging(日志)是系统运行状况的可观察性数据重要的获取手段。
挑战 #
Tracing 和 Metrics 需要通过埋点来收集系统信息。大量的埋点使项目核心代码支离破碎,难于维护,且不易定制化统计指标。
核心概念 #
代理 #
基于字节码增强和插件化设计,以提供 tracing 和 metrics 埋点,以及日志输出功能。需要开启代理的插件功能后,才能将监控指标数据输出至第三方 APM 中展示。
APM #
APM 是应用性能监控的缩写。着眼于分布式系统的性能诊断,其主要功能包括调用链展示,应用拓扑分析等。
Tracing #
链路跟踪,通过探针收集调用链数据,并发送到第三方 APM 系统
Metrics #
系统统计指标,通过探针收集,并且写入到时序数据库,供第三方应用展示。
系统实现 #
Agent 模块为 SphereEx-DBPlusEngine 提供了可观察性的框架,它是基于 Java Agent 技术实现的。Metrics、Tracing 和 Logging 等功能均通过插件的方式集成在 Agent 中。
- Metrics 插件用于收集和展示整个集群的统计指标。SphereEx-DBPlusEngine 默认提供了对 Prometheus 的支持。
- Tracing 插件用于获取 SQL 解析与 SQL 执行的链路跟踪信息。SphereEx-DBPlusEngine 默认提供了对 Jaeger、OpenTelemetry、OpenTracing(SkyWalking)和 Zipkin 的支持,也支持用户通过插件化的方式开发自定义的 Tracing 组件。
- 默认的 Logging 插件展示了如何在 SphereEx-DBPlusEngine 中记录额外的日志,实际应用中需要用户根据自己的需求进行探索。
APM #
APM(应用性能监控)是通过对系统可观察性数据进行采集、存储和分析,进行系统的性能监控与诊断,主要功能包括性能指标监控、调用链分析,应用拓扑图等。
Metrics #
DBPlusEngine 并不负责如何采集、存储以及展示应用性能监控的相关数据,而是为应用监控系统提供必要的指标数据。换句话说,DBPlusEngine 仅负责产生具有价值的数据,并通过标准协议或插件化的方式递交给相关系统。
Tracing #
Tracing 用于获取 SQL 解析与 SQL 执行的链路跟踪信息。DBPlusEngine 默认提供了对 SkyWalking,Zipkin,Jaeger 和 OpenTelemetry 的支持,也支持用户通过插件化的方式开发自定义的 Tracing 组件。
- 使用 Zipkin 和 Jaeger
通过在 agent 配置文件中开启对应的插件,并配置好 Zipkin 或者 Jaeger 服务器信息即可。
- 使用 OpenTelemetry
OpenTelemetry 在 2019 年由 OpenTracing 和 OpenCencus 合并而来。使用这种方式,只需要在 agent 配置文件中,根据 OpenTelemetry SDK 自动配置说明 ,填写合适的配置即可。
- 使用 SkyWalking
需要在 agent 配置中配置启用对应插件,并且需要同时配置使用 SkyWalking 的 apm‑toolkit 工具。
- 使用 SkyWalking 的内置自动探针
DBPlusEngine 团队与Apache SkyWalking 团队共同合作,在 SkyWalking 中实现了 DBPlusEngine 自动探针,可以将相关的应用性能数据自动发送到 SkyWalking 中。注意这种方式的自动探针不能与 DBPlusEngine 插件探针同时使用。 Metrics 则用于收集和展示整个集群的统计指标。DBPlusEngine 默认提供了对 Prometheus 的支持。