自动化监控系统PrometheusGrafana

news/2024/5/19 0:57:29 标签: 自动化, prometheus, grafana

Prometheus 算是一个全能型选手，原生支持容器监控，当然监控传统应用也不是吃干饭的，所以就是容器和非容器他都支持，所有的监控系统都具备这个流程，数据采集→数据处理→数据存储→数据展示→告警

Prometheus 特点展开目录

  • 多维数据模型：由度量名称和键值对标识的时间序列数据
  • PromSQL: — 种灵活的查询语言，可以利用多维数据完成复杂的查询
  • 不依赖分布式存储，单个服务器节点可直接工作
  • 基于 HTTP 的 pull 方式釆集时间序列数据
  • 推送时间序列数据通过 PushGateway 组件支持
  • 通过服务发现或静态配罝发现目标
  • 多种图形模式及仪表盘支持 (grafana)

Prometheus 组成与架构展

在这里插入图片描述

名称说明
Prometheus Server收集指标和存储时间序列数据，并提供查询接口
Push Gateway短期存储指标数据，主要用于临时性任务
Exporters采集已有的三方服务监控指标并暴露 metrics
Alertmanager告警
Web UI简单的 WEB 控制台

集成了数据的采集，处理，存储，展示，告警一系列流程都已经具备了

数据模型

Prometheus 将所有数据存储为时间序列，具有相同度量名称以及标签属于同个指标，也就是说 Prometheus 从数据源拿到数据之后都会存到内置的 TSDB 中，这里存储的就是时间序列数据，它存储的数据会有一个度量名称，譬如你现在监控一个 nginx，首先你要给他起个名字，这个名称也就是度量名，还会有 N 个标签，你可以理解名称为表名，标签为字段，所以，每个时间序列都由度量标准名称和一组键值对 (也称为标签) 唯一标识。
时间序列的格式是这样的，
< metricename > { < labelname >=< labelvalue >,…}
metrice name 指的就是度量标准名称，label name 也就是标签名，这个标签可以有多个，例子
jvm_memory_max_bytes{area="heap",id="Eden Space",}
这个度量名称为 jvm_memory_max_bytes，后面是两个标签，和他们各对应的值，当然你还可以继续指定标签，你指定的标签越多查询的维度就越多。

指标类型

类型名称说明
Counter递增计数器，适合收集接口请求次数
Guage可以任意变化的数值，适用 CPU 使用率
Summary与 Histogram 类型类似

任务和实例展开目录

实例指的就是你可以抓取的目标target，这个会在 Prometheus 配置文件中体现，任务是具有相同目标的实例集合，你可以理解为是一个组(比如，订单服务多台实例机器，可以放入一个任务里，分多个实例target抓取)

Prometheus 部署

借助docker来安装，新建目录docker-monitor，在里面创建文件docker-compose.yml，内容如下：

version: "3"
services:
  prometheus:
    image: prom/prometheus:v2.4.3
    container_name: 'prometheus'
    volumes:
    - ./prometheus/:/etc/prometheus/    #映射prometheus的配置文件
    - /etc/localtime:/etc/localtime:ro  #同步容器与宿主机的时间，这个非常重要，如果时间不一致，会导致prometheus抓不到数据
    ports:
    - '9090:9090'

监控web应用性能指标

在docker-monitor目录下新增prometheus目录，在里面创建prometheus配置文件prometheus.yml，内容如下：

global:  #全局配置
  scrape_interval:   15s  #全局定时任务抓取性能数据间隔

scrape_configs:  #抓取性能数据任务配置
- job_name:       'mall-order'  #抓取订单服务性能指标数据任务，一个job下可以配置多个抓紧的targets，比如订单服务多个实例机器
  scrape_interval: 10s  #每10s抓取一次
  metrics_path: '/actuator/prometheus'  #抓取的数据url
  static_configs:
  - targets: ['192.168.31.60:8844']  #抓取的服务器地址
    labels:
      application: 'mall-order-label'  #抓取任务标签
  #- targets: ['192.168.31.60:8844']  #依次向下加   
  #  labels:
  #    application: 'mall-order-label'  #抓取任务标签

- job_name: 'prometheus'  #抓取prometheus自身性能指标数据任务
  scrape_interval: 5s
  static_configs:
  - targets: ['localhost:9090']

在docker-monitor目录下执行如下命令启动prometheus

docker-compose up -d

在浏览器访问prometheus：http://192.168.31.60:9090，如下图所示：
在这里插入图片描述
点击Status下拉，选中Targets，界面如下：
在这里插入图片描述
这里显示了在prometheus里配置的两个抓取任务，不过 mall-order任务是失败的，state是down，接下来我们需要配置下 mall-order服务才能让prometheus抓取数据。
首先需要在tulingmall-order服务下增加pom依赖，如下：

<!-- 开启springboot的应用监控 -->
<dependency>
   <groupId>org.springframework.boot</groupId>
   <artifactId>spring-boot-starter-actuator</artifactId>
</dependency>
<!-- 增加prometheus整合 -->
<dependency>
   <groupId>io.micrometer</groupId>
   <artifactId>micrometer-registry-prometheus</artifactId>
</dependency>

还需要在 mall-order服务的配置文件里增加开启springboot admin监控的配置，如下：

management: #开启SpringBoot Admin的监控
  endpoints:
    promethus:
      enable: true
    web:
      exposure:
        include: '*'
  endpoint:
    health:
      show-details: always

重启 mall-order服务，刷新prometheus页面，如下所示：
在这里插入图片描述
点击 mall-order下面的prometheus链接：http://192.168.31.60:8844/actuator/prometheus，会打开order服务对外暴露的性能指标数据，如下图：
在这里插入图片描述
拿其中一个指标举例：jvm_threads_states_threads{state=“runnable”,} 13.0，这代表jvm_threads_states_threads这个度量指标，其中state等于runnable的数据有13条
我们点prometheus页面的Graph链接，进入指标查询页面可以查询相关指标，如下：
在这里插入图片描述
将度量指标输入查询框，点击Execute按钮，如下：
在这里插入图片描述
点击Execute按钮下的Graph链接可以查看指标对应的图标，如下：
在这里插入图片描述
以上是prometheus自带的指标查询界面，但是太简陋，一般我们都是使用grafana图形展示工具配合prometheus一起使用

Grafana 部署

先用docker来安装下grafana，在上面的docker-compose.yml文件里加入grafana的安装配置，如下所示：

version: "3"
services:
  prometheus:
    image: prom/prometheus:v2.4.3
    container_name: 'prometheus'
    volumes:
    - ./prometheus/:/etc/prometheus/    #映射prometheus的配置文件
    - /etc/localtime:/etc/localtime:ro  #同步容器与宿主机的时间，这个非常重要，如果时间不一致，会导致prometheus抓不到数据
    ports:
    - '9090:9090'
  grafana:  
    image: grafana/grafana:5.2.4
    container_name: 'grafana'
    ports:  
    - '3000:3000'
    volumes: 
    - ./grafana/config/grafana.ini:/etc/grafana/grafana.ini  #grafana报警邮件配置
    - ./grafana/provisioning/:/etc/grafana/provisioning/  #配置grafana的prometheus数据源
    - /etc/localtime:/etc/localtime:ro
    env_file:
    - ./grafana/config.monitoring  #grafana登录配置
    depends_on:
    - prometheus  #grafana需要在prometheus之后启动

在docker-monitor目录下新增grafana目录，在里面创建文件config.monitoring，内容如下：

GF_SECURITY_ADMIN_PASSWORD=password  #grafana管理界面的登录用户密码，用户名是admin
GF_USERS_ALLOW_SIGN_UP=false  #grafana管理界面是否允许注册，默认不允许

在grafana目录下创建目录provisioning，在里面创建datasources目录，在datasources目录里新建文件datasource.yml，内容如下：

# config file version
apiVersion: 1

deleteDatasources:  #如果之前存在name为Prometheus，orgId为1的数据源先删除
- name: Prometheus
  orgId: 1

datasources:  #配置Prometheus的数据源
- name: Prometheus
  type: prometheus
  access: proxy
  orgId: 1
  url: http://prometheus:9090  #在相同的docker compose下，可以直接用prometheus服务名直接访问
  basicAuth: false
  isDefault: true
  version: 1
  editable: true

在grafana目录下创建目录config，在里面创建文件grafana.ini，内容如下：

#################################### SMTP / Emailing ##########################
# 配置邮件服务器
[smtp]
enabled = true
# 发件服务器
host = smtp.qq.com:465
# smtp账号
user = 135*****20@qq.com
# smtp 授权码
password = fyjucfwgwjadgfdj
# 发信邮箱
from_address = 135*****20@qq.com
# 发信人
from_name = yuyang

授权码在qq邮箱设置中获取
在这里插入图片描述

用docker compose启动grafana，访问grafana页面：http://192.168.31.60:3000，用户名为admin，密码为password，如下：
在这里插入图片描述
登录进去首页如下：
在这里插入图片描述
点击左边的加号并import一个我们事先准备好的可视化指标文件web-dashboard.json(文件在本节课的课程资料里，都是些运维的指标，网上可以找现成的)
在这里插入图片描述
导入web-dashboard.json后在页面上选择Prometheus，点击import按钮之后页面显示如下(有可能没有任何数据)：
在这里插入图片描述

写一个监控指标报警示例，比如系统报错5XX达到一定程度就报警发邮件通知：

点击Errors面板选择Edit，进入到Errors指标的详细面板，如下：
在这里插入图片描述
点击下图所示新增报警渠道：
在这里插入图片描述
然后选择邮件报警，也可以选择webhook方式配置一个报警通知的http调用接口，这个可以间接实现所有的通知方式，如下：
在这里插入图片描述
最后点击save按钮保存
进入Errors详细页面，配置alert报警，有如下几个地方需要配置，如图所示：
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
报警邮件如下所示：

在这里插入图片描述


http://www.niftyadmin.cn/n/5005752.html

相关文章

Ubuntu18中NVIDIA，cuda,cudnn,pytorch安装

Ubuntu18中NVIDIA，cuda,cudnn,pytorch安装

注意&#xff1a;nvidia驱动和cuda,cudnn,pytroch,python的对应关系 linux安装pytorch&#xff08;包括cuda与cudnn&#xff09;_linux清华园按照pytorch1.12_BryceRui的博客-CSDN博客 安装流程&#xff1a;安装cuda&#xff08;包括nvidia驱动&#xff09; cudnn python安装…
阅读更多...
pandas(四十三)Pandas实现复杂Excel的转置合并

pandas(四十三)Pandas实现复杂Excel的转置合并

一、Pandas实现复杂Excel的转置合并 读取并筛选第一张表 df1 pd.read_excel("第一个表.xlsx") df1# 删除无用列 df1 df1[[股票代码, 高数, 实际2]].copy() df1df1.dtypes股票代码 int64 高数 float64 实际2 int64 dtype: object读取并处理第二张表…
阅读更多...
使用ECS和RDS部署WordPress，搭建个人博客并使用域名访问

使用ECS和RDS部署WordPress，搭建个人博客并使用域名访问

目录 一、准备工作 1、准备ECS服务器 2、创建数据库账号和密码 二、部署环境 1、远程连接 2、安装Apache服务 3、部署WordPress 三、对博客的优化并使用域名访问 1、博客的设计优化 1.1 插件的使用 1.2 博客的设计介绍 2、使用域名访问 四、个人博客部署的心得 1…
阅读更多...
阿里十年总结之软件测试的价值

阿里十年总结之软件测试的价值

一、前言 阿里集团16N的组织变革后&#xff0c;各个业务单元都独立承担了经营压力。技术团队的规模更小、更敏捷&#xff0c;这对于原有一定规模的质量团队带来了较大的挑战。 最近拜读了很多集团测试大佬总结过往工作经验写下的文字。 我想&#xff0c;自己从事测试工作已经十…
阅读更多...
dll修复精灵，dll修复工具下载方法分享，mfc140u.dll缺失损坏一键修复

dll修复精灵，dll修复工具下载方法分享，mfc140u.dll缺失损坏一键修复

今天&#xff0c;我将为大家分享一个关于mfc140u.dll的问题。首先&#xff0c;我想问一下在座的网友们&#xff0c;有多少人知道mfc140u.dll是什么&#xff1f;又有多少人知道它的作用以及如何解决这个问题呢&#xff1f;在接下来的演讲中&#xff0c;我将详细介绍mfc140u.dll的…
阅读更多...
0065__git fetch, git pull, git merge, git rebase

0065__git fetch, git pull, git merge, git rebase

git fetch, git pull, git merge, git rebase_git pull和merge_送你一朵小莲花的博客-CSDN博客
阅读更多...
conda和Python的虚拟环境如何结合使用，以及二者之间到底有什么区别？

conda和Python的虚拟环境如何结合使用，以及二者之间到底有什么区别？

问题描述 今天在复现streamlit的代码时&#xff08;参考Streamlit 讲解专栏&#xff08;一&#xff09;&#xff1a;安装以及初步应用&#xff09;&#xff0c;根据这篇博文指导&#xff0c;要先用以下指令创建一个虚拟环境&#xff1a; # 创建虚拟环境&#xff08;使用venv&a…
阅读更多...
升哲科技城市级“算力+数字底座”服务亮相2023服贸会

升哲科技城市级“算力+数字底座”服务亮相2023服贸会

9月2日至6日&#xff0c;以“开放引领发展&#xff0c;合作共赢未来”为主题的2023年中国国际服务贸易交易会在北京隆重举办。作为城市级数据服务商&#xff0c;升哲科技&#xff08;SENSORO&#xff09;连续第四年参加服贸会&#xff0c;携城市级“算力数字底座”服务及在城市…
阅读更多...
最新文章

Copyright @ 2022~2023