grafana+prometheus+pushgateway+flink可视化实时监控

拼搏现实的明天。 2024-03-17 14:47 94阅读 0赞

#### 文章目录 ####

*  一、各部分介绍
 *  二、安装配置
 *   *  1、安装pushgateway
     *  2、安装Prometheus
     *  3、Grafana 安装
 *  三、测试使用

## 一、各部分介绍 ##

![在这里插入图片描述][b4af24f30aca4c0e8be09a5086ac016c.png]

*  采集层  
    flink APP和linux system两部分，是我们要收集指标数据的组件
 *  传输层  
    Pushgateway：是一个推送收集和推送数据的组件  
    Node\_exporter：数据导出组件
 *  存储计算层  
    Prometheus：系统监控和预警框架
 *  应用层  
    Grafana：可视化展示平台

## 二、安装配置 ##

### 1、安装pushgateway ###

#在线下载
    #离线下载直接访问地址
    wget wget https://github.com/prometheus/pushgateway/releases/download/v1.4.3/pushgateway-1.4.3.linux-amd64.tar.gz
    tar -zxvf pushgateway-1.4.3.linux-amd64.tar.gz -C /usr/local/
    cd /usr/local/pushgateway-1.4.3.linux-amd64/
    #后台启动
    nohup ./pushgateway > run.log 2>&1 &
    #查看端口验证
    netstat -tlanp | grep 9090
    #cmd验证是否联通
    telnet 39.105.12.10 9090
    #停止 找到9090的进程杀掉即可
    kill -9 进程号

浏览器打开： http://ip服务器:9090

### 2、安装Prometheus ###

#官网下载地址https://prometheus.io/download/
    tar -zxvf prometheus-2.45.0.linux-amd64.tar.gz
    vim prometheus.yml #修改配置文件
    #启动
    nohup ./prometheus  --config.file=prometheus.yml > ./prometheus.log 2>&1 &
    #停止
    kill -9 进程号

**修改配置文件 prometheus.yml**  
添加如下内容：

在 scrape_configs 配置项下添加配置：
    scrape_configs:
    - job_name: 'prometheus'
    static_configs:
    - targets: ['xx.xx.xx.xx:9090']

![在这里插入图片描述][322e83856e3649aeaad8f27dd207fbe6.png]

配置说明：  
1 、 global 配置块： 控制 Prometheus 服务器的全局配置  
➢ scrape\_interval ：配置拉取数据的时间间隔，默认为 1 分钟。  
➢ evaluation\_interval ：规则验证（生成 alert ）的时间间隔，默认为 1 分钟。  
2 、 rule\_files 配置块： 规则配置文件  
3 、 scrape\_configs 配置块： 配置采集目标相关， prometheus 监视的目标。 Prometheus 自身  
的运行信息可以通过 HTTP 访问，所以 Prometheus 可以监控自己的运行数据。  
➢ job\_name ：监控作业的名称  
➢ static\_configs ：表示静态目标配置，就是固定从某个 target 拉取数据  
➢ targets ： 指 定 监 控 的 目 标 ， 其 实 就 是 从 哪 儿 拉 取 数 据 。 Prometheus 会 从  
http://hadoop1:9090/metrics 上拉取数据。  
注意:Prometheus 是可以在运行时自动加载配置的。启动时需要添加： --web.enable-lifecycle

浏览器打开： http://ip服务器:9090

### 3、Grafana 安装 ###

#yum在线安装
    yum install grafana
    # 下载安装，离线下载直接请求url
    wget https://dl.grafana.com/enterprise/release/grafana-enterprise_10.0.1_amd64.deb
    #在线安装启动
    service grafana-server start
    service grafana-server status
    netstat -tlanp | grep 3000
    #离线安装启动
    ./bin/grafana-server

浏览器打开： http://ip服务器:3000  
默认用户名密码：admin/admin

## 三、测试使用 ##

第一步：[prometheus配置grafana][prometheus_grafana]  
第二步：prometheus测试配置pushgateway，编辑脚本，定时执行测试

vim pushgateway.sh							#编写pushgateway脚本采集数据
    #!/bin/bash
    instance_name=`hostname -f | cut -d'.' -f1`	#截取主机名
    if [ $instance_name == "localhost" ];then
       echo "Must FQDN hostname"				#要求主机名不能是localhost，不要主机名区别不了
       exit 1
    fi
    label="count_netstat_wait_connections"								#定义一个key
    count_netstat_wait_connections=`netstat -an| grep -i wait| wc -l`	#定义values
    
    #推送数据给pushgateway
    echo "$label $count_netstat_wait_connections" | curl --data-binary @- http://192.168.118.133:9091/metrics/job/${instance_name}

#解析
     curl --data-binary是将http post 请求中的二进制数据发送给http服务服务器，这里的http服务器指的就是pushgateway服务器；
     指定pushgateway的ip地址和端口号，后面${instance_name}是指定job的名称，这里以主机名命名。

crontab -e
    * * * * * bash /opt/pushgateway.sh
    # 依次按 :wq 进行保存  即时生效

第三步：prometheus关联flink，flink-conf.yaml里添加配置

##### 与 Prometheus 集成配置 #####
    metrics.reporter.promgateway.class: 
    org.apache.flink.metrics.prometheus.PrometheusPushGatewayReporter
    # PushGateway 的主机名与端口号
    metrics.reporter.promgateway.host: localhost
    metrics.reporter.promgateway.port: 9091
    # Flink metric 在前端展示的标签（前缀）与随机后缀
    metrics.reporter.promgateway.jobName: myJob
    metrics.reporter.promgateway.randomJobNameSuffix: true
    metrics.reporter.promgateway.deleteOnShutdown: false
    metrics.reporter.promgateway.interval: 30 SECONDS

第四步：flink安装目录里plugins下拷贝flink-metrics-prometheus-1.15.2.jar到lib

cp plugins/metrics-prometheus/flink-metrics-prometheus-1.15.2.jar ../../lib/

![在这里插入图片描述][5f310d1a49b44b489ee902027edd519e.png]

![在这里插入图片描述][8603fb5b709d4e9691a43b9964102a90.png]

[b4af24f30aca4c0e8be09a5086ac016c.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/15/3de87287afcc4c12a8d5d739670cea32.png
[322e83856e3649aeaad8f27dd207fbe6.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/15/05d91e40068b432c9af77edd68d478a6.png
[prometheus_grafana]: https://blog.csdn.net/m0_64417032/article/details/125521192
[5f310d1a49b44b489ee902027edd519e.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/15/745a8622ca0a4d72bbaa99ef67dbcbb4.png
[8603fb5b709d4e9691a43b9964102a90.png]: https://image.dandelioncloud.cn/pgy_files/images/2024/03/15/ea741799188f48bb853e894a383efe2c.png