腾讯mini项目-【指标监控服务重构】2023-08-28

news/2024/5/18 21:27:09 标签: go, prometheus, clickhouse

今日已办

分工

  1. 测试 - 谢雨晨、郑兆隆
  2. 将1的测试结果记录整理为一个表格,列有:平均内存、最大内存、95内存、cpu的这些等等 - 邓烨钒
  3. HyperScan和官方正则库的benchmark对比 - 张锐添
  4. PPT制作 - 其他人
  5. 灵活调动

进度

  1. trace上报:jaeger-collector和signoz-collector的cpu、内存,数据库存储大小
  2. trace查询:signoz-web的url压测某条trace,得到耗时
  3. metric上报:otel-collector和signoz-collector的cpu、内存,数据库存储大小
  4. hyperscan和go官方库的benchmark对比

  1. collector测试:trace-40% metric-40%
  2. 查询测试:20%
  3. ppt:60%

Prometheus

grafana - How to get the 95th percentile of an average in Prometheus? - Stack Overflow

HTTP API | Prometheus

image-20230828212119084

Grafana 配置 Prometheus

PPT流程

  1. 项目介绍:

    1. 介绍项目解决什么问题,重点是为什么有这个项目。- 肖泽鑫2分钟
    2. 分多一页讲hyperscan和waterwill任务。- 张锐添1分钟
  2. 成果展示:

    1. 简单简单展示otel功能,一页ppt。- 邓晔钒 30秒视频+30秒介绍
    2. 重点放在各种表格上,你们做的性能对比证明otel更优。然后按照周六对齐的成果部份顺序展示:
      1. 岑煜森 2分钟
      2. collector cpu、内存对比 30
      3. es和ck 存储大小 30
      4. web-url 耗时查询性能 30
      5. hyperscan、waterwill 30
  3. 项目难点:举例最多3个你们遇到的问题和解决办法,每个一两页PPT

    1. 郑兆隆 & 谢雨晨
    2. 1个人 服务部署 1.5分钟
    3. 1个人 测试 1.5分钟
    4. 。。。
  4. 组员分工:每个人准备一到两页PPT介绍自己在项目中负责的部份

    1. 每个人 1一页 8分钟

明日待办

  1. 继续完成测试的结果
  2. 完善PPT和结果展示

新测试报告

我们打算在 10 万到 100 万之间摸一个不会丢的量以及合适的并发量,作为不同 collector 测存储和查询的前提

我们能不能固定一个数量,然后使用相同的代码来上报相同的trace(只是可以控制线程睡眠时间)来调整耗时,让两种collector都能完整的上报所有数据,保证不会丢失,最后来计算存储大小

Trace-Collector

image-20230830143052939

collector测试上报span数 / wtest耗时 / s实际存储span数目 / wcpu_age / %cpu_95th / %mem_avg / MB存储容量 / MB
jaeger-collector100337.510026.6529.6640.801239.04
jaeger-collector100338.0199.9526.6630.1240.391239.04
signoz-collector100573.0410131.2636.94269.25450.53
signoz-collector100533.6799.8833.4437.76307.94456.17
signoz-collector100543.27104.532.7136.04293.42453.66
otel-collector100336.161005.496.1167.1568.74
otel-collector100336.541005.796.0368.4368.61
cpu_avg(%)cpu 95th(%)mem_avg(B)size (MiB)备注上报耗时(s)
signoz-trace36.00151.751334004344450协程数=100;每个2000x5个spans(每个span间隔为55毫秒),上报100万,丢失=0557.067
signoz-trace36.29147.211473282048451.3协程数=100;每个2000x5个spans(每个span间隔为55毫秒),上报100万,丢失=0557.03
signoz-metric61.32177.062845399842.56每个2000x3个不同类型的指标(间隔为80毫秒),上报60万,sample_v2 行数=99万163.357
signoz-metric57.25176.352727923982.77每个2000x3个不同类型的指标(间隔为100毫秒),上报60万,sample_v2 行数=130万左右203.351
otel-trace8.019.9621405163669.81协程数100,span上报间隔20ms207.766
otel-trace8.049.7322153156769.81协程数100,span上报间隔20ms207.836
otel-metric23.0241.6630046947411.22协程数100,metrics上报间隔20ms,上报共60万条43.160
otel-metric19.5540.5930993771911.18协程数100, metrics上报间隔20ms,上报共60万条43.110

Metric-Collector

image-20230830051748335

collectortest耗时 / s实际存储列数/行数 / wcpu_age / %cpu_95th / %mem_avg / MB存储容量 / MB
signoz-collector103.46104.2037.4340.2052.110.92
signoz-collector103.44103.8137.4040.8653.240.87
otel-collector103.4231.0239.7146.89152.535.88
otel-collector103.4931.0439.5145.70159.335.86

Web

image-20230830051906100

web-urlms
signoz-web37.71
signoz-web39.63
signoz-web37.80
signoz-web38.09
signoz-web38.75
signoz-web35.79
signoz-web35.67
signoz-web37.29
signoz-web33.09
signoz-web37.29
grafana54.77
grafana76.72
grafana62.03
grafana58.10
grafana67.44
grafana78.71
grafana65.15
grafana59.85
grafana60.63
grafana65.55
jaeger-web38.31
jaeger-web39.84
jaeger-web36.85
jaeger-web35.23
jaeger-web35.93
jaeger-web38.14
jaeger-web33.24
jaeger-web31.12
jaeger-web41.13
jaeger-web31.26

http://www.niftyadmin.cn/n/5050648.html

相关文章

沐风老师3DMAX刀剑轨迹拖尾插件SwordTrails使用方法详解

3DMAX刀剑轨迹拖尾插件SwordTrails使用教程 SwordTrail刀剑轨迹拖尾插件,是一款简单的运动轨迹特效工具。 【适用版本】 3dmax2011-2023(不仅于此范围) 【安装方法】 该插件无需安装,使用时直接拖动插件脚本文件到3dmax视口中打…

智算创新,美格智能助力智慧支付加速发展

9月21日,以“智算引领创新未来”为主题的紫光展锐2023泛物联网终端生态论坛在深圳举行。作为紫光展锐重要战略合作伙伴,美格智能标准模组产品线总经理郭强华、高级产品总监刘伟鹏受邀出席论坛。美格智能基于紫光展锐5G、4G、智能SoC、Cat.1 bis等芯片平台…

.balckhoues-V-XXXXXXX勒索病毒数据怎么处理|数据解密恢复

引言: 随着网络犯罪的不断演进,勒索病毒已成为当前数字时代的威胁之一,其中包括.balckhoues-V-XXXXXXX勒索病毒。本文将深入介绍.balckhoues-V-XXXXXXX勒索病毒的特点、数据恢复方法以及预防措施,以帮助您更好地理解和应对这一威…

Python开发与应用实验2 | Python基础语法应用

*本文是博主对学校专业课Python各种实验的再整理与详解,除了代码部分和解析部分,一些题目还增加了拓展部分(⭐)。拓展部分不是实验报告中原有的内容,而是博主本人自己的补充,以方便大家额外学习、参考。 &a…

Mssql安装使用

文章目录 前言一、Mssql二、安装使用下载 安装2.连接使用连接创建表,数据简单使用 总结 前言 我之前用过sql server,后来使用频率较少,最近有开始接触了,顺便整理下笔记,为后续准备~ 一、Mssql 其实与mysql语法几乎一致,然后分页查询与oracle 有点像是利用行号,这里采用docke…

时空智友企业流程化管控系统任意文件上传漏洞复现【附POC】

文章目录 时空智友企业流程化管控系统任意文件上传漏洞复现0x01 前言0x02 漏洞描述0x03 影响平台0x04 漏洞环境0x05 漏洞复现1.访问漏洞环境2.构造POC3.复现4.访问shell地址 0x06 修复建议 时空智友企业流程化管控系统任意文件上传漏洞复现 0x01 前言 免责声明:请…

Flex布局实战

Flex布局简介 Flex布局是一种用于网页布局的现代CSS布局模型。它使用flex容器和flex项来实现灵活的、响应式的布局。Flex容器是父元素,内部包含一系列的flex项。Flex项可以根据指定的规则自动调整尺寸和位置,以适应不同的屏幕大小和设备类型。 Flex布局…

springboot 下载文件为excel数据,中文自定义单元格宽度

/**2 * Description:表格自适应宽度(中文支持)3 * Author: 4 * param sheet sheet5 * param columnLength 列数6 */7 private static void setSizeColumn(HSSFSheet sheet, int columnLength) {8 for (int columnNum 0; columnNum < …