server端查询性能测试与调优(后端数据库clickhouse)
一、测试方法
1)找一台有30天左右真实数据的机器,clone这台机器。这台机器做参照机(克隆过后,数据静止,不会再接受客户端新传来的数据)
2)把这台机器上的数据/didata/rawlog(静态数据)拷贝到自己修改代码的机器的ck上。
3)给参照机和自己修改代码机器的接口加上时间统计打印。1.打印时间点为sql执行时间 2.整体接口查询时间
4)比较二者数据,以参照机为准,随时修改自己修改代码的机器的代码,做到接口性能有所提升
5)收集四个查询接口的查询时间,建议分别在100万,500万,1000万三个级别的数据量得知查询时间。
优化查询语句和代码,并总结查询报告 (从参照机拷贝这三种量级的数据进行比较,一条数据为1.2KB,计算文件大小来计算数据条数)
|
总数据量(file+network+process) |
新接口file_table查询时间 | 新接口process_table查询时间 | 新接口network_table查询时间 | 新接口总查询时间 | 老接口总查询时间 |
| 100万 | |||||
| 500万 | |||||
| 1000万 |
关于测试文档,主要需要关注以下两点:
1、测试时间总结
2、ck sql优化(各自把对数据库查询语句的优化,例如优化分区,添加索引这些优化记录在优化,通过在数据库客户端单独执行sql语句,显示调用链,看sql语句是否存在优化的地方)