天天看点

HTAP数据库 PostgreSQL 场景与性能测试之 33 - (OLAP) 物联网 - 线性字段区间实时统计

PostgreSQL , HTAP , OLTP , OLAP , 场景与性能测试

<a href="https://github.com/digoal/blog/blob/master/201711/20171107_02_pic_003.jpg" target="_blank"></a>

PostgreSQL社区的贡献者众多,来自全球各个行业,历经数年,PostgreSQL 每年发布一个大版本,以持久的生命力和稳定性著称。

2017年10月,PostgreSQL 推出10 版本,携带诸多惊天特性,目标是胜任OLAP和OLTP的HTAP混合场景的需求:

<a href="https://github.com/digoal/blog/blob/master/201710/20171029_01.md">《最受开发者欢迎的HTAP数据库PostgreSQL 10特性》</a>

1、多核并行增强

2、fdw 聚合下推

3、逻辑订阅

4、分区

5、金融级多副本

6、json、jsonb全文检索

7、还有插件化形式存在的特性,如 向量计算、JIT、SQL图计算、SQL流计算、分布式并行计算、时序处理、基因测序、化学分析、图像分析 等。

<a href="https://github.com/digoal/blog/blob/master/201711/20171107_02_pic_001.jpg" target="_blank"></a>

在各种应用场景中都可以看到PostgreSQL的应用:

<a href="https://github.com/digoal/blog/blob/master/201706/20170601_02_pic_002.png" target="_blank"></a>

PostgreSQL近年来的发展非常迅猛,从知名数据库评测网站dbranking的数据库评分趋势,可以看到PostgreSQL向上发展的趋势:

<a href="https://github.com/digoal/blog/blob/master/201711/20171107_02_pic_002.jpg" target="_blank"></a>

从每年PostgreSQL中国召开的社区会议,也能看到同样的趋势,参与的公司越来越多,分享的公司越来越多,分享的主题越来越丰富,横跨了 传统企业、互联网、医疗、金融、国企、物流、电商、社交、车联网、共享XX、云、游戏、公共交通、航空、铁路、军工、培训、咨询服务等 行业。

接下来的一系列文章,将给大家介绍PostgreSQL的各种应用场景以及对应的性能指标。

环境部署方法参考:

<a href="https://github.com/digoal/blog/blob/master/201710/20171018_01.md">《PostgreSQL 10 + PostGIS + Sharding(pg_pathman) + MySQL(fdw外部表) on ECS 部署指南(适合新用户)》</a>

阿里云 ECS:<code>56核,224G,1.5TB*2 SSD云盘</code>。

操作系统:<code>CentOS 7.4 x64</code>

数据库版本:<code>PostgreSQL 10</code>

PS:ECS的CPU和IO性能相比物理机会打一定的折扣,可以按下降1倍性能来估算。跑物理主机可以按这里测试的性能乘以2来估算。

在物联网、互联网、业务系统中都有时序数据,随着时间推移产生的数据。在时间维度或序列字段上呈现自增特性。

区间查询与统计分析的需求非常多。

PostgreSQL针对时序类型的数据,除了有传统的b-tree索引,还有一种块级索引BRIN,非常适合这种相关性很好的时序数据。这种索引在Oracle Exadata一体机上也有。而使用PostgreSQL可以免费享用这种高端特性。

在第15个场景中,设计了一个区间查询输出明细的场景,输出吞吐达到了 3160万 行/s。

<a href="https://github.com/digoal/blog/blob/master/201711/20171107_16.md">《HTAP数据库 PostgreSQL 场景与性能测试之 15 - (OLTP) 物联网 - 查询一个时序区间的数据》</a>

本文的场景与之类似,只不过换成聚合并输出。

1万个传感器,10亿条时序自增记录,输入任意传感器,查询并输出任意区间5000条记录的聚合值。

1、批量写入传感器数据的函数

2、统计函数

准备10亿条测试记录。

压测

10亿记录,1万个传感器,任意滑动范围内取5000条,进行统计,输出统计值。

<a href="https://github.com/digoal/blog/blob/master/201706/20170601_02.md">《PostgreSQL、Greenplum 应用案例宝典《如来神掌》 - 目录》</a>

<a href="https://github.com/digoal/blog/blob/master/201702/20170209_01.md">《数据库选型之 - 大象十八摸 - 致 架构师、开发者》</a>

<a href="https://github.com/digoal/blog/blob/master/201610/20161031_02.md">《PostgreSQL 使用 pgbench 测试 sysbench 相关case》</a>

<a href="https://github.com/digoal/blog/blob/master/201701/20170125_01.md">《数据库界的华山论剑 tpc.org》</a>

<a href="https://www.postgresql.org/docs/10/static/pgbench.html">https://www.postgresql.org/docs/10/static/pgbench.html</a>