「分布式技术专题」三种常见的数据库查询引擎执行模型

元气小坏坏 提交于 2021-02-18 20:46:44

注:本文涉及到的相关资料图片摘自 CARNEGIE MELLON DATABASE GROUP 发表的 CMU SCS 15-721 (Spring 2019) :: Query Execution & Processing (点击可查看)


1. 迭代模型/火山模型(Iterator Model)

又称 Volcano Model 或者 Pipeline Model

该计算模型将关系代数中每一种操作抽象为一个 Operator,将整个 SQL 构建成一个 Operator 树,查询树自顶向下的调用next()接口,数据则自底向上的被拉取处理。
火山模型的这种处理方式也称为拉取执行模型(Pull Based)。
大多数关系型数据库都是使用迭代模型的,如 SQLite、MongoDB、Impala、DB2、SQLServer、Greenplum、PostgreSQL、Oracle、MySQL 等。
火山模型的优点在于:简单,每个 Operator 可以单独实现逻辑。
火山模型的缺点:查询树调用 next() 接口次数太多,并且一次只取一条数据,CPU 执行效率低;而 Joins, Subqueries, Order By 等操作经常会阻塞。

2. 物化模型(Materialization Model)

物化模型的处理方式是:每个 operator 一次处理所有的输入,处理完之后将所有结果一次性输出。
物化模型更适合 OLTP 负载,这些查询每次只访问小规模的数据,只需要少量的函数调用。

3. 向量化/批处理模型(Vectorized / Batch Model)

向量化模型 和 火山模型 类似,每个 operator 需要实现一个 next() 函数,但是每次调用 next() 函数会返回一批的元组(tuples),而不是一个元组,所以向量化模型也可称为批处理模型。
向量化模型是火山模型和物化模型的折衷。
向量化模型比较适合 OLAP 查询,因为其大大减少了每个 operator 的调用次数,也就简单减少了虚函数的调用。
Presto、snowflake、SQLServer、Amazon Redshift等数据库支持这种处理模式。

Spark 2.x 的 SQL 引擎开始也支持向量化执行模型。

在 Hive 中使用 向量化执行的方式:
(1)必须以 ORC 格式来存储数据,
(2)将 hive.vectorized.execution.enabled 参数设置为 true

以上为三种常见的数据库查询引擎执行模型,「分布式技术专题」是国产数据库 Hubble 团队精心整编,专题会持续更新,欢迎大家保持关注。

易学教程内所有资源均来自网络或用户发布的内容,如有违反法律规定的内容欢迎反馈
该文章没有解决你所遇到的问题?点击提问,说说你的问题,让更多的人一起探讨吧!