druid-docs-cn/Querying/lookups.md

6.2 KiB
Raw Blame History

Lookups

[!WARNING] Lookups是一个 实验性的特性

Lookups是Apache Druid中的一个概念在Druid中维度值(可选地)被新值替换从而允许类似join的功能。在Druid中应用Lookup类似于在数据仓库中的联接维度表。有关详细信息请参见 维度说明。在这些文档中,"key"是指要匹配的维度值,"value"是指其替换的目标值。所以如果你想把 appid-12345 映射到Super Mega Awesome App,那么键应该是 appid-12345,值就是 Super Mega Awesome App

值得注意的是Lookups不仅支持键一对一映射到唯一值如国家代码和国家名称的场景还支持多个ID映射到同一个值的场景例如多个应用程序ID映射到一个客户经理。当Lookup是一对一的时候Druid能够在查询时应用额外的优化有关更多详细信息请参阅下面的 查询执行

Lookups没有历史记录总是使用当前的数据。这意味着如果特定应用程序id的首席客户经理发生更改并且您发出了一个查询其中存储了应用程序id与客户经理之间的关系则无论您查询的时间范围如何它都将返回该应用程序id的当前客户经理。

如果您需要进行对数据时间范围敏感的Lookups那么目前在查询时不支持这样的场景并且这些数据属于原始的非规范化数据中以便在Druid中使用。

在所有服务器上Lookup通常都预加载在内存中。但是对于非常小的Lookup大约几十到几百个条目也可以使用"map"Lookup类型在原生查询时内联传递。有关详细信息请参见 维度说明

其他的Lookup类型在扩展中是可用的例如

查询符号

Druid SQLLookups可以使用 LOOKUP函数 来进行查询,例如:

SELECT
  LOOKUP(store, 'store_to_country') AS country,
  SUM(revenue)
FROM sales
GROUP BY 1

也可以使用 JOIN运算符:

SELECT
  store_to_country.v AS country,
  SUM(sales.revenue) AS country_revenue
FROM
  sales
  INNER JOIN lookup.store_to_country ON sales.store = store_to_country.k
GROUP BY 1

在原生查询中lookups可以使用 维度规范或者提取函数

查询执行

当执行涉及Lookup函数如SQL中的 LOOKUP 函数的聚合查询时Druid可以决定在扫描和聚合行时应用它们或者在聚合完成后应用它们。在聚合完成后应用Lookup更为有效所以如果可以的话Druid会这样做。Druid通过检查Lookup是否标记为"injective"来决定这一点。一般来说您应该为任何自然的一对一的Lookup设置此属性以使得Druid尽可能快地运行查询。

"injective"(内部映射式)Lookup应该包括所有可能出现在数据集中的键,还应该将所有键映射到唯一值。这一点很重要因为非内部映射式Lookup可能将不同的键映射到同一个值在聚合过程中必须考虑到这一点以免查询结果包含两个应该聚合为一个的结果值。

以下Lookup为内部映射式假设它包含了数据中所有可能的键

1 -> Foo
2 -> Bar
3 -> Billy

但是以下的并不是,因为"2"和"3"映射到同一个键:

1 -> Foo
2 -> Bar
3 -> Bar

可以通过在Druid配置中指定 "injective" : true 来告诉Druid该Lookup为内部映射式。Druid并不会自动的检测。

[!WARNING] 目前当Lookup是 Join数据源 的输入时,不会触发内射查找优化。它只在直接使用查找函数时使用,而不使用联接运算符。

动态配置

[!WARNING] 动态Lookup配置是一个 实验特性, 不再支持静态配置。下面的文档说明了集群范围的配置该配置可以通过Coordinator进行访问。配置通过服务器的"tier"概念传播。"tier"被定义为一个应该接收一组Lookup的服务集合。例如您可以让所有Historical都是 _default而Peon是它们所负责的数据源的各个层的一部分。Lookups的tier完全独立于Historical tiers。

这些配置都可以通过以下URI模板来使用JSON获取到

http://<COORDINATOR_IP>:<PORT>/druid/coordinator/v1/lookups/config/{tier}/{id}

假设下面的所有URI都预先被添加到了 http://<COORDINATOR_IP>:<PORT>

如果您此前从未配置过lookups必须首先通过POST请求发送一个Json Object {}/druid/coordinator/v1/lookups/config 来进行初始化。

该接口可能返回以下几个结果:

  • 资源不存在的时返回404
  • 请求格式存在问题时返回400
  • 请求(POSTDELETE)被异步接收返回202
  • 请求(仅针对 GET)成功返回200

配置传播行为

配置由Coordinator传播到查询服务进程Broker / Router / Peon / Historical。查询服务进程有一个内部API用于管理进程上的Lookup这些查询由Coordinator使用。Coordinator定期检查是否有任何进程需要加载/删除Lookup并适当地更新它们。

请注意一个查询服务进程只能同时处理两个同步的Lookup配置传播请求。该限制是为了防止Lookup处理消耗过多的服务器HTTP连接。

配置Lookups的API

批量更新Lookup

更新Lookup

获取所有Lookups

获取Lookup

删除Lookup

删除tier

列出所有tier名称

列出所有Lookup名称

Lookup状态的API

列出所有Lookups的加载状态

列出一个tier中的Lookups的加载状态

列出单个Lookup的加载状态

列出所有进程的Lookup状态

列出某个tier中进程的Lookup状态

列出单一进程中Lookup的状态

内部API

获取Lookups

获取Lookup

配置

重启时保存配置

Lookup反射