2020-04-06 06:19:30 -04:00
|
|
|
|
<!-- toc -->
|
|
|
|
|
|
|
|
|
|
|
|
## Broker
|
|
|
|
|
|
### 配置
|
2020-04-08 01:44:12 -04:00
|
|
|
|
对于Apache Druid Broker的配置，请参见 [Broker配置](../Configuration/configuration.md#Broker)
|
2020-04-06 06:19:30 -04:00
|
|
|
|
|
|
|
|
|
|
### HTTP
|
2020-04-08 01:44:12 -04:00
|
|
|
|
对于Broker的API的列表，请参见 [Broker API](../Operations/api.md#Broker)
|
2020-04-06 06:19:30 -04:00
|
|
|
|
|
|
|
|
|
|
### 综述
|
|
|
|
|
|
|
|
|
|
|
|
在分布式的Druid集群中，Broker是一个查询的路由进程。Broker了解所有已经发布到ZooKeeper的元数据，了解在哪些进程存在哪些段，然后将查询路由到以便它们可以正确命中的进程。Broker还将来自所有单个进程的结果集合并在一起。在启动时，Historical会在Zookeeper中注册它们自身以及它们所服务的段。
|
|
|
|
|
|
|
|
|
|
|
|
### 运行
|
2020-05-16 03:57:49 -04:00
|
|
|
|
```json
|
2020-04-06 06:19:30 -04:00
|
|
|
|
org.apache.druid.cli.Main server broker
|
|
|
|
|
|
```
|
|
|
|
|
|
|
|
|
|
|
|
### 转发查询
|
|
|
|
|
|
|
|
|
|
|
|
大多数Druid查询都包含一个interval对象，该对象指示请求数据的时间跨度。同样，Druid[段](./Segments.md)被划分为包含一定时间间隔的数据，并且段分布在集群中。假设有一个具有7个段的简单数据源，其中每个段包含一周中给定一天的数据，对数据源发出的任何查询如果超过一天的数据，都将命中多个段，这些段可能分布在多个进程中，因此，查询可能会命中多个进程。
|
|
|
|
|
|
|
|
|
|
|
|
为了确定将查询转发到哪个进程，Broker首先从Zookeeper中的信息构建一个全局视图。Zookeeper中维护有关 [Historical](./Historical.md) 和流式摄取 [Peon](./Peons.md) 过程及其所服务的段的信息。对于Zookeeper中的每个数据源，Broker都会构建一个段的时间线以及为它们提供服务的进程。当接收到针对特定数据源和间隔的查询时，Broker将对与查询数据源关联的查询间隔时间线执行查找，并检索包含所查询数据的进程。然后，Broker将查询向下转发到所选进程。
|
|
|
|
|
|
|
|
|
|
|
|
### 缓存
|
|
|
|
|
|
|
|
|
|
|
|
Broker使用具有LRU缓存失效策略的缓存，Broker缓存按段存储结果。缓存可以是每个Broker的本地缓存，也可以使用外部分布式缓存（如 [memcached](http://memcached.org/) )跨多个进程共享。每次Broker进程收到查询时，它首先将查询映射到一组段，这些段结果的子集可能已经存在于缓存中，并且可以直接从缓存中提取结果。对于缓存中不存在的任何段结果，Broker将查询转发到Historical。一旦Historical返回其结果，Broker将把这些结果存储在缓存中。实时段从不被缓存，因此对实时数据的请求总是被转发到实时进程。实时数据一直在变化，缓存结果是不可靠的。
|
