当前位置:   article > 正文

构建多个关于数据库的DataFlow组合(Nifi:Table->Table)_nifi多表关联

nifi多表关联


把Nifi1.9所有与SQL有关的Processor使用一次,构建不同的dataflow,然后再去比较复用性和效率。

1.多表连接后查询(使用sql片段)—>DB

1.1 需求:将多张table的data迁移到另一张表

在这里插入图片描述
1.2 DataFlow
在这里插入图片描述
1.3 Configue
在这里插入图片描述
AvroReader
在这里插入图片描述

2.多表连接后查询(sql整句)后—>DB

2.1 需求:同1.1

2.2 DataFlow在这里插入图片描述
2.3 Configure
在这里插入图片描述
Executes provided SQL select query. Query result will be converted to Avro format. Streaming is used so arbitrarily large result sets are supported.

3.多个表分别查询的结果—>DB

3.1 需求:
在这里插入图片描述
3.2 DataFlow
在这里插入图片描述
Funnel:Funnels are used to combine the data from
many Connections into a single Connection. Connections can be configured with FlowFile Prioritizers.
Data from several Connections can be funneled into a single Connection,
providing the ability to Prioritize all of the data on that one Connection,
rather than prioritizing the data on each Connection independently.

3.3 Configure

略,同1.3 的QDT

4.同一个数据库不同schema批量生成多张表

4.1 需求:无需提前在DB建表,利用Processor建表
在这里插入图片描述
4.2 DtafFlow在这里插入图片描述
ListDatabaseTables: Generates a set of flow files, each containing attributes corresponding to metadata about a table from a database connection. GenerateTableFetch:Generates SQL select queries that fetch “pages” of rows from a table.

4.3 Configure
在这里插入图片描述
在这里插入图片描述

5.补充

以上是在同一个DB不同的table,不同DB只需配置不同的JDBC即可

声明:本文内容由网友自发贡献,不代表【wpsshop博客】立场,版权归原作者所有,本站不承担相应法律责任。如您发现有侵权的内容,请联系我们。转载请注明出处:https://www.wpsshop.cn/w/爱喝兽奶帝天荒/article/detail/889187
推荐阅读
相关标签
  

闽ICP备14008679号