第二章Paimon使用Flink引擎.pdfVIP

  1. 1、有哪些信誉好的足球投注网站(book118)网站文档一经付费(服务费),不意味着购买了该文档的版权,仅供个人/单位学习、研究之用,不得用于商业用途,未经授权,严禁复制、发行、汇编、翻译或者网络传播等,侵权必究。。
  2. 2、本站所有内容均由合作方或网友上传,本站不对文档的完整性、权威性及其观点立场正确性做任何保证或承诺!文档内容仅供研究参考,付费前请自行鉴别。如您付费,意味着您自己接受本站规则且自行承担风险,本站不退款、不进行额外附加服务;查看《如何避免下载的几个坑》。如果您已付费下载过本站文档,您可以点击 这里二次下载
  3. 3、如文档侵犯商业秘密、侵犯著作权、侵犯人身权等,请点击“版权申诉”(推荐),也可以打举报电话:400-050-0827(电话支持时间:9:00-18:30)。
  4. 4、该文档为VIP文档,如果想要下载,成为VIP会员后,下载免费。
  5. 5、成为VIP后,下载本文档将扣除1次下载权益。下载后,不支持退款、换文档。如有疑问请联系我们
  6. 6、成为VIP后,您将拥有八大权益,权益包括:VIP文档下载权益、阅读免打扰、文档格式转换、高级专利检索、专属身份标志、高级客服、多端互通、版权登记。
  7. 7、VIP文档为合作方或网友上传,每下载1次, 网站将根据用户上传文档的质量评分、类型等,对文档贡献者给予高额补贴、流量扶持。如果你也想贡献VIP文档。上传文档
查看更多

2.1

Paimon与Flink整合

目前Paimon支持Flink1.20、1.19、1.18、1.17、1.16、1.15版本,我们这里使用Flink1.20版本

与Paimon进行整合,后续使用Flink操作Paimon表时都是通过FlinkSQL客户端完成,可以按照如

下步骤进行两者整合。

1)

配置Flink1.20版本

FlinkSQL集成Paimon时,后续我们基于Yarn运行Flink,这里在集群node1~node5节点都配置

Flink1.20版本,选择node5节点作为提交Flink的客户端,node1~node5各个节点已经安装了

Hadoop3.3.4版本。

下载Flink1.20版本到node5节点并解压,Flink1.20版本下载地址:

/dyn/closer.lua/flink/flink-1.20.0/flink-1.20.0-bin-scala_2.12.tgz,将下载好的Flink1.20安装

包上传至node1~node5各个节点并解压:

#node1~node5各个节点都进行上传解压

cd

/software

tar

-zxvf

./flink-1.20.0-bin-scala_2.12.tgz

ls

flink-1.20.0

node1~node5各个节点都配置Flink环境变量:

#vim

/etc/profile,加入以下配置

export

FLINK_HOME=/software/flink-1.20.0/

export

PATH=$PATH:$FLINK_HOME/bin

#source

/etc/profile

使环境变量生效

source

/etc/profile

由于基于Yarn运行所以这里也在node1~node5各个节点都配置HADOOP_CLASSPATH

#node1~node5各个节点都配置HADOOP_CLASSPATH

#

vim

/etc/profile,加入以下配置

export

HADOOP_CLASSPATH=`hadoop

classpath`

#source

/etc/profile

使环境变量生效

source

/etc/profile

2)

准备Paimon

Jar包

将Paimon

Jar上传至node5节点FLINK_HOME/lib目录下。Paimon提供了两种类型的jar:其中

一种bundled

jar(捆绑jar)用于读取/写入数据,另一种action

jar(操作jar)用于手动压缩等

操作。

[root@node5

~]#

cd

/software/flink-1.20.0/lib

#上传Paimon

jar包

[root@node5

lib]#

ls

|grep

paimon*

paimon-flink-1.20-0.9.0.jar

paimon-flink-action-0.9.0.jar

3)

启动Flink

SQL

客户端

首先启动Hadoop集群:

#在

node3、node4、node5节点启动zookeeper

[root@node3

~]#

zkServer.sh

start

[root@node4

~]#

zkServer.sh

start

[root@node5

~]#

zkServer.sh

start

#在node1启动HDFS集群

[root@node1

~]#

start-all.sh

这里以Flink基于Yarn

Session集群为例启动FlinkSQL客户端。

#在node5启动Flink

Yarn

Session集群

[root@node5

~]#

cd

$FLINK_HOME/bin

[root@node5

bin]#

./yarn-session.sh

-nm

yarn-session

-tm

1024m

-s

3

-d

创建出Yarn

Session集群后会在node5节点/tmp/下创建一个隐藏的”.yarn-properties-用户

名”

Yarn属性文件,有了该文件后,在当前节点启动SQL客户端指定连接模式为“yarn-

session”后,默认会通过该文件找到Yarn

Session集群并将SQL任务提交到Yarn

Session集群

中。

创建出Yarn

Session集群后,在node5节点上启动Flink

SQL客户端:

#启动SQL

客户端并指定yarn-session模式

[root@node5

bin]#

./sql-client.sh

-s

yarn-session

#退出Fl

文档评论(0)

越来越好 + 关注
实名认证
文档贡献者

该用户很懒,什么也没介绍

1亿VIP精品文档

相关文档